... Örökké képezte magát. Éppen ezért dühítette, hogy a könyvtárakban rosszul voltak katalogizálva az orvosi könyvek, és pont a legfrissebb szakirodalmat nem lehetett megtalálni az dokumentumáradatban. Amikor ezt elpanaszolta barátjának, Szabó Ervinnek, a Fővárosi Könyvtár új főigazgatójának, azt a választ kapta, hogy csináljon akkor jobb katalógust. Madzsar otthagyta jól jövedelmező fogorvosi praxisát, és aligazgatói állást vállalt a könyvtárban. Bevezette a ma is használt tizedes osztályzást, majd hozzálátott a fiókkönyvtári hálózat létrehozásához. "Legszemélyesebb művének" az Almássy téren kialakított fiókot tartotta, ahol az első magyar gyerekkönyvtár is helyet kapott.

Anyai ágon cseh, apai ágon magyar családban született 1876-ban, Budapesten. Nagy műveltségű, zeneszerető apját Nagykárolyba nevezték ki távírdafőnöknek, így József és két évvel fiatalabb öccse, Imre az erdélyi városban nőttek fel. A fiúk életét meghatározta az apjuk modernitás iránti rajongása. Magyarországon ők voltak az egyik első telefon-előfizetők, apjuk laboratóriumot is berendezett nekik, ahol fizikai kísérelteket végeztek. Sajátos nevelési elvei alapján az apa minden nyáron más iparosmester műhelyébe adta be őket tanoncnak, hogy belelássanak a különböző szakmák rejtelmeibe. Madzsar József talán ennek köszönhette, hogy elveit később is gyakorlatba tudta ültetni.