Rövid leírás
Szegedi kiskereskedő családból származott, apja Kleinmann Jakab, anyja Krámer Regina. Középiskoláit a szegedi piarista gimnáziumban és Pesten végezte. A szegedi királyi főgimnáziumban érettségizett (1862). A bécsi egyetemen filozófiai s filológiai tanulmányokkal foglalkozott, az egyetemen tanára volt Robert von Zimmermann cseh származású osztrák herbartista filozófus (1862–1865). Hazatérése után Szegeden rabbinikus teológiai, bölcseleti és filológiai tanulmányokat folytatott. A pesti egyetemen bölcsészdoktori s magiszteri oklevelet szerzett (1866).
Lőw Lipót ajánlásával a Pesti Kereskedelmi Akadémián és pesti középiskolákban izraelita vallástant tanított (1868–1870). Részt vett a tanáregyesület gyűlésein, neve csakhamar ismeretessé vált pedagógiai s tanügyi kérdéseknél. Ennek köszönhette, hogy Eötvös József vallás- és közoktatási miniszter kiküldte a lipcsei egyetem gyakorlati tanárképzésének tanulmányozására (1869). Lipcsében az egyetemi tanárképzést átalakító vezetőjének, Tuiskon Zillernek bizalmát pedagógiai készültségével annyira megnyerte, hogy az mindjárt kinevezte az egyetemhez szervezett gyakorló elemi iskolai presbitériumának elnökévé, s avval is megbízta fiatal tanítványát: készítse el az iskola új szervezeti és tanulmányi rendjét. Megismerkedett – ekkor a városban élő – Wilhelm Reinnel, a herbartiánus pedagógia másik jelentős személyiségével.
Visszaért Pestre (1871. ősz), s a Pesti Királyi Magyar Tudományegyetem magántanáraként elkezdte az Egyetemen a pedagógia, etika és pszichológia oktatását (1872)
Elkészítette, az általa javasolt gyakorló főgimnáziumi szabályzat tervezetét és az Egyetem mellé szervezett Középiskolai Tanárképző Intézethez a bölcselet és pedagógia tanári feladatainak ellátására kapott megbízatást. A Pauler Tivadar közoktatási miniszter által engedélyezett gimnáziumi gyakorlóiskola (mintaiskola) megnyitását (1872. május 16.) követően kinevezték az iskola pedagógiai vezetőjévé (1872. augusztus 28.). Kezdettől fogva szívvel-lélekkel foglalkozott a középiskolai tanárjelöltek gyakorlati tanításával, s nemcsak szóval, hanem példaadásával is ő honosította meg Magyarországon a Herbart-féle pedagógiai elméleten, és gyakorlati pszichológián alapuló tanítási módszert, módszerességet, melynek külföldön a lipcsei Ziller, a hozzá hasonló elméleti alapokon működő jénai Wilhelm Rein és a prágai Otto Willmann voltak a legkiválóbb képviselői. Míg azonban azok inkább a népiskolai tanítással kapcsolatban közvetítik a herbarti-tanítás módszertanát, addig ő a Herbart–Ziller–Karl Volkmar Stoy-féle irányt nagy önállósággal és rendkívüli szervezőképességgel a teljes gimnáziumi képzés folyamatában valósította meg. Magyarországon a gyakorlati tanítás terén Herbart szellemébe senki se hatolt be oly mélyen, mint ő. E téren egy olyan magyarországi pedagógiai iskola vezető teoretikusa, alapítója lett, mely mellőzte a 19. század végén a német herbartista pedagógiában erőteljesebben jelentkező sablonszerűségeket, és szigorúan megokolt etikai–pszichológiai elvekre épülőn, a nemzeti sajátosságok érvényesítésének törekvése jellemezte.
A Országos Közoktatási Tanács rendes tagja (1873–1915), illetve jegyzője (1873–1883) volt. Új gimnáziumi tantervet és utasításokat szerkesztett, ezekben új alapokra fektette a magyarországi gimnáziumi oktatást és új irányt adott a magyarországi művelődésnek (1879). Súlyos betegsége miatt gyakorlóiskolai tanári és az iskola pedagógiai vezetői állásáról lemondott (1897). Részt vett és előadást tartott a II. Egyetemes Tanügyi Kongresszuson (1896. július 2–8.). Gyógyulása után mint az elméleti pedagógiai ügyek előadóját a Vallás- és Közoktatásügyi Minisztériumba osztották be (1907). Ferenc József császár és király egyik unokaöccse, Albrecht főherceg tanítását is rábízták. – A magyar közoktatásban végzett érdemeiért magyar nemességet kapott (1908), egyetemi nyilvános rendes tanár lett (1909). Részt vett, és előadást tartott a III. és a IV. Nemzetközi Filozófiai Kongresszuson (Heidelberg – 1908. augusztus 31–szeptember 5; Bologna – 1911. április 6–11.), és két Nemzetközi Erkölcsi Nevelési Kongresszuson (I. London – 1908. szeptember 25–29. és II. Hága – 1912. augusztus 22–27.).
Egy anekdota: Kármán Mór nagyon szerény ember volt, és amikor Munkácsy Krisztus Pilátus előtt című festményén Krisztusban sokan ráismertek, így tiltakozott:
„Krisztus már régen példaképül szolgál nekem, de hogy valaha én szolgáljak mintául Krisztusnak, azt sose hittem volna.”
Öt gyermeke volt: Ferenc, Elemér, Tódor, Miklós és Jozefin.
Sírja Budapesten a Kozma utcai izraelita temető 5A–18–1 sírhelyén található.