Balogh Károly a Szilágy megyei Krasznaczégényben született. Iskoláit Zilahon a református főgimnáziumban végezte, majd 1912-től a budapesti Orvostudományi Egyetem hallgatója lett. A világháború miatt tanulmányai félbeszakadtak, önként jelentkezett katonai szolgálatra. A háború után katonai érdemeinek elismeréseképpen vitézzé avatták.

Leszerelése után folytatja orvosi tanulmányait, 1920-ban avatták orvosdoktorrá. Kezdetben a Kórboctani Intézetben volt díjtalan gyakornok, majd 1921-ben átkerült a Szabó József vezette Stomatologiai Klinikára. Balogh Károly ekkor 5 éven át bentlakó orvos volt, ez állandó ügyeletet is jelentett számára. Ő rendezte be a klinika szövettani laboratóriumát. Közben fokozatosan előre lépett a ranglétrán is, 1925-ban tanársegéd, valamint az ambulancia és a fog- és szájsebészeti osztály vezetője, 1932-ben pedig adjunktus lesz. 1933-ban magántanári képesítést nyert, a Fogbetegségek kór- és gyógytana tárgykörből.

1935-1940 között magángyakorlatot folytat, mivel Szabó professzor nem hosszabbítattja meg kinevezését. 1940-ben kapta meg főorvosi kinevezését a fővárosi Szent István Kórház újonnan létesített fogbetegosztályára. 1942-ben Balogh tervei alapján egy korszerű 17 ágyas szájsebészeti-fogászati osztályt alakítottak ki a kórházban. Az osztályon a betegellátás mellett megindult a tudományos munka is.

Tanszékvezetői kinevezését 1944-ben kapta meg, miután Máthé Dénes halálával megüresedett a stomatológiai tanszék vezetői posztja. A német megszállás alatt igyekezett menteni a klinika javait, ellenszegült a kitelepítési parancsnak így a klinika műszer- és felszerelés állománya, könyvtára nagyobb veszteség nélkül vészelte át Budapest ostromát. 1945 tavaszán a klinika földszinti helyiségeiben mostoha körülmények között, de megindult a rendelés.
Balogh Károly és munkatársai a tudományos élet újraindításában is jelentős szerepet vállaltak. Szakfolyóiratok még nem jelentek meg, de a klinika orvosai három tanulmánykötetet jelentettek meg. Az ostrom utáni elsőként megjelent orvosi szakmunka a Máthé Dénes emlékkönyv volt.

Balogh Károly oroszlánrészt vállalt az új rendszerű fogorvosképzés bevezetésében. Klinikáján új osztályokat, részlegeket szervezett. Az oktatás és tudományos tevékenység szorosan összefonódva élt egymás mellett a karon. Balogh professzor is termékeny író volt, talán egyik legfontosabb műve A stomatologia tankönyve című munkája, mely 1948-ban jelent meg, majd 1950-ben a Fogászat című mű, melyet Schranz Dénessel és Boros Sándorral közösen írt, később pedig Szájsebészet című munkája. A könyvek a fogászat minden ágával foglalkoztak, és évtizedeken keresztül tanultak belőle az egyetemi hallgatók.
Munkatársaival közösen több monográfiát is írt német nyelven.
A hazai tudományos élet „pénteki ülései” is nevéhez fűződnek, a budapesti klinikán minden pénteken reggel tudományos üléseket tartottak, melyeken a magyar fogorvos társadalom legjelesebb képviselői adtak elő.

Balogh Károly az 1946/47-es tanévben az orvosi kar, majd 1955-1964 között a fogorvosi kar dékáni tisztét is betöltötte.
Tudományos és közéleti munkáját több díjjal, kitüntetéssel is elismerték (Munka Érdemrend aranya fokozota, Népköztársasági Érdemérem arany fokozata, MTA akadémiai jutalom I. fokozta). Az Árkövy József emlékérmet Balogh professzornak ítélték oda elsőízben 1963-ban. 1952-ben elnyerte az orvostudományok doktora címet.

1966-ban vonult nyugalomba, de mint szaktanácsadó továbbra is segítette a klinika munkáját. 1973. május 4-én hunyt el.
Varga István nekrológjában ekképpen méltatta Balogh Károly érdemeit: „Halálával szakmánk hazai történetének dicsőséges korszaka zárult. Balogh Károly hatása csak Árkövyével mérhető össze. Árkövy a Stomatologiai Klinika létesítését harcolta ki, Balogh pedig a Fogorvostudományi Kart hívta életre. Igényes teljesítményeket elsősorban önmagától várt, de munkatársait, tanítványait is serkenteni tudta, és kész volt segíteni bárkit, ki tanácsért, támogatásért hozzá fordult. Segítőkészségére jellemző professzori kinevezésekor a Fogorvosi Szemlében megjelent beköszöntője, melynek néhány mondatát idézem: „Kitárom a klinika kapuit a szakma minden gyakorlati és tudományos kérdése előtt. Támogatni kívánok minden gondolatot, mely haladást, fejlődést céloz. De támogatója kívánok lenni minden hozzám forduló kartársnak és betegnek egyaránt.”