Karol Ondreička pôsobil počas svojho života v mnohých hudobných zoskupeniach. Jeho prvou skupinou bolo Kvinteto Karola Ondreičku, ktoré založil v roku 1956. V 60. rokoch sa stal lídrom skupiny Combo 4. V tomto období sa venoval aj publicistike (v časopise Mladá Tvorba). V 70. rokoch sa stal členom Kvarteta L. Gerhardta, kde pôsobil aj v ďalšom desaťročí a spolupracoval s významnými zahraničnými hudobníkmi, akými boli Švéd Bernt Rosengren, Rakúšan Hans Koller, či Američania Kenny Wheeler a Charlie Mariano.
V roku 1982 vytvoril Trio Karola Ondreičku, ktoré okrem neho tvorili Petr Kořínek a Josef Vejvoda. Vystúpili na bratislavskej Gitariáde 1982. Trio existovalo dva roky, vytvorilo niekoľko nahrávok pre Československý rozhlas v Prahe.
Od roku 1990 účinkoval s Kvartetom L. Gerhardta v divadle Freie Bühne vo Viedni s rakúskou speváčkou Topsy Küppersovou. Začiatkom 90. rokov sa venoval príležitostným spomienkovým projektom so skupinou Traditional club. V roku 1993 sa stal lídrom Karol Ondreička Quartet (po odchode jedného z členov len Trio). V roku 1996 spoluzaložil Karol Ondreička and Stano Počaji Band. O rok neskôr nahral hudbu k filmu Tábor padlých žien (autorom hudby bol Rudolf Geri). V tom istom roku režisér Ján Fajnor nakrútil film Človek uprostred – profil Karola Ondreičku.
V roku 1998 absolvoval turné po Nemecku, Švajčiarsku a Rakúsku s orchestrom Novej scény s predstavením Ples v hoteli Savoy.
Karol Ondreička prešiel vývojom od cool jazzu, cez west coast jazz, soul jazz až po modálny jazz. Je považovaný za lyrického gitaristu zdôrazňujúceho melódiu a vrúcnosť.
Držiteľ ceny L. Martoníka za rok 2011.