Kai Hyttisen musiikkiopinnot alkoivat viulutunneilla musiikkiopistossa ja hän soitti kontrabassoa koulun orkesterissa. Myöhemmin instrumentiksi vaihtui kitara.
Vuonna 1964 Hyttinen perusti Sakari Pipatin kanssa lauluduon The Cones, jossa molemmat soittivat myös kitaraa. Duon koelaulu Fazerilla Toivo Kärjenkuunneltavana ei vielä tärpännyt, mutta vuonna 1966 Kai Hyttinen pääsi soolona levyttämään kappaleen ”Tyttö”, joka oli käännösversio Beatlesin hitistä ”Girl”.[2]Ensilevytys oli heti menestys samoin kuin vuoden 1966 käännöskappale ”Mustaa” (Rolling Stonesien ”Paint it black”). Muita tunnettuja 1960-luvun levytyksiä olivat muun muassa ”Käymään vain”, ”Muistan kesän” ja ”Bella ciao”.
1970-luvulla syntyi hitti toisensa jälkeen. Menestyneitä kappaleita olivat muun muassa ”Tuulen tie”, ”Flirtaten”, ”Dirlanda”, ”Nosta lippu salkoon”, ”Vie vain”, ”Tuikku murheeseen”, ”Naiset”(sailor – girls girls girls), ”Olen elänyt vain sulle”, ”Saanhan olla hän”, ”Copacabana” ja ”Varpunen”.
1980-luvulla hitiksi nousi Hyttisen oma sävellys Kurki (1985), mutta sen jälkeen levytysrintamalla hiljeni ja Kai Hyttinen laajensi skaalaansa opiskelemalla muun muassa musiikkiteatteria sekä kirkkomusiikkia.[3] Esiintymisiä on ollut muun muassa musikaaleissa, konserteissa Kaj Chydeniuksen laulujen tulkkina sekä television musiikkisarjassa Neljän tuulen tiellä. Tunnetuimpia TV-töitä ovat rooli sarjassa Samaa sukua, eri maata sekä Salatut elämät jossa hän näytteli Antti Jääskeläistä. Hyttinen esiintyy tv:ssä 2010 Lomaräätälit ohjelmassa. Hyttinen nähdään myös suositussa Lehmän vuosi -sarjassa kunnanlääkäri Jouko Puurtisen roolissa. Hyttinen on sekä säveltänyt että sanoittanut omaa tuotantoaan.
Vuonna 2007 Kai Hyttinen julkaisi albumin Timo K. Mukan runoja, johon sävellykset ja sovitukset on tehnyt Jari Vanha.
Vuonna 2013 Kai Hyttiseltä julkaistaan albumi Kosketus, jolla kaikki kappaleet ovat Rauno Lehtisen sävellyksiä. Sovitukset ovat Antti Hyvärisen käsialaa. Levyn julkaisee Turun Tähtituotanto Oy fifty-fifty records -levymerkillään.
Hyttinen asui ennen Enontekiön Kilpisjärvellä, jossa hän toimi eräoppaana Vihreä Viikuna Oy:ssä. Nykyään hän asuu Joensuussa ja opiskelee ortodoksista kirkkomusiikkia. Keikkoja hän tekee edelleen harvakseltaan. Hän näyttelee myös kesäteattereissa.