Vezetéknevét az 1910-es években változtatta meg Kabosra.
A hat gyermekes zsidó családban felcseperedő Gyula szülei azt szerették volna, ha pénzügyi vonalon, könyvelőként helyezkedik el, azonban Gyulát sokkal jobban érdekelte a színház. Beíratták a kereskedelmi iskolába, de ő csak három osztályt végzett el. Miután végzett középiskolai tanulmányaival Gáspár Jenő színésztársulatához csatlakozott. Kabos Gyula nagyon sok magyarországi színtársulatban és színházban játszott, 1926-ban telepedett le Budapesten.
A Fővárosi Operettszínházban számtalan darabban szerepelt, de 1929-ben a színház csődbe ment. Pályázatot írtak ki az igazgatói pozíció betöltésére, melyre Kabos Gyula is jelentkezett, összefogott Békeffi Lászlóval, hogy felvirágoztassák az Operettszínházat. A pályázatot megnyerték, emiatt felhagyott a szerepléssel. Ám minden igyekezete hiábavaló volt, a színház csődbe ment.
1931-től olyan nagy sikerű, klasszikus magyar filmek főszereplőjeként ismerhették meg a nézők a mozivásznon, mint például a Meseautó, A kölcsönkért kastély, vagy a Hyppolit, a lakáj. Bár a filmezéssel, színészkedéssel egyre nagyobb elismertségre tett szert, korábbi rossz döntései miatt továbbra is komoly anyagi problémákkal küzdött.
Sorsát az 1938-as zsidótörvény pecsételte meg, egyik napról a másikra közellenséggé vált. Filmjeit és színházi darabjait levették a műsorról. Kabos Gyula értetlenkedve állt a helyzet előtt, egyetlen pozitívum azt volt, hogy kiválóan beszélt angolul és németül. A kiutasított színész 1939-ben végleg kiköltözött feleségével az Amerikai Egyesült Államokba ahol szegénységben és magányban éltek.
Miután angol tudása színpadképessé vált elkezdett angol nyelvű darabokban játszani. 1941-ben egy brooklyni színházban játszott, amikor előadás közben váratlanul összeesett. Az orvosok szívproblémát állapítottak meg és pihenést írtak neki elő. A színész nem törődött a betegségével folytatta a szereplést. Második rosszulléte egy próba közben érte, majd a harmadik rosszulléténél már tüdőgyulladást is kapott.
1941. október 6-án hunyt el egy New York-i kórházban. 1996-ban földi maradványait Magyarországra hozták és a Farkasréti temetőben helyezték örök nyugalomra.