Çabej lindi në Gjirokastër, ku mori mësimet e para. Kreu gjimnazin në Klagenfurt (Austri) dhe ndoqi studimet e larta për gjuhësi krahasuese indoeuropiane dhe albanologji në Universitetin e Gracit e më pas në Universitetin e Vjenës, ku u diplomua si “Doktor në filozofi” më 1933. Punoi si mësues i gjuhës dhe letërsisë shqipe në shkolla të mesme në Shkodër, Elbasan, Gjirokastër, Tiranë. Më 1940 u mënjanua nga arsimi për shkak të përkrahjes së veprimeve antifashiste të nxënësve dhe u dërgua në Romë ku punoi për atlasin gjuhësor shqiptar. U kthye në atdhe më 1944, punoi në Institutin e Shkencave dhe qe ndër pedagogët e parë të Institutit të Lartë Pedagogjik Dyvjeçar. Me themelimin e UT rifilloi veprimtarinë mësimore si pedagog i lëndëve histori e gjuhës shqipe dhe fonetika historike e shqipes. Punoi në Institutin e Gjuhësisë dhe të Letërsisë deri në fund të jetës. Vdiq në Romë.
Dha ndihmesa të rëndësishme veçanërisht në arsimin e lartë dhe në gjuhësinë shqiptare. Hartoi tekstet e disa lëndëve kryesore, ishte bashkautor në një varg veprash kolektive. Veprimtaria e tij shkencore u shtjellua kryesisht në gjuhësi, por u shtri edhe jashtë saj, sidomos në folklor, etnografi, histori të letërsisë. Fusha themelore e tij ka qenë historia e gjuhës, e vështruar në aspektet e problemet më të ndryshme të saj. Vendin qendror e zënë studimet etimologjike dhe gjuha e autorëve të vjetër e botimi filologjik i veprave të tyre. Por mjaft peshë kanë edhe fonetika e gramatika historike e shqipes, historia e përgjithshme e shqipes me problemet e prejardhjes së saj, të marrëdhënieve me gjuhët motra indoeuropiane, me gjuhët ballkanike e me gjuhë të tjera. Ai argumentoi në mënyrë bindëse prejardhjen ilire të gjuhës shqipe e të popullit shqiptar, autoktoninë e tij në trevat ku banon sot, vuri në dukje rolin dhënës të shqipes ndaj gjuhëve me të cilat ra në kontakt dhe unitetin e kulturës materiale e shpirtërore shqiptare. Ndër veprat e tij përmenden: “Për gjenezën e literaturës shqipe” (1939), “Hyrje në historinë e gjuhës shqipe” (1947, 1958), “Fonetika historike e shqipes” (1958), “Shqiptarët ndërmjet Lindjes dhe perëndimit” (1994), “Studime etimologjike në fushë të shqipes” (në shtatë vëllime, 1976–2006); “Meshari” i Gjon Buzukut (1555)”, botim kritik në dy vëllime, i pajisur me një studim të gjatë hyrës (1958), “Shumësi i singularizuar në gjuhën shqipe” (1967)”, “Studime për fonetikën historike të gjuhës shqipe” (1988) etj.
Çabej ishte anëtar i komisionit hartues të “Fjalorit të gjuhës shqipe” (1954), anëtar i komisioneve që punuan për hartimin e udhëzuesve drejtshkrimorë nga viti 1948 deri në “Drejtshkrimin e gjuhës shqipe” (1973); bashkautor (me A. Xhuvanin) në dy trajtesat “Parashtesat” dhe “Prapashtesat e gjuhës shqipe” (1956, 1962). Me botimet e shumta edhe në revista gjuhësore të huaja, si dhe me pjesëmarrjet në forume shkencore ndërkombëtare Çabej u njoh si autoriteti shkencor më në zë në albanologji. Ka marrë Çmimin e Republikës të shkallës së parë (dy herë) dhe është dekoruar me Urdhrin “Nderi i Kombit”.
