Qara Əbülfəz oğlu Qarayev Bakıda anadan olub. Azərbaycan Dövlət Konservatoriyası yanında Musiqi məktəbində (1926), Azərbaycan Dövlət Konservatoriyası yanında Musiqi Texnikumunda (1930, Yeni işçi fakültəsi – G.Şaroyevin fortepiano sinfi), Azərbaycan Dövlət Konservatoriyasında (1931-1938, L.Rudolfun Bəstəkarlıq, Ü.Hacıbəyovun Xalq musiqisinin əsasları sinfi), P.Çaykovski adına Moskva Dövlət Konservatoriyasında (1938-1940, A.Aleksandrovun Bəstəkarlıq sinfi / 1944-1946, D.Şostakoviçin sinfi) təhsil alıb. Filarmoniyanın bədii rəhbəri (1941), Konservatoriyanın direktoru (1949-1953), SSRİ Ali Sovetinin deputatı, Azərbaycan Bəstəkarlar İttifaqının birinci katibi (1956-1973) işləyib. Milli musiqi ilə klassik və müasir üslublarin üzvi birliyi, mövzuların romantik şərhi yaradıcılığının spesifik xüsusiyyətlərindəndir. Əsərləri arasında Fortepiano üçün “Matəm preludiyası”, “Üçsəsli fuqa”, “Sonatina”, “Azərbaycan rapsodiyası”, Səs ilə fortepiano üçün “Altı Azərbaycan xalq mahnıları işləmələri”, Fortepiano ilə simfonik orkestr üçün “Sevinc poeması, Nəfəsli orkestr üçün “İdmançılar süitası”, “Azərbaycan marşı”, “Bakı neftçilərinin marşı”, Xor üçün “Layla”, Simfonik orkestr üçün “Azərbaycan süitası”, Simli Kvartet üçün “Fuqa”, Xalq çalğı alətləri orkestri üçün “Aşıq marşı”, “Don Kixot” simfonik qravürləri, “Leyli və Məcnun” simfonik poemas, “Vətən” operası, “Yeddi gözəl”, “İldırımlı yollarla” baletləri var. Teatr tamaşası, kino və müzikllərə musiqilər yazıb.

Xarici film istehsalçılarının “Tarix dərsi” (1956, rejissor Leo Arnştam / Rusiya, Bolqarıstan), “Don Kixot” (1957, rejissor Qriqori Kosinçev / Rusiya), “Qızıl eşelon” (1959, rejissor İlya Qurin / Rusiya), “Qoya” (1971, rejissor Konrad Volf / Almaniya, Rusiya, Bolqarıstan, Yuqoslaviya) filmlərinə musiqilər bəstələyib.

“Vətən” operasına görə SSRİ Dövlət mükafatına, “Leyli və Məcnun” simfonik poemasına görə Azərbaycan Dövlət mükafatına, “Bir məhəlləli iki oğlan” filminin musiqisinə görə I Ümumittifaq sovet filmləri festivalının mükafatına, “İldırımlı yollarla” baletinə görə Lenin mükafatına layiq görülüb.

Əməkdar incəsənət xadimi (1955), Azərbaycan (1958) və SSRİ Xalq artisti (1959), SSRİ Dövlət mükafatları laureatı (1946, 1948), Lenin mükafatı laureatı (1967), Sosialist Əməyi Qəhrəmanı (1978), Akademik (1959) Qara Qarayev 1982-ci ildə Moskvada vəfat edib, Bakıda Fəxri Xiyabanda dəfn olunub.

Bəstəkar Qara Qarayev bəstəkar Fərəc Qarayevin atasıdır.