Baba Əliyev 1877-ci ildə Bakının Mərdəkan qəsəbəsində anadan olmuşdur. İbtidai təhsil almışdır. 1905-ci ildən Rusiya Kommunist Partiyasına üzv qəbul edilmişdir. 1905–1907-ci illərdə Balaxanı-Sabunçu fəhlə rayonunda Hümmət Partiyasının, tətil və nümayişlərin təşkilatçısı olmuşdur. 1910-cu ildə partiyanın tapşırığına əsasən İran inqilabına (milli-azadlıq hərəkatına) kömək məqsədilə bu ölkəyə getmişdir. 1917–1918-ci illərdə Azərbaycanda sovet hakimiyyətinin qurulması üçün mübarizə aparmış, Bakı kommunasının süqutundan sonra Həştərxana getmiş və "Hümmət" təşkilatının yerli bürosuna sədr seçilmişdir. Şimali Qafqazda və Dağıstanda sovet hakimiyyətinin qurulmasında iştirak etmişdir. 1920-ci ilin aprelində XI Qırmızı ordunun tərkibində Bakının işğalında iştirak etmiş, 1920-ci ilin iyun ayından həmin ilin oktyabr ayının 19-na qədər Azərbaycan Fövqəladə Komissiyasının sədri olmuşdur. Azərbaycanda sovet hakimiyyəti bərqərar edildikdən sonra həmçinin, İnqilab Tribunalının sədri, "Azərbaycan" trestinin rəisi, Azərbaycan SSR XKS yanında Yol İnşaatı Komitəsinin və Azərbaycan Qırmızı Aypara Cəmiyyəti MK-nin sədri vəzifələrində çalışmışdır. 1920-ci ilin sentyabrında Bakıda keçirilmiş Şərq xalqlarının I qurultayında iştirak etmişdir. Azərbaycan SSR və ZSFSR MİK-nə üzv seçilmişdir.