Türk əsillidir. Təhsilini Əndərunda almışdır. Saraydan çıxdıqdan sonra vəzirlik rütbəsilə Bağdad Bəylərbəyliyinə təyin edildi. Bundan sonra Diyarbəkir hakimi və dördüncü vəzir olaraq divan heyətinə qatılmışdır.

1623 tarixində baş verən sipahi üsyanı və Sədrəzəm Mere Hüseyn Paşanın İstanbuldan qaçması ilə sədarətə gətirildi. Yeni sədrəzəm olaraq İstanbuldakı ayaqlanmaları yatırmaq üçün, ilk öncə dövlət işləri ilə maraqlanmayan I. Mustafanı devirməli idi. Bunun üçün divan vəzirləri və şeyxülislam Zəkəriyyazadə Yəhya Əfəndinin razılığını almışdır. Görülən hazırlıqlardan sonra 9 sentyabr 1623 tarixində I. Mustafa taxtdan endirildi. 10 sentyabrda devrilmiş sultan keçmiş qəfəs otağına geri qaytarıldı və anası Həlimə Sultan köhnə saraya göndərildi. Onun yerinə 7 yaşlı IV. Murad taxta oturduldu. Yeni sultanın taxta oturması səbəbi paylanmalı olan cülus bəxşişi Qara Əli Paşanın məsuliyyətinə verildi. 1617-ci ildən bəri 6 il ərzində 4 dəfə sultan cülusu paylanmışdı və xəzinə bomboş idi. Sədrəzəm Əli Paşa Ocaq ağaları ilə danışaraq əsgərlərə pul ödənməməsi ilə bağlı məlumat verdi və onların razılığı alındı.

Sədrəzəmin bu hərəkətləri onun özbaşınalığına gətirib çıxartdı. Özünə rəqib gördüyü keçmiş sədrəzəmlər Kürəkən Xəlil Paşa və Gürcü Hadım Mehmed Paşanı Anadoluda baş verən üsyanı dəstəklədikləri bəhanəsi ilə onları aradan qaldırmaq istəyirdi. Ancaq bu vaxt Bağdadda çıxan Bəkir Subaşı üsyanı ilə Səfəvilər Bağdadı işğal etdi. Ancaq bu hadisəni Sultan IV. Muradın səltənət naibəsi Kösəm Sultandan gizlətdi.

Ancaq bütün bu hadisələr onun İstanbulda rüşvətxor olaraq tanınmasına gətirib çıxarmışdır. Nəhayət, Əli Paşanın əleyhdarları səltənət naibəsi Kösəm Sultanı sədrəzəmi sədarətdən qovmağa inandırdılar. Oğlu IV. Muradı inandıraraq Sədrəzəm Qara Əli Paşanı aradan qaldırmağa inandırdı. 3 aprel 1624 tarixində sədrəzəm saraya çağırıldı və boğularaq edam edildi. Cəsədi Divanyolunda yerləşən Köhnə Əli Paşa Məscidi məzarlığına dəfn olundu.