Səməd bəy Mehmandarovun 15 noyabr 1918-ci il tarixli əmri ilə "Ümumi qərargah" yaradılıb. Daha sonra 424-cü korpusunun Baş Qərargah rəisi, polkovnik Həbib bəy Səlimov Baş Qərargah rəisi təyin edildi. Qərargah avadanlıq, istehkam, növbətçi general, general-kvartirmeyster, topçu, tibb, hərbi təhsil və nəzarət şöbələrindən ibarət idi. Ayın sonunda Baş Qərargah Gəncəyə köçdü və fəaliyyətini orada davam etdirdi. Hərbi nazirin 1918 il 31 dekabr tarixli əmri ilə topçu şöbəsinin bazasında Baş topçu idarəsi yaradıldı və həmin struktur Ümumi qərargahın tərkibindən çıxarılaraq, birbaşa hərbi nazirin tabeliyinə verildi. 1919 ilin martında hərbi nazirin əmri ilə Ərkani-hərb (Baş qərargah) yaradıldı. Bununla əlaqədar general-kvartirmeyster, topoqrafıya şöbələri Ümumi qərargahın tərkibindən alınaraq, Ərkani-hərbə verildi. Yeni struktur dəyişikliyindən sonra Ümumi qərargahın səlahiyyətində, əsasən, qoşunların və xidmətlərin təminat və təchizat məsələləri qaldı. 1919 il avqustun 17-də imzalanmış əmrə əsasən, Ümumi qərargahın tərkibində olan nazirlik dəftərxanası hərbi nazirin özünə, "Praporşiklər məktəbi" ilə zirehli qatarlar Ərkani-hərb rəisinə, avtomobil hissəsi isə istehkam idarəsinin rəisinə tabe etdirildi. 1920 ilin martında ordunun ali idarəetmə strukturlarında aparılan islahatlardan sonra Ümumi qərargahla Ərkani-hərb yenidən birləşdirildi və onlann bazasında Azərbaycan ordusunun Qərargahı təsis edildi. Həbib bəy Səlimov qərargah rəisi təyin olundu.

2008-ci ildə NATO-ya inteqrasiyanı sürətləndirən Baş Qərargahın yeni bir quruluşu təyin edildi. Baş Qərargah yarı müstəqil bir quruluşa çevrilərək əvvəllər Nazirliyin əlində olan səlahiyyətləri qazandı. Müvafiq hesabata görə, Nazirliyin Müfəttişlik İdarəsi, eləcə də Hərbi Komissarlıq yenidən Baş Qərargahın tabeliyinə verildi. Mövcud Baş Qərargahın Təşkilati Səfərbərlik İdarəsi ləğv edilərək Hərbi Komissarlığa birləşdirildi. Quru Qoşunları Komandanlığı da Türk modelinə uyğun olaraq yaradıldı. Müdafiə Nazirliyinin mətbuat xidmətindən verilən məlumata görə, Baş Qərargah strukturunun Müdafiə Nazirliyindən ayrılmasını müzakirə etmək üçün Azərbaycan Müdafiə Nazirliyinin işçi qrupunun Müttəfiq Komandanlıq Çevrilmə mütəxəssisləri ilə görüşü keçirilib. Bundan sonra Baş Qərargah altı əsas şöbəyə bölündü:

• Şəxsi Heyətin İdarə Olunması üzrə Baş İdarə
• Baş Kəşfiyyat idarəsi
• Baş Əməliyyat və Döyüş Hazırlığı İdarəsi
• Dəstək Qüvvələri Komandanlığı
• Müdafiə Planlaşdırılması Baş İdarəsi
• Rabitə və İnformasiya Sistemləri Baş İdarəsi

26 iyul 2014-cü il tarixində Müdafiə Nazirliyində Müdafiə naziri general-polkovnik Zakir Həsənovun da qatıldığı Baş qərargahın qərargahı üçün yeni və müasir inzibati binanın təməl atma mərasimi keçirildi.

• Baş Qərargah rəisi (rəhbər) — Kərim Vəliyev
• Baş Qərargah Rəisinin müavini və Baş Əməliyyat İdarəsinin rəisi
• Baş Qərargah rəisinin müavini və İdeoloji İş və Mənəvi-Psixoloji Dəstək İdarəsinin rəisi
• Azərbaycan Prezidentinin hərbi məsələlər üzrə köməkçisi
• Azərbaycan Quru Qoşunları Komandanı — Hikmət Mirzəyev
• Azərbaycan Hərbi Dəniz Qüvvələrinin komandanı — Sübhan Bəkirov
• Azərbaycan Hərbi Hava Qüvvələrinin komandanı — Namiq İslamzadə

• general-mayor Şahin Musayev (22 yanvar 1992 — may 1992)
• polkovnik (s.i.) (may 1992 — may 1992)
• general-leytenant Valeh Bərşadlı (may 1992 — 4 sentyabr 1992)
• general-mayor Nurəddin Sadıqov (5 sentyabr 1992 — 17 iyun 1993)
• general-polkovnik Səfər Əbiyev (s.i.) (17 iyun 1993 — 2 noyabr 1993)
• general-polkovnik Nəcməddin Sadıkov (2 noyabr 1993 — 28 yanvar 2021)
• general-polkovnik Kərim Vəliyev (23 iyul 2021-ci ildən)