2 oktyabr 971-ci ildə, Səbuk Təkinin və lı bir türk əsilzadənin oğlu olaraq doğulmuşdu. 994-cü ildə Samanilər dövlətinə xidmət edən Mahmud tərəfindən Xorasan hakimliyini almışdı.

Qardaşı İsmail Qəznəvini digər qardaşı Nurəddin və əmisi Buğracoq ilə birlikdə devirərək hakimiyyətə gəldi. Tarixdə ilk dəfə «sultan» titulu Mahmuda verilmişdir. Samanilər dövləti 999-cu ildə dağıldı, onun ərazisi Qəznəvi və Qaraxanlı dövlətləri arasında bölüşdürüldü. Nəticədə keçmiş Samani torpaqları olan Xorasan, Xarəzm, Sistan və indiki Əfqanıstan qatıldı.

Mahmud Qəznəvi 1001-1026-cı illərdə 17 dəfə Hindistana hücum etmişdi. Onun şimal və şimal-şərq torpaqlarını, yəni Kəşmir, Pəncab, Qucarat vilayətlərini Qəznəvi dövlətinə qatmış, Hindistandan çoxlu qənimət əldə etmişdi. Mahmud hakimiyyətini qərbi İranda yaymaq məqsədilə 1029-cu ildə Rey, Həmədan və İsfahan əyalətlərini, az sonra Gur əyalətini tutdu. Sultan Mahmudun hakimiyyətinin son dövründə Qəznəvi dövləti Hindistandan Xarəzmə və Xəzər sahili torpaqlara qədər ərazini əhatə edirdi.

1002-ci ildə I Xələfi devirərək Səffarilər dövlətinə son qoymuşdu. 1008-ci ildə Racput Konfederasiyasını məğlub edən Mahmud Şahilər sülaləsini Hindistanın dərinliklərinə qovdu. Sultan Mahmud hinduizmə nifrət edirdi və hər hücumunda onlarla məbəd dağıdılırdı. O Rey və İsfahan kitabxanalarını Qəznəyə köçürmüşdü.

Sultan Mahmud, eyni zamanda fars dilinə üstünlük verib, fars dilini ərəb dili yerinə rəsmi divan dili seçmiş və fars dilinin şah əsəri və ana kitabı olan Şahnamənin yazılmasını Firdovsidən istəmişdir. Onun dərbarı farsca yazan şairlərin mərkəzi olmuş və o dörd yüzdən artıq şairin yaşayışını təmin etmiş və İranın kənd və şəhərlərinə dari farscasını yaymaq üçün minlərcə müəllim göndərmişdir.

Qəznəvi dövləti feodal monarxiyası idi. Dövləti sultan idarə edirdi. Sultan Mahmud mərkəzi hakimiyyəti möhkəmləndirirdi, bu məqsədlə mülki əsilzadə, qulamlardan ibarət hərbi əyanlara, türklərdən ibarət hərbi əyanlara arxalanırdı. Sultan Mahmudun ordusunda yüksək hərbi intizam var idi. Ordunun əsasını türk əsilli qulamlar (qvardiya) təşkil edirdi. Qəznəvi ordusunda «qazilər» deyilən könüllü döyüşçülər iştirak edirdi. Hərbi yolla əldə edilən qənimət ordu və dövlət məmurlarını təmin etmirdi. Dövlət ildən-ilə vergini artırırdı. Kəndlilər, sənətkarlar, tacirlər var-yoxdan çıxırdı. Sultan Mahmud Qəznə şəhərinin inkişafına kömək edirdi.

Mahmud Qəznəvi 971-ci ildə 2 oktyabrda Qəznədə anadan olmuşdu. Kövsəri Cahan adlı xanımından ekiz oğulları olan Məsud və Məhəmməd doğulmuşdu. Bacısı Sitri Muallanı şiə alim ilə evləndirmişdi. Sultan Mahmud həm də biseksual idi. Məlik Ayaz adlı qulamı ilə sevgisinə dair hekayələr və şerlər yazılmışdır.

Həyatının son 4 ilini Oğuzlar və Səlcuqlarla mübarizəyə ithaf edən Mahmud 1030-cu ildə vəfat etdi. Mavzoleyi Qəznədədir. Yerinə oğlu Məsud keçdi.