7 dekabr 967-ci il tarixində Xorasanda Sərəxs ilə Əbivərd arasında olan bölgəsində Meyhənə (Mihnə) qəsəbəsində doğuldu.Atası Əbülxeyr Əhməd sufilərin dostu olan və səma məclislərinə davam edən bir əttardı. Uşaqlığını Məyhənədə keçirən Əbu Səid atasıyla birlikdə getdiyi səma məclislərində təsəvvufu tanıdı. Sufi şair Əbülqasım Bişr-i Yasinin dərslərinə davam edib dil və ədəbiyyat elmlərində ondan faydalandı, şeir və təsəvvüf anlayışından da təsirləndi. Ondan öyrəndiyi şeirləri çeşidli söhbət məclislərində oxudu və bu şeirlər onun üçün ilham qaynağı oldu. Bir rəvayətə görə 30.000 beyt əzbərləmişdi.

Əbu Səid fiqh, təfsir və hədis bilgisini irəlilətmək üçün Mərvə getdi. Burada Şafei fiqh alimi Əbu Abdullah Məhəmməd ibn Əhməd əl-Hazrinin (Husri, ö. 373/983 [?]) vəfatından sonra beş il Əbu Bəkir Abdullah ibn Əhməd əl-Kaffal əl-Mərvəzinin dərslərinə davam etdi. Daha sonra Sərəxsə gedərək Əbu Əli Zahir b. Əhməddən təfsir, fiqh usulü və hadis dərsləri aldı. Burada dönəmin məşhur sufilərindən Loğman-ı Sərəxsi ilə tanış oldu. Loğman onu Əbu Nasr əs-Sərracın müridlərindən Şeyx Əbülfəzl Məhəmməd ibn Həsən əs-Sərəxsi ilə tanış etdi. Əbül-Hayr, zikir təlkin ədən bu şeyxdən ciddi surətdə təsirləndi, tövsiyəsinə uyub Məyhənəyə döndü. Yeddi il zahid hayatı yaşadı, tahammül edilməsi çətin sınaqlardan sonra təkrar Səraxsa döndü. Şeyx Əbül-Fazl burada onu daha da çətin sınaqlara çəkib bir müddət sonra Məyhənəyə göndərdi. Əbu Səid Məyhənədə məscidlərin təmizliyiylə məşğul olur, hər namaz öncəsi cuş olur, davamlı susur, yamaq üstünə yamaq vurulduğu üçün ağırlaşan bir çuxa giyiyor, yirmi otuz gün kalmak üzərə sahralara çıkıyor, buralarda inzivaya çəkiliyor, dərin düşüncələrə dalıyordu. Nə kadar şiddətli riyazətlərə və çətin çilələrə girdiğini anlatmak için, Babil Kuyusunda baş aşağı asılarak çilə çıkardıkları rivayət ədilən Harut və Marut gibi bazan bir ağaca kəndini ayaklarından asarak, bazan da bir kuyuya baş aşağı sarkarak çilə çıkardığı (çillə-i makusə), Kuran okuduğu və bu durumda namaz kıldığı (salat-ı maklubə) rivayət ədilir. Daha sonra təkrar Sərahsa gidən Əbu Səid bu çiləli hayata Əbül-Fazlın yanında da dəvam ətti. Ardından şəyhin tavsiyəsinə uyup Nişabura gitti. Burada İmamül-Harəməyn əl-Cüvəyni, Əbül-Kāsım əl-Kuşəyri gibi alim və mutasavvıflarla tanıştı. Daha öncə Sərahsta Əbül-Fazldan hırka giyip giymədiği bilinməyən Əbu Səid, Nişaburda ünlü sufi Əbu Abdurrahman əs-Süləmidən hırka giydi.

Bəzi rəvayətlərə görə irşad faaliyətinə başlamadan Məyhənəyə dönərək burada çiləli hayatına davam etdi. Əbivərd ilə Sərəxs arasında yeddi il inzivaya çəkildi, bu müddət içində ot və yarpaq yeyərək yaşadı. Bu arada şeyxi Əbül-Fəzl vəfat etdiyindən Amulə gedib Əbül-Abbas Ahməd b. Muhamməd əl-Kassaba intisap etdi; ikinci hırkayı da ondan giydi. Bu zatın vəfatı üzərinə Məyhənəyə döndü. Gəcələri uyumuyor, namaz kılıyor, zikirlə məşgul oluyor, gündüzləri həp oruç tutuyor, hiç dinlənmiyor, daima kıbləyə yönəlmiş bir haldə bulunmaya çalışıyor, haramlardan sakınıyor, güzəl şəylərə bakmıyor, sürəkli təslimiyət göstəriyor, ən azla yətiniyor, vaktini məsciddə və təkkədə gəçiriyor, kötü yərlər olduğuna inandığı için çarşı pazara uğramıyor və kimsənin kusurunu görmüyordu. Bu çəşit on səkiz əsası başarıyla uyguladığı için nəfsindən fani olduğuna kanaat gətirdiktən sonra halkı irşada başladı. Nişabur və Məyhənədəki təkkəsində çəvrəsində çok sayıda mürid toplandı.

Əbu Səid təkkədə bazan sabahlara kadar səma və raks ədiyor, nara atıyor, aşıkanə şiirlər və ilahilər okuyup coşuyor, sohbətinə katılanları galəyana gətiriyordu. Sık sık düzənlənən davətlərdə və ziyafət sofralarında coşkulu səmalar yapılıyordu. Üzərində para taşımamayı, sərvət ədinməməyi və hiçbir şəy biriktirməməyi adət ədinən Əbu Səidin səma məclislərini hizmətçisi Hasan-ı Müəddəb düzənliyordu. Bu məclislərdə yapılan masraflar əmir və zənginlərin bağışlarıyla, bazan da borç para ilə karşılanırdı. Əbu Səid, ölümündən kısa sürə öncə Gaznədəki Vəzir Nizamülmülktən borçlarını ödəməsini rica ətmiş və bu diləği yərinə gətirilmişti.

Əbu Səidin tasavvuf silsiləsi Əbül-Fazl, Əbu Nasr əs-Sərrac və Əbu Muhamməd Mürtaiş vasıtasıyla Cüneyd-i Bağdadiyə çatır. Fəqət Əbu Səid, Bayəzid-i Bistami və Həllac-i Mənsur tərzi bir təsəvvüf anlayışına sahib idi. Onlar kimi şathiyələr söyləmiş, gəldiği zaman gönlündən gəçənləri sərbəstçə ifadə ətməktən çəkinməmiştir. Səma məclislərindəki hali də daha sonra bu gələnəği dəvam əttirən Mövlanənin halinə bənzər. Bu məclislərdə, sohbət toplantılarında və vaazlarda söylədiği sözlər və okuduğu aşıkanə şeirlərlə çəvrəsindəkiləri dərindən ətkiləyən Əbu Səidin şöhrət və nüfuzu o kadar çok yayıldı ki yərə attığı karpuz kabuğu bilə təbərrükən alınıyor və yirmi dinara müştəri bulabiliyordu. Komşularından birçoğu onun manəvi təsirində kalarak içkiyi və bənzəri kötü alışkanlıkları bırakmışlardı. Çağdaşı İbn Hazmın anlattığına görə ünü Əndülüsə kadar ulaşmıştı.

Təkkə adabının ilk dəfa Əbu Səid tərəfindən təsbit ədildiği kabul ədilir. Onun tasavvufta kəndinə has bir yol açtığını, təkkə inşa əttiğini, gündə iki dəfa sofra kurduğunu söyləyən Kazvini, bütün tasavvufi adabın Əbu Səidə nisbət ədildiğini söylər (Asarül-bilad, s. 361). Yinə tasavvufi fikir və hisləri çoğu Farsça olan şiirlərlə, özəlliklə rubailərlə ilk dəfa o ifadə ətmiş, Sənai, Fəridüddin-i Attar və Məvlana bu yolda onun pəşindən gitmişlərdir (Səid-i Nəfisi, s. 36). Əbu Səidin təkkə adabı və şiir anlayışı daha sonraki sufilərin önəmli bir kısmı üzərində gəniş ölçüdə təsirli olmuştur. Tasavvuf tarihində yədi sultandan biri olarak ün yapan Əbu Səidin (digərləri , Bayəzid-i Bistami, İbrahim ibn Ədhəm, Cüneyd-i Bağdadi, Mahmud Qəznəvi, Səlcuqlu hökümdarı Səncərdir) dost və heyranları qədər düşmən və müxalifləri də vardır. Onu bəzilərı siddik, bəziləri da zındık olaraq görür. Rindcə yaşaması, Mövlanə və kimi bütün dinlərə bir gözlə bakılmasını təlkin ətməsi, bazı rivayətlərə görə, "Məscid və mədrəsələr yərlə bir olmadıkça, küfürlə iman arasındaki fark kalkmadıkça dərvişlərin görəvləri tamamlanmış olmayacaktır" deməsi zındık oluşuna dəlil sayılmıştır. Əbu Səid ayrıca gənçlərlə səma yapmak, Kuran və hadis yərinə şiir və ilahi okumakla da suçlanmıştır. Kərramilər, Şiilər və Hanəfilər onun aləyhində bulunmuşlar, hatta kəndisini Gaznəli Sultan Mahmuda şikayət ətmişlər, sultan da Nişapur alimlərindən bu iddiaların doğru olup olmadığını araştırmalarını istəmişti. Əbu Səid onları ikna ədərək muhaliflərini ətkisiz halə gətirmiş, hasımları ona hak vərmək zorunda kalmışlar, bu olaydan sonra hiç kimsə Nişaburda sufilər aləyhində bulunmaya cəsarət ədəməmişti. Kuşəyri də başlangıçta ondan şüphələnmiş, fakat daha sonra kəndisini yakından tanıyınca itirazdan vazgəçmişti. Buna rağmən ər-Risaləsində çağındaki büyük sufilərin isimlərini kaydəttiği haldə Əbu Səidin adını anmamıştır. Çağdaşı Hücviri Əbu Səidin büyük bir sufi olduğunu bəlirtmiş və önəminə dikkat çəkmiştir. Sübki isə İbn Hazm və Zəhəbinin onu kötüləmələrinə itibar ədilməməsini söyləyərək Əbu Səidi yolu doğru, inancı sağlam bir alim və sufi olarak tanıtır.

Bəzi qaynaqlarda İbn Sina ilə məktublaşdığı, hətta kəndisiylə görüşdüyü, baş başa yaptıkları uzun bir görüşmədən sonra İbn Sinanın, "Mənim bildiklərimi o görüyor"; Əbu Səidin də, "Bənim gördüklərimi o biliyor" dədikləri, böyləcə hakikatə akılla da kəşf* ilə də ulaşılabiləcəğini bəlirttikləri rivayət ədilir;. Əbu Səid, çətin bir riyazət və aşırı ibadəttən sonra, hər ikisini də tərkətməsi dışında, diğər davranışları ilə Məvlanaya çok bənzəməktədir. Nitəkim o da Məvlana gibi səmaı çok səvməktə və bu amaçla sık sık toplantılar tərtip əttirməktəydi.

Əbu Səid 4 Şaban 440 (12 yanvar 1049) Cümə gecəsi doğduğu yər olan Məyhənədə səksən iki yaşında vəfat ətti. Səid-i Nəfisi, biri İranda Türbət-i Haydarın 12 km. günəyində, diğəri bu gün Türkmənistanın Mərv şəhrinin günəybatısında olmak üzərə Məyhənə adlı iki yər bulunduğunu və Əbu Səidin kabrinin burada hala varlığını koruduğunu, Türbət-i Haydari civarındaki Mihənə köyündə də onun adına bir türbənin yapılmış olduğunu söylər (Sühanan-ı Manzum-i Əbu Səid-i Əbül-Hayr, s. 4). Şəyhin Nişaburdaki təkkəsi 549da (1154) Oğuzların Horasanı almalarına kadar varlığını korudu. Əbu Tahir Səid (ö. 479/1086), Əbül-Vəfa Muzaffər, Əbül-Ala Nasır (ö. 491/1098), Əbu Ali Mutahhar və Əbül-Bəkā Mufaddal (ö. 492/1099) adlarında bəş oğlu olan Əbu Səidin soyundan bir bölümü Horasanın Oğuzlar tarafından ələ gəçirilişi sırasında öldürüldü, kılıçtan kurtulan diğərləri də çəşitli yərlərə dağıldılar. Daha sonra bunların içindən birçok şəyh və alim yətişti (Səid-i Nəfisi, s. 22-35). Əbu Səidin görüşlərini yayması için Şirvana göndərdiği Əbu Nasr-ı Şirvani adlı müridi burada bir təkkə kurarak irşad faaliyətinə dəvam ətmiştir. Bir başqa müridi olan Əbu Amr-ı Bəşkani də (ö. 472/1080) şəyhinin görüşlərini Nəsa yakınındaki Bəşkanda yaymıştır.

Sağlığında müridləri tarafından sözlərinin təsbit ədilməsini bilə istəməyən Əbu Səidin sonradan ayrıntılı bir şəkildə hal tərcüməsini yazan torunları, onun "Havra" adlı bir rubaisi dışında (Əsrarüt-təvhid, s. 218) başqa əsərinin olmadığını kaydədərlər. Buna rağmən kütüphanələrdə (məsəla bk. Süləymaniyə Ktp., Nafiz Paşa, nr. 484, vr. 4ª-10b) yətmişi aşkın rubaisini ihtiva ədən əl yazmaları vardır. Bunların büyük bir bölümü Səid-i Nəfisi tarafından Sühanan-ı Manzum-i Əbu Səid-i Əbül-Hayr adıyla basılmıştır (Tahran 1334 hş.) Ancak bu rubailər Əbu Səidin dəğil çoğu kəndisindən sonra yaşamış olan Abdullah-ı Ənsari, Sənai, Əttar, Ömər Hayyam, Fahrəddin-i Irakī gibi şairlərin şiirləridir. Ayrıca Aynülkudat əl-Həmədaninin Əbu Səidə atfəttiği Məsabih, adlı əsər də onun dəğildir. Əbu Səidin "Havra" adlı rubaisi Muhamməd əl-Mağribi, Şah Nimətullah Vəli və adı bilinməyən diğər bir kişinin şərhləriylə birliktə basılmıştır. Bunlardan başqa Abdullah b. Mahmud əş-Şaşi tarafından yapılan bir şərh daha vardır (bk. Süləymaniyə Ktp., Mahmud Paşa, nr. 278/8). Bu rubai dışında Əbu Səidin, sufilərin Tanrıya doğru manəvi yolculuklarında uğradıkları kırk konaktan söz ədən Çihil Makām adlı bir risaləsi vardır. Bu risalə də Ali Həmədaniyə atfədilmək istənmiştir. Ancak İstanbul kütüphanələrində məvcut yazma nüshalarındaki ifadələr bu risalənin Əbu Səidə ait olduğunu göstərməktədir. Nüshalar arasındaki büyük farklar da Əbu Səidin söylədiklərinin ayrı kişilər tarafından təsbit ədilməsindən doğmuş olmalıdır. Çihil Makāma ait bu mətinləri Tahsin Yazıcı yayımlamıştır (İstanbul 1959). Risalə ayrıca, M. Damadi tarafından Makāmat-ı Ərbain adıyla nəşrədilmiştir (Maarif-i İslami [12 April 1971], s. 58-62; Əbu Səidin İbn Sinaya və İbn Sinanın ona yazdığı məktublar için bk. Süləymaniyə Ktp., Pərtəv Paşa, nr. 617, vr. 179-188).

Əbu Səid-i Əbül-Hayrın hal tərcüməsinə dair torunları tarafından iki mənakıbnamə yazılmıştır. Bunlardan ilki, Muhamməd b. Əbu Ravh Lutfullah b. Əbu Səid b. Əbu Tahir b. Əbül-Hayrın (ö. 541/1147) Halat ü Sühanan-ı Şeyx Əbu Səid adlı əsəri olup ilk dəfa V. Jukovski tarafından Pətərsburgda (1899), ikinci dəfa İrəc Əfşar tarafından Tahranda (1331 hş.) basılmıştır. İkincisi Muhamməd b. Münəvvər b. Əbu Səidin (ö. 574-588/1178-1192 arası) Əsrarüt-təvhid fi makāmatiş-Şəyh Əbi Səid adlı mənakıbnaməsidir. Bu əsəri də öncə Jukovski (Pətərsburg 1899), daha sonra Əhməd-i Bəhmənyar (Tehran, 1313 hş.) və üçüncü olarak da Zəbihullah Safa (Tahran 1332 hş.) nəşrətmiştir. İkinci əsər Arapça və Fransızcaya da çəvrilmiştir.