Məkkədə anadan olub. Bənu Xuzeyl qəbiləsindəndir. İslam rəvayətinə görə Abdullah ibn Məsud gəncliyində Uqbu ibn Əbu Muaytın yanında işləyən çoban olmuşdur. O, İslamı ilk qəbul edənlərdən olub və əl-Ərkəm evində müsəlman məclislərinin üzvü olmuşdur. Həmin dövrdə müsəlmanlar tərəfindən zülmə məruz qalır, lakin Abdullah ibn Məsud bundan qorxmur. Kəbənin yanında "Ər-Rəhman" surəsini oxuyur, buna görə onu tutub işgəncələrə məruz qoyurlar. Abdulla cəsarətlə bütün işgəncələrə dözür və Efiopiyaya mühacirət etməyə məcbur olur. Efiopiyadan qayıdandan sonra, Məhəmməd peyğəmbərlə birlikdə Mədinəyə hicrət edir.

Abdullah ibn Məsud Bədr, Uhud, Xəndək, Xeybər, Hüneyn döyüşlərində vuruşmuş, Məkkənin fəthində də iştirak etmişdir.

Məhəmməd peyğəmbərin vəfatından sonra Abdulla xilafətin möhkəmləndirilməsində fəal iştirak etmişdir. Xəlifə Ömər ibn Xəttab onu Kufənin qazisi təyin edir. Abdulla çox savadlı insan idi. O, demək olar ki, fenomenal yaddaşa malik idi və bütün Quranı əzbər bilirdi. O, İslam hüququnu mükəmməl bilirdi, fətvalar verir, həm də müəllimliklə məşğul olurdu. O, İraq İslam hüquq məktəbinin banisi sayılır və onun üsulları Hənəfi məzhəbinin əsasını təşkil edir. Abdullah ibn Məsud qanuni göstərişlər verərkən qiyas üsulundan istifadə etmişdir.