Məkkədə anadan olmuşdur. O, Məxzumitlərin varlı və nüfuzlu Məkkə qəbiləsinə mənsub idi. Mənbələrə görə o, 80 ildən çox yaşayaraq 673 və ya 675-ci ildə vəfat etmişdir. Buna görə də o, təxminən 594 ilə anadan olması ehtimal edilir.

Ərkəm həyatı boyu həmişə zəifləri və ehtiyacı olanları müdafiə etmiş, ədalətin ardıcıl tərəfdarı olmuşdur. O, təqvası və zahidliyi ilə seçilirdi. Əl-Ərkam təxminən 17-18 yaşında İslamı qəbul edən ilk şəxslərdən idi.

Əl-Əkrəmin Səfa təpəsinin şərqindəki (ərəb. دار الأرقم‎) evi Məkkə müsəlmanlarının ilk mərkəzi olur. Burada ilk müsəlmanlar öz məclislərinə toplaşır, Quran oxuyur, birgə dualar edirdilər. Məhəmməd peyğəmbər buraya köçmüş və bir müddət yaşamışdır. Məkkə müşriklərinin müsəlmanlara ağır işgəncə və təhqirlərə məruz qaldıqları dövrdə müsəlmanların problemlərini öz aralarında paylaşa bildikləri yeganə yer Ərkəmin evi idi. Orada Peyğəmbərlə görüşüb gizli dua edə bilərdilər. Bu evdə Peyğəmbərin Ömər, Həmzə, Əmmar, Musab, Şüheyb və bir çox başqaları kimi məşhur səhabələr İslamı qəbul edir. Ömərin İslamı qəbul etməsindən sonra müsəlmanlar ilk dəfə Ərkəmin evini tərk edərək Kəbənin müqəddəs məbədində açıq şəkildə dua edirlər.

Əl-Ərkəm Mədinəyə hicrət edən ilk müsəlmanlardan idi. Orada müsəlman dövlətinin qurulmasında və möhkəmlənməsində iştirak etmişdir. Bədr, Uhud, Xəndək və digər döyüşlərdə iştirak etmişdir. O, həm də savadlı bir şəxs idi və Peyğəmbərin katibləri arasında idi, Məhəmməd peyğəmbərə nazil olan vəhyləri yazırdı.