Ankara Klementi 258-ci ildə Qalatiyanın tərkibində olan Ankara şəhərində anadan olmuşdur. Atası bütpərəst, anası isə xristian idi. On iki yaşında Klement yetim qaldı və Klementi xristian ruhunda böyüdən anasının dostu Sofiya tərəfindən övladlığa götürüldü. Sofiya, Klementin öyrətməyə və xristianlığı qəbul etməyə hazırlaşmağa başladığı bir çox tərk edilmiş uşağa sığınacaq verdi. On səkkiz yaşında Klement artıq Ankara xristian icmasında şöhrət qazanaraq presviter təyin edilmişdi.

İyirmi yaşına çətinliklə çatan Klement məmləkəti Ankara yepiskopu təyin edildi. İmperator Diokletian (284–305) dövründə Ankaralı Klementdən xristian inancından imtina etməsi tələb olunur. İmtina etdikdən sonra yepiskop həbs olundu və işgəncələrə məruz qaldı. Bir müddət sonra Klement Diokletianın həmkarı Maksimiana təhvil verildi. Rostovlu Müqəddəs Demetriusun ifadəsinə görə, hökmdar müqəddəsi "o qədər qeyri-insani işgəncələrə məruz qoydu ki, hətta bütpərəst tamaşaçılar da şəhidlərə şəfqət hissi keçirdilər, işgəncə verənləri daşqalaq etdilər." Tezliklə Klement yenidən Müqəddəs Agathangel ilə birlikdə həbs edildi. Məhz orada İmperator Maksimyanın ölümündən sonra Klementi müşayiət edən Aqafangel edam edildi və Klementin özü də bir müddət sonra Ankara xristianları tərəfindən azad edildi.