Məscid Şəki şəhərinin Gəncəli məhəlləsində tikilib. Tarixi dəqiq məlum deyil. Lakin yerli sakinlərin dediklərinə görə, məscid Nadir şahın hücumundan əvvəl də mövcud olmuşdur. Məscidin ibadət zalının sahəsi 26x13 metrdir. İbadət zalı ikinci mərtəbədə yerləşir. Birinci mərtəbədə isə yardımçı otaqlar var. Həyətyanı sahəsi isə 660 kv.metrdir.

Formaca dördbucaqlı olan bu məscid bişmiş kərpic və mədən daşı ilə hörülmüşdür. Divarların qalınlığı 75 sm-dir. Damın örtüyü ağ dəmir təbəqə ilə işlənmişdir.

Həzrət Əli məscidi ilkin vəziyyətini qoruyub saxlamışdır. Lakin minarəsi repressiya illərində dağıdılmışdır. 1997-ci ildə məscidin minarəsi və mehrabı yenidən tikilmişdir. Hazırkı minarənin hündürlüyü 22 metrdir. Minarə dəyirmi formada olub, bişmiş kərpiclə işlənmişdir.

Sovetlər dövründə məsciddən məktəb, idman zalı kimi islifadə edilmişdir. 1994-cü ildə fəaliyyəti bərpa olunmuşdur.

Həzrət Əli məscidi 1994-cü ildən etibarən İran İslam Respublikasının Bakıdakı Mədəniyyət Mərkəzi tərəfindən bərpa edilib. Bərpa zamanı məscidin ibadət zalı, eləcə də minarəsi yenidən tikilmişdir.

Həzrət Əli məscidi məşhur mollaları ilə tanınmışdır. Onlardan biri Axund Əbdülcabbar Zeynalabdin oğlu Pişnamazzadə olmuşdur. O, təhsilini Nəcəfül-əşrəldə almış və "" kitabını yazmışdır. Onun qəbri məscidin ön tərəfindədir.

3 noyabr 2021-ci ildə məscid ölkə əhəmiyyətli abidələrin siyahısına daxil edilib.