Harput, Altınova adlanan Elazığ düzünə baxan bir nöqtədə, yaxşı müdafiə oluna bilən və hərəkətli yolların üzərində və cənubda sıldırım qayalarla kəsilmiş təpənin üzərində yerləşir. Burada məskunlaşan ilk məlum sivilizasiya e.ə. 2000-ci illərdə Hurrilər olmuşdur. İranın qərbindən Şərqi Aralıq dənizinə qədər bölgədə yayılan hurrilər, e.ə. 2-ci minillikdə ən güclü dövrlərinə çatmışdılar.

Hurrilərdən sonra bölgə Hetlərin hakimiyyəti altına keçdi. Hetlər tərəfindən 'İşuva' adlandırılan bölgə daxilindəki Harput, Het lövhələrində 'Karpata' olaraq xatırlanır. Uzun sürməyən Het hökmranlığından sonra m.ö. 9-cu əsrdən başlayaraq Harput Şərqi Anadolu bölgəsində hökmranlıq etməyə çalışan Urartular və Assurlular arasındabir neçə dəfə əl dəyişdirdi. Nəhayət, üstün gələn Urartular 'Supani' adlandırdıqları Harputda uzun müddət hökmranlıq etdilər. Harput qalasının Urartuların hakimiyyəti dövründə tikildiyi məlumdur.

E.ə. 7-ci əsrdən İran üzərindən gələn Midiyalılar və Skiflərin idarə etdiyi qala e.ə. 3-cü əsrdə Roma hakimiyyətinə keçdi. Roma İmperiyasının sərhəd qalası olan Harput bir neçə dəfə parfiyalıların əlinə keçsə də, Roma hökmranlığı bu dövlətin süqut etdiyi 395-ci ilə qədər davam etdi. Romanın parçalanmasından sonra Harput Bizans dövlətinin əlinə keçdi və Ziata adlandırılan bu qala 518-ci ilə qədər Bizans və Sasani dövlətləri arasında davamlı olaraq əl dəyişdirdi.

Xəlifə Ömərin səltənətinin sonlarında 640-cı ildə müsəlman ərəblərin Şam ordusu tərəfindən ələ keçirilən qalada ərəb hökmranlığı 11-ci əsrə qədər davam etmişdi.

Türklərin Harput və ətrafına ilk axınları 1071-ci ildə Malazgirt döyüşündən əvvəl başlamışdır. Lakin bölgə üzərindəki üstünlüyünü qorumağa çalışan Bizans dövləti 1071-ci ildən sonra zəiflədi. Bizansın geri çəkildiyi bölgədəki nüfuz zəifliyindən istifadə edən türk bəylərindən biri Çubuk bəy 1085-ci ildə Çubukoğulları bəyliyini qurdu.

Səlcuqluların komandanlığı altında türkmən bəyi olan Artuk bəy 1102-ci ildə Diyarbəkir ətrafında Artuqlu bəyliyini qurdu. 1113-cü ildə nəvəsi Balak Qazi Palu üzərinə yürüş edərək oranı özünə mərkəz etdi və Harputu Çubukoğulların əlindən aldı. Nüfuzunu şimalda Ərzincana qədər genişləndirən Balak Qazi, cənubda səlib yürüşlərindən sonra Urfa bölgəsində qurulan xristian qraflığı ilə də mübarizə aparırdı. Səlibçilərə qarşı mübarizədən sonra Hələbə doğru irəliləyən Balak Qazi 1124-cü ildə müharibədə həlak olduqdan sonra Harput 1184-cü ilə qədər Artuklu bəylərinin hakimiyyəti altında qaldı. Ulu Cami bu dövrdə tikilmiş ən mühüm Artuqi əsəridir. Artuklu bəylərinin Əyyubilərlə ittifaqından narahat olan Əlaəddin Keyqubad 1234-cü ildə Harputu mühasirəyə alaraq ələ keçirdi. 1244-cü ildə şəhər monqol basqınları ilə viran qaldı. XIV əsrin ortalarına qədər Elxanilər dövlətinin hakimiyyəti altında qalan Harput, sonralar Dulqədiroğulları, Ağqoyunlular və Səfəvilərin əlinə keçdi.

Yavuz Sultan Səlim Osmanlı İmperiyasının şərq sərhədlərinə Səfəvi axınları və onların şiələşdirmə fəaliyyətləri səbəbindən 1514-cü ildə şərq sərhədinə səfərə çıxdı. 23 avqust 1514-cü ildə Çaldıran döyüşündə qalib gələn Osmanlı ordusu şərq sərhədlərini güvən altına aldı. Bu döyüşdən sonra Osmanlı ordusu 26 mart 1516-cı ildə Harput qalasını mühasirəyə aldı və qala Osmanlı hakimiyyətinə keçdi.

Bu tarixdən sonra Harput 19-cu əsrə qədər Diyarbəkir əyalətinin sancaq mərkəzi olaraq qaldı. 1834-cü ildə islahat hərəkatlarına göndərilən Mehmed Rəşid Paşa, əvvəlkinə nisbətən əhəmiyyətini itirmiş sancaq mərkəzini düzənlikdə yeni qurulan 'Məzrə' adlanan qəsəbəyə köçürür. Mezre adı daha sonra dövrün sultanı Əbdüləzizə ithaf edilən Mamuratü'l Əziz, daha sonra tələffüzü asan olduğu üçün Elaziz, Cümhuriyyətdən sonra isə Elazığ olaraq dəyişdirildi.