Gümüşxanəşəhərində məskunlaşmanın nə vaxt başladığı barədə məlumat yoxdur. İlk yaşayış məntəqəsi bu gün şəhərin qərb-şimal-qərbində yerləşən Canca rayonunda yaradılmışdır. Canca rayonunun cənub-qərbində sıldırım qayalıq ərazidə Canca qalası var. Qalanın tikilmə tarixi məlum deyil. Övliya Çələbi “Səyahətnamə”sində qalanın İskəndərin dövründə (e.ə. 336-323) Philikos adlı bir məmurun bölgədə gümüş mədənləri tapması ilə təmir edildiyini yazır. Buna görə də qalanın tikilmə tarixi daha əvvələ gedib çıxır dövrlər. Lakin bu fikir hələ də arxeoloji tapıntılarla təsdiqini tapmayıb.

Kimmer və İskit hücumlarından sonra yaşayış məntəqəsinin yerləşdiyi bölgədə Pontus Krallığı və Roma İmperiyası hökmranlıq edirdi. Roma İmperiyasının parçalanması ilə qəsəbə daxil olmaqla bölgə Bizans idarəçiliyi altında qaldı. Bizans mənbələrində Tzanicha və ya Tzantzakon kimi qeyd olunan yerin Canca qalası və yaşayış məntəqəsi olduğu düşünülür. Bizans dövründə qəsəbə Haldia mövzusu daxilində yerləşirdi. 7-ci əsrin sonlarından başlayaraq qəsəbənin yerləşdiyi bölgəyə ərəb basqınları olmuş və 8-ci əsrin ortalarına qədər qəsəbə Bizans-ərəb gücləri arasında əl-ələ vermişdi. Ərəblərin geri çəkilməsi ilə yenidən Bizans hakimiyyətinə qatılan qəsəbə 1048-ci ildə müvəqqəti türk hakimiyyətinə keçdi. 1071-ci ildə Malazgirt döyüşündən sonra Əmir Mengücek tərəfindən türk idarəsi altına alındı. II. Qıyasəddin Keyhüsrev 1237-ci ildə Anadolu Səlcuqlu Dövləti taxtına çıxdıqdan sonra Trabzona yürüşü zamanı tarixi Gümüşhane qəsəbəsini də ələ keçirdi. Səlcuqlar monqolların hakimiyyəti altına düşdükdən sonra İlxanlılar bölgədə hökmranlıq etdilər və İlxanlıların zəifləməsi ilə XIV əsrin ortalarında Cəlayirilərin hökmranlığına qoşuldular. Bundan sonra tarixi yaşayış məntəqəsi və ətrafı Eretna Beyliyinin, Kadı Bürhanəddin Dövlətinin, Akqoyunluların, Qaraqoyunluların və zaman zaman Trabzon İmperatorluğunun hakimiyyəti altında qalmışdır. 1461-ci ildə Osmanlılar Trabzon İmperiyasını ilhaq etdikdən sonra yaşayış məntəqəsi Osmanlı hakimiyyətinə keçsə də, 1467-ci ildə Akqoyunlular tərəfindən tutuldu. 1473-cü ildə Otlukbeli döyüşündən sonra qəti Osmanlı hakimiyyəti altına girdi.

1486-cı il qeydində qəsəbə "Palu Canca" adı ilə kənd kimi görünür. Osmanlı hakimiyyətinə keçdikdən sonra müharibələrdə dağıdılan yaşayış məntəqələrinin yenidən dirçəldilməsi üçün müxtəlif cəhdlər edilmiş, mədənçiliyin inkişafı ilə qəsəbənin əhalisi artmağa başlamışdır. Nəticədə, bugünkü Canca Mahalının yerləşdiyi ilk yaşayış məntəqəsi Eski Canca olaraq görülməyə başladı, "Nefs-i Canca-yı Ma'den" isə Musalla dərəsinə baxan yamacda (indiki Süleymaniyyə rayonu) quruldu. , indiki qəsəbə mərkəzindən 4 km cənub-qərbdə. Yeni qurulan bu qəsəbə 17-ci əsrdə "Nefs-i Koşuyı Gümüşhane, həmçinin Canca olaraq da bilinən" adlanan mahalın mərkəzi olaraq görüldü. 1554-cü ildə qəsəbədə 31 müsəlman ailəsi və 13 müsəlman mücərrədi (tək kişi) və 113 xristian ailəsi və 27 xristian mücərrədi (tək kişi) qeydə alınmışdır. Bu tarixdə hər ailədə orta hesabla 5 nəfərin yaşadığı və qəsəbədə 760 nəfərdən əlavə subay kişilər, vergidən azad edilmiş şəxslər və hərbi qulluqçuların da yaşadığı ehtimal edilirdi. 1583-cü ildə 50 müsəlman ailəsi, 16 müsəlman mücerred (tənha kişilər) və 594 xristian ailəsi qeydə alınmışdır. Xüsusilə mədənçilik fəaliyyətinin artması və işə kənardan gəlmələr səbəbindən xristian əhalidə çox yüksək artım olmuşdur. Qeydiyyatda olanlarla yanaşı vergidən azad olanlar da daxil olmaqla bu tarixdə qəsəbədə yaşayanların sayının 3300-3500 civarında olduğu təxmin edilir. 1643-cü ilə aid Avariz qeydinə görə, qəsəbədə; Canca, Məşhəd, Hızır İlyas, Hamam və Erməni olmaqla 5 məhəllə olduğu halda, 134-ü müsəlman, 569-u xristian olmaqla cəmi 703 ailə yaşayır. Rayonda 82 bağ qeydə alınmışdır ki, bunun da 58-i müsəlmanlara, 24-ü isə xristianlara məxsus olmuşdur. Bu tarixdə qəza mərkəzində; 11 yeniçəri, 8 qala gözətçisi, 17 dərgah-ı ali sipahi, 5 timarlı sipahi və 2 şair olmaqla 41 məmur (dövlət məmuru) var. Bu zaman şəhər sakinlərinin əhəmiyyətli bir hissəsi Canca mədənlərində işləyirdi. Bu qeyddə Canca rayonundan 99 müsəlman və digər dörd məhəllədən 545 xristian bu mədəndə çalışır.

XVII əsrin əvvəllərində Hacıemin mahalının yerləşdiyi ərazidə zərbxana açılmış və bir müddət fəaliyyət göstərmişdir. 18-ci əsrdə şəhərin yalnız Gümüşhane kimi xatırlandığı və Canca adının istifadə edilmədiyi görünür. 18-ci əsrdə mədənlər su ilə dolmağa başladığından və mədən işləri aparıla bilmədiyi üçün şəhərin inkişafı geriləməyə başladı. Mədən işlərinin sona çatması ilə yanaşı, 1828-1829 Osmanlı-Rus müharibəsi də şəhərin tənəzzülünə səbəb olmuş və xristian əhali Osmanlı sərhədlərindən kənarda və ya Rusiya başda olmaqla başqa yerlərə köç etməyə başlamışdır. 19-cu əsrdə qəsəbəyə gələn xarici səyyahlar mədən işlərinin başa çatmasından danışarkən,