Canca Kalesi komutanı, Gümüş Dağ'da gümüş bir sarayda yaşarmış 4. Bu komutanın Gümüş Kız adında bir kızı varmış 4. Gümüş Kız, her gün gümüş nalınlar giyer, gümüş testisiyle Canca Kalesi'nden iner, gümüş tasla su doldurur ve tekrar kaleye dönermiş 4. Bir gün, bıyıkları yeni terleyen bir çobana âşık olmuş 4. Ancak babası, kızını çobana vermemiş ve Gümüş Kız, dağlara çekilmiş 4. Babası ne dediyse yola gelmemiş ve sonunda Gümüş Kız'ı gümüşten bir saraya hapsetmiş 4. Gümüş Kız, aşkından hep ağlamış ve sevdiğine kavuşamadan ölmüş 4. Bugünkü Musalla Deresi'nin berrak sularının, Gümüş Kız'ın gözyaşları olduğu söylenir 4. Gümüşhane'nin adı da oradan kalmış 4.

Erken Orta Çağ'da inşa edilen kalenin, Bizans İmparatoru I. Justinianus'a bağlı ve bölgeye hakim olan Tzanlar tarafından yaptırıldığı düşünülmektedir 1.

Evliya Çelebi'ye göre, İskender'e bağlı Philikos'un bölgede gümüş madenleri bulmasıyla beraber kale onarılmış ve Gümüşhane'nin önemi artmıştır 1.

1461’de kalenin Osmanlı hakimiyetine geçmesiyle kaleye yeniçeri kethüdası ve askerler yerleşmiştir 2. Osmanlı kaynaklarına göre kalede askeri hayatın 1700’lere kadar devam ettiği tahmin edilmektedir 2.