Kelkit, tarih boyunca farklı dönemlerde çeşitli idari yapılara bağlı kalmıştır: Selçuklu ve Osmanlı Dönemi: 1514 Çaldıran Zaferi'nden sonra Osmanlı hakimiyetine girmiş ve Bayburt Sancağı'na bağlanmıştır. 19. ve 20. Yüzyıl: 1887'de Trabzon Valiliği'nin talebiyle Gümüşhane Sancağı'na dahil edilmiştir. Günümüz: Günümüzde Gümüşhane iline bağlı bir ilçedir.