Gazi Kars unvanı, Kars'ın 1855 yılında Rus ordularına karşı kazandığı zaferden gelmektedir. Kars'ın "gazi" unvanı alması şu şekilde gerçekleşmiştir: 1853-1856 Osmanlı-Rus Savaşı sırasında, Kars Rus orduları tarafından kuşatılmıştır. Müşir Mehmed Vasıf Paşa komutasındaki Osmanlı ordusu, 135 günlük kuşatma boyunca Kars halkı ile birlikte kahramanca bir savunma yapmıştır. 29 Eylül 1855'te kazanılan zaferin ardından, Sultan Abdülmecid'in fermanıyla Kars şehrine "gazi" unvanı verilmiş ve 3 yıl süreyle vergiden muaf tutulmuştur. Ayrıca, 1923 yılında Kars'a, Kurtuluş Savaşı'ndaki kahramanlıkları nedeniyle tekrar "gazi" unvanı verilmiştir.