Ağrı, il olmadan önce Erzurum Vilayeti'ne bağlı Bayezit Sancağı içerisinde yer almaktaydı. Osmanlı döneminde 1864 Vilayet Nizamnamesi ile yapılan düzenlemelerle Ağrı, Erzurum Vilayeti'ne bağlı bir sancak olarak yönetilmiştir. Cumhuriyet döneminde de bu idari bağlantı devam etmiş ve Ağrı, 1927 yılında il statüsü kazanarak Erzurum'dan ayrılmıştır.