Askerî müzeler, Osmanlı İmparatorluğu döneminde 1846 yılında Tophâne-i Âmire Müşiri Ahmed Fethi Paşa'nın gayretleriyle Aya İrini Kilisesi'nde "Müze-i Askeri"nin açılmasıyla kurulmuştur. Modern anlamda askerî müzeciliğin temelleri ise şu şekilde atılmıştır: 1453'te İstanbul'un fethinden sonra Aya İrini Kilisesi, değerli harp silah araç ve gereçlerinin toplandığı Cebehane olarak düzenlenmiştir. 1726'da Cebehane'deki tüm malzemeye yeni bir düzen verilerek Dar-ül Esliha adıyla yeni bir kuruluş gerçekleştirilmiştir. Askerî Müze'nin kuruluş süreci şu şekilde devam etmiştir: 1908 yılında, asker, öğretmen, besteci ve mütefekkir sıfatlarını taşıyan Ferik Ahmed Muhtar Paşa'nın gayretleriyle müze daha profesyonel bir hale gelmiştir. 1964 yılında, günümüzde Harbiye’de, Askeri Müze ve Kültür Sitesi Komutanlığı adı ile faaliyetlerini sürdüren bina askerî müze olarak kullanılmaya başlanmıştır. İkinci Dünya Savaşı sırasında askerî müze malzemeleri Niğde'de uzun süre kalmış, savaş tehlikesinin geçmesinden sonra 1949 yılında İstanbul’a nakledilmiştir.