Armoniyi ilk kullanan sanatçı olarak kesin bir isim vermek mümkün değildir, çünkü armoni tarihsel olarak yüzyıllar içinde evrimleşmiş ve gelişmiştir 2.

Armoninin kökenleri Eski Yunan'a kadar uzanmaktadır 2. Pythagoras, MÖ 6. yüzyılda ses frekanslarının matematiksel ilişkilerini keşfetmiş ve bu, seslerin uyumlu bir şekilde birleştirilmesi fikrini doğurmuştur 2.

Orta Çağ ve Rönesans dönemlerinde çok sesli (polifonik) müziğin temel kuralları oluşturulmuş ve armoni daha karmaşık bir hal almıştır 2. Bu dönemde armoniyi kullanan bazı besteciler:

Barok döneminde ise armoni kavramını en ileri seviyeye taşıyan bestecilerden biri Johann Sebastian Bach'tır 12.