Elmadağ'a "Elmadağ" denmesinin sebebi, ilçenin adını aldığı Elmadağ Dağı'nın kuzeydoğu eteklerinde kurulmuş olmasıdır .
Elmadağ'ın eski adı Asi Yozgat'tır . 1941 yılında, köylünün talebi ile dağın adı verilerek "Elmadağ" olarak değiştirilmiştir .
"Asi" kelimesinin eski Türkçede "fayda" veya "kazanç" anlamına geldiği düşünülmektedir . Bu bağlamda, isimdeki "Asi" sözcüğünün günümüzdeki "başkaldıran" anlamını yansıtmadığı belirtilmektedir .