Yeşilhisar halkının kökeni, bölgenin tarih öncesi dönemlerine kadar uzanmaktadır. İlçe, ilk olarak Hititler ve ardından Persler tarafından yerleşim yeri olarak kullanılmıştır. M.Ö. 3500 yıllarında İskender'in emrine geçen bölge, Roma İmparatorluğu'nun hakimiyetine girdikten sonra Kapadokya'nın sekiz büyük şehrinden biri olarak anılmaya başlanmıştır. Bu dönemde bölgeye gelen halk, Kapadokya'nın yerlileri ile karışarak Yeşilhisar'ın ilk sakinlerini oluşturmuştur. Daha sonraki dönemlerde Abbasiler, Danişmendliler, Selçuklular, İlhanlılar ve Karamanoğulları gibi çeşitli medeniyetlerin egemenliğine giren Yeşilhisar, Osmanlı döneminde de önemli bir yerleşim yeri olarak kalmıştır.