Acemlerin kökeni, Arapların kendileri dışındaki yabancılar için kullandığı bu kelimenin, Osmanlılar tarafından genellikle İranlıları tanımlamak için kullanılmasından gelmektedir. "Acem" kelimesi, Arapça "ˁacam" sözcüğünden türetilmiş olup, "Arapça bilmeyen", "yabancı" ve "özellikle İranlı" anlamlarına gelir. İranlılar, İran ve ötesi için bu tabiri kullanmışlardır. 19. yüzyıldan itibaren ise bu kelime yalnızca İranlılar için kullanılmaya başlanmıştır.