Zımpara hammaddesi, aşındırıcı taneciklerin çeşitli bağlayıcılarla birleştirilmesi sonucu oluşur. Başlıca zımpara hammaddeleri şunlardır: - Alüminyum oksit. - Silisyum karbür. - Elmas ve CBN (kübik bor nitrür). Ayrıca, zımparanın türüne göre seramik, bakalit, kauçuk, grafit, magnezit ve silikat gibi bağlayıcı maddeler de kullanılabilir.