Mardin'in adının neden Mardin olduğuna dair bazı rivayetler şunlardır: Savaşçı Mardeler: Bazı görüşlere göre, Mardin kelimesi, 3. yüzyılda Sasaniler tarafından buraya yerleştirilen savaşçı Mardelerden gelmektedir. Kaleler: Diğer bir görüşe göre ise "kaleler" anlamına gelen "Merdin" kelimesinden türemiştir. Kürtçe kökenli: Kürtçe'de Mardin şehrinin adı "Mêrdîn" olarak bilinir ve "deli adam" anlamına gelir. Ermeni söylencesi: Ermeni söylencelerine göre, Mardin'e sığınan Ermenilerin gösterdikleri cesarete atfen, "savaşçı" veya "şehit" anlamına gelen "mardin" kelimesinden türemiştir. Mardin adı, Arapça kaynaklarda "Mâridîn", Süryanice kaynaklarda ise "Marde" olarak geçmektedir.