Mardinlilerin kökeni, tarih boyunca bölgede yaşamış çeşitli topluluklara dayanmaktadır. Bu topluluklar arasında Subarular, Akadlar, Büveyhiler, Artuklular, Zengiler ve Selçuklular bulunmaktadır. Ayrıca, Mardin'den Lübnan'a göç etmiş topluluklar da mevcuttur. Özellikle Mihelmi (Mıhallemi) ağırlıklı Müslüman Araplar ve Süryaniler bu göç dalgasıyla Lübnan'a yerleşmiştir. Günümüzde Mardinliler, farklı etnik ve dini kökenlere sahip olup, kendilerini Mardinli Arap, Kürt veya Süryani olarak tanımlayabilmektedirler.