Kimler tarafından ve ne zaman kurulduğu bilinmiyorsa da Mardin’in kuruluşu eski doğu tarihine göre Sübariler zamanına kadar uzanmaktadır.
M.Ö. 4500’de Kuzey Mezopotamya’da Zagros Dağlarına kadar, batıda Habur ve Babil’e kadar uzanan bölgede Sübarilerin Telhulef denen yeri kendilerine merkez yapıp tarihte ilk ülke kurdukları biliniyor. Subariler tarihçiler tarafından ön Asurîler olarak bilinmekte olup ülkelerine Subaru denilmektedir.
Fırat Vadisinin doğusunda oturan bir kavim sınırın güneydoğusunu istila edip Ur şehrini kendilerine başkent yapmışlardır. Hükmettikleri bölgeye de Sümer denilmiştir. Sümer Kralı M.Ö.2850 yıllarındaki Lugarzerkiz Akdeniz’e kadar uzandığı seferinde Mardin’i egemenliği altına almıştır.Mardin eski çağlardan beri yerleşile gelmiş ve ismi eski tarihi kaynaklarda çok kez geçmiştir.
Mardin ile ilk bilgilere Roma tarihçilerinden A. Marcellinus’un yapıtlarında rastlanır.(M.S. IV. yy)Mardin’de birçok devlet dolayısıyla birçok kültür yerleşmiştir.
Bunlar arasında Pers, Akad, Sümer, Araplar, Selçuklular ve Osmanlılar yer alır. Mardin, Mezopotamya ve Anadolu’da ilk uygarlıkların ortaya çıktığı merkezlerden biridir.
Güneydoğu Anadolu bu iki alan arasında geçiş bölgesi durumundadır. Bu sebeple Mezopotamya ve Anadolu uygarlıkları Mardin’in kültürel gelişmesinde etkili olmuştur.
Ele geçirme ya da yerleşme amacıyla yöreye gelen topluluklar, bir yandan yerli halkın kültüründen etkilenmişler, bir yandan da yöre kültürünü etkilemişlerdir. Bu etkileşim süreci günümüze değin sürmüş, renkli bir kültürel yapının ortaya çıkmasına yol açmıştır.