Zemzem suyunun kaynağı, Mekke'de 2000 metre yüksekliğindeki Taif Dağı çevresindeki yağışlar olarak kabul edilir. Zemzem kuyusunun kaynağı tam olarak bilinmemektedir. İslam inancına göre ise Zemzem, Hz. İsmail'in ağladığı yerde, melek Cebrail'in yeri kazmasıyla ortaya çıkmıştır.