Kazlıçeşme'nin hikayesi şu şekilde özetlenebilir: 1546 yılında, İstanbul'un fethi sırasında su sıkıntısı yaşandığında, bir sakabaşı bölgede uçan kazları takip ederek bir su kaynağı keşfeder. Çeşmenin üzerinde, Bizans dönemine ait olduğu düşünülen bir kaz figürlü taş bulunur. 2002 yılında kaz figürü çalınır, ancak 2010 yılında yapılan restorasyonda yerine bir replika yerleştirilir.