واستمرت زمزم مدفونة لا يُعرف مكانها ، إلى أن أظهرها عبد المطلب جد النبي صلى الله عليه وسلم بعلامات عرف بها موضعها في رؤيا رآها ، فحفرها وأظهرها . وقد تحدث بعض المؤرخين القدامى والمحدثين عن الرؤيا التى رآها عبد المطلب وأمر فيها بحفر بئر زمزم ، ويذكر الأزرقي عن مهدي بن أبي المهدي عن عبد الله بن معاذ الصنعاني عن معمر الزهري قال: أول ما ذكر من عبد المطلب بن هاشم أن قريشًا خرجت فارة من أصحاب الفيل وهو غلام شاب فقال: والله لا أخرج من حرم الله ابتغي العز في غيره ، فجلس عند البيت وأجلت عنه قريش . فلم يزل ثابتًا في الحرم حتى أهلك الله الفيل وأصحابه . فرجعت قريش وقد عظم فيها لصبره وتعظيمه محارم الله فبينما هو في ذلك وقد ولد له أكبر بنيه فأدرك وهو الحارث ، فأتى عبد المطلب في المنام فقيل له: احفر زمزم بين الفرث والدم عند نقرة الغراب في قرية النمل مستقبلة الأنصاب ، فقام عبد المطلب فمشى حتى جلس في المسجد الحرام ينظر ما سمى له من الآيات ، فنحرت بقرة فانفلتت من جازرها بحشاشة نفسها حتى غلبها الموت في المسجد في موضع زمزم فجزرت تلك البقرة في مكانها حتى احتمل لحمها فأقبل غراب يهوي حتي وقع في الفرث فبحث عن قرية النمل فقام عبد المطلب فحفر هنالك ، فجاءته قريش فقالت لعبد المطلب ما هذا الصنيع ؟ إنا لم نكن نزنك بالجهل لم تحفر في مسجدنا ؟ فقال عبد المطلب: إني لحافر هذا البئر ومجاهد من صدني عنها فطفق هو وابنه الحارث وليس له ولد يومئذ غيره ، حتى إذا أمكن الحفر واشتد عليه الأذى نذر أن وفا له عشرة من الولد أن ينحر أحدهم ثم حفر حتى أدرك سيوفًا دفنت في زمزم حيث دفنت فلما رأت قريش أنه قد أدرك السيوف قالوا: يا عبد المطلب أجزنا مما وجدت ، فقال عبد المطلب: هذه السيوف لبيت الله الحرام ، فحفر حتى أنبط الماء في القرار ثم بحرها حتى لا ينزف ثم بنى عليها حوضًا .