ثم سار إلى مكة، فلما دنا من بلاد خثعم, خرج إليه النفيل بن حبيب الخثعمي ومن معه من القبائل فقاتلوه فهزمهم ، فقال النفيل: أيها الملك. إني عالم بأرض العرب فلا تقتلني، وهاتان يداي على قومي بالسمع والطاعة، فاستبقاه وخرج معه يدله .
حتى إذا بلغ الطائف خرج إليه رجال من ثقيف فقالوا: أيها الملك نحن عبيد لك ليس لك عندنا خلاف، وليس بيننا وبينك الذي تريد -يعنون اللات- إنما تريد البيت الذي بمكة، نحن نبعث معك من يدلك عليه، فبعثوا معه مولى لهم يقال له أبو رغال فخرج معهم حتى إذا كان بالمغمس (مكان قرب مكة في طريق الطائف ) مات أبو رغال ، فكانت العرب ترجم قبره .
لما نزل أبرهة في المغمس أصابت خيله مائتي بعير لعبد المطلب بالأرك، ثم أرسل إلى عبد المطلب أنه لم يأت لقتال ، إنما جاء لهدم هذا البيت .
فجاء عبد المطلب ودخل على أبرهة، وكان عبد المطلب رجلًا عظيمًا جسيمًا وسيمًا، فلما رآه أبرهة عظمه وأكرمه، وكره أن يجلس معه على سريره وأن يجلس تحته، فهبط إلى البساط فجلس عليه معه، فقال له عبد المطلب: أيها الملك إنك قد أصبت لي مالا عظيما فاردده علي، فقال له: لقد أعجبتني حين رأيتك ولقد زهدت فيك، قال: ولم؟ قال: جئت إلى بيت هو دينك ودين آبائك وعصمتكم ومنعتكم فأهدمه فلم تكلمني فيه، وتكلمني في مائتي بعير؟. قال: أنا رب هذه الإبل، ولهذا البيت رب سيمنعه، قال: ما كان ليمنعه مني، قال: فأنت وذاك، قال: فأمر بإبله فردت عليه .
خرج عبد المطلب من أبرهة، و أخذ بحلقة باب الكعبة، وقام معه نفر من قريش يدعون الله ويستنصرونه على أبرهة وجنده، فقال عبد المطلب:
لا هم إن العبد يمـ ... نع رحله فامنع حلالك
لا يغلبن صليبهم ... ومِحالهم غَدْوًا مِحالك
إن كنت تاركَهم وقبلـ ... ـتنا فأمرٌ ما بَدَا لك
ثم أرسل عبد المطلب حلقة باب الكعبة، وانطلق هو ومن معه من قريش إلى شغف الجبال فتحرزوا فيها.