ولما قدم مصعب المدينة دخل به أسعد بن زرارة وهو أحد الستة الذين بايعوا رسول الله صلى الله عليه وسلم في العقبة حائطًا من حوائطم بني ظفر وكان سعد ابن معاذ سيد الأوس ابن خالة أسعد بن زرارة وكان أسيد بن حصين أيضًا سيدًا فأخذ أسيد بن حصين حربته ووقف على مصعب وأسعد وقال: ما جاء بكما تسفهان ضعفاءنا اعتزلا إِنْ كان لكما بأنفسكما حاجة فقال له مصعب: أو تجلس فتسمع فجلس أسيد وأسمعه مصعب القرآن وعرّفه الإسلام فقال سيد: ما أحسن هذا كيف تصنعون إِذا أردتم الدخول في هذا الدين فعلمه مصعب فأسلم وقال: ورائي رجل إِن اتبعكما لم يتخلف عنه أحد وسأرسله إِليكما يعني سعد بن معاذ ثم أخذ أسيد حربته وانصرف إِلى سعد بن معاذ وبعث به إِلى مصعب وأسعد فلما أقبل قال أسعد لمصعب: جاءك والله سيد من ورائه فلما وقف عليهما سعد بن معاذ تهدد أسعد وقال: لولا قرابتك مني ما صبرت على أن تغشانا في دارنا بما نكره فقال له مصعب: أو ما تسمع فإِن رضيت أمرًا قبلته وإلا عزلنا عنك ما تكره فقال: أنصفت .
فعرض مصعب عليه الإسلام وقرأ عليه القرآنَ .
قال فعرفنا والله في وجهه الإسلام قبل أن يتكلم .
ثم قال: كيف تصنعون إِذا أنتم أسلمتم فعرفاه ذلك فأسلم وانصرف إِلى النادي حتى وقف عليه ومعه أسيد بن حصين فلما رآه قومه مقبلًا قالوا نحلف بالله لقد رجع سعد بغير الوجه الذي ذهب به فقال: يا بني عبد الأشهل كيف تعلمون أمري فيكم قالوا سيدنا وأفضلنا .
قال: فإِن كلام رجالكم ونسائكم علي حرام حتى تؤمنوا بالله ورسوله فما أمسى في دار بني عبد الأشهل أحد حتى أسلم ونزل سعد بن معاذ ومصعب في دار أسعد بن زرارة يدعون الناس إِلى الإسلام حتى لم يبق دار من دور الأنصار إِلا وبّها مسلمون إِلا ما كان من دار بني أمية بن زيد .
بيعة العقبة الثانية