وفي عهد الخليفة العباسي أبي جعفر المنصور عام 137هـ زاد في المسجد زيادتين كبيرتين من الجهتين الشمالية والغربية حتى بلغت مساحته (12512م2) .
وفي عهد الخليفة المهدي العباسي جرى توسعتان كبيرتان للمسجد والمسعى الأولى، هدم فيها دور ألحقت في المسجد أعلاه وأسفله وشقه الشامي الذي يلي دار الندوة، وضاق شقه اليماني الذي يلي الصفا، وكانت الكعبة في شق المسجد غير متوسطة، وذلك أن الوادي كان داخلًا بالمسجد، وكانت الدور وبيوت الناس من ورائه، وكان الطريق من المسجد إلى الصفا في بطن الوادي، ثم يمر بزقاق ضيق حتى يخرج إلى الصفا، وكان المسعى في موضع المسجد الحرام، وفي محل السعي بيوت مسكونة، فلما حج المهدي ورأى ذلك قال: لابد لي أن أوسعه حتى أوسط الكعبة في المسجد على كل حال، ولو أنفقت فيه جميع أموال بيت المال فأمر المهندسين فقدّروا ذلك وهو حاضر، فصرفوا الوادي عن المسجد، ثم نصبت الرماح على الدور من أول موضع الوادي (محل الرمل بالمسعى) إلى آخره، ثم ذرعوه من فوق الرماح حتى عرفوا ما يدخل بالمسجد من ذلك وما يكون بالوادي فيه، فلما نصبوا الرماح جنبي الوادي وزنوه مرة بعد مرة ثم قدروه. وبلغت مساحة المسجد والمسعى في عهده (15491م2) .
وفي عهد الخليفة المعتضد العباسي عام 281هـ أضيفت دار الندوة، وهي تمثل مساحة مربعة، وأصبحت رواقا من أروقة المسجد يتوسطها فناء صغير، وجعل لها باب يشرع إلى (سويقة) مسمى باب الزيادة.