ويقع جنوب مسجد الصخرة على بعد 500 متر من رقعة الحرم الشريف، وقد أنشئ أول الأمر في عهد الخليفة عمر بن الخطاب رضي الله عنه وذلك سنة 17هـ- 638م، وقد زاره أركولف وهو سائح أوروبي حوالي عام 670م، وقد وصفه بأنه بسيط للغاية، وقد شكله الفنان من الخشب واللبن، وهو مستطيل الشكل ويتسع لحوالي 3000 من المصلين. وقد أمر بإعادة بنائه الخليفة الأموي عبد الملك بن مروان. وكان قوامه الأروقة موازية للقبلة يعترضها رواق عريض.
وقد أتم بناؤه ابنه الوليد بن عبد الملك سنة 86هـ- 705م (10) ، يبلغ طول المسجد الأقصى حوالي 80 مترًا وعرضه 55 مترًا وارتفاعه 15 مترًا، ويقوم الآن على مساحة تبلغ نحو 4500 متر مربع. وبه ثلاثة وخمسون عمودًا من الرخام، وتسع وأربعون سارية مربعة الشكل. وبه مائة وسبع وثلاثون نافذة. وكانت أبوابه الإحدى عشرة زمن الأمويين ملبسة بصفائح الذهب والفضة، ولكن أبا جعفر المنصور أمر بقلعها وتسييجها إلى دنانير تنفق على المسجد وفي أوائل القرن الحادي عشر في زمن الفاطميين أصلحت بعض أجزائه، كما تشكلت قبته وأبوابه الشمالية وعندما احتل الصليبيون بيت المقدس عام 1099م حولوا قسمًا كبيرًا من المسجد إلى كنيسة، كما جعلوا القسم الآخر إلى الكنيسة مسكنًا لفرسان الهيكل ومستودعًا لذخائرهم. ولكن عندما استعاد صلاح الدين الأيوبي من الصليبيين بيت المقدس، أمر بأن يصلح المسجد الأقصى، وبتجديد المحراب، كما أمر بأن تكسى القبة بالفسيفساء، وقد وضع فيه منبرًا خشبيًا وعرف باسمه، وقد عني بعد ذلك سلاطين المماليك، وسلاطين بني عثمان بالمسجد.
هذا ويوجد داخل الأقصى جامع يعرف باسم جامع عمر، وهو مستطيل الشكل وإيوان كبير يعرف بمقام عزيز وإيوان صغير يعرف بمحراب زكريا، ويوجد رواق كبير أمام المسجد من الشمال، وقد أمر بإنشائه أحد ملوك الأيوبيين وذلك سنة 1217م.