وفي سنة 586 ق. م دخلت القدس تحت الحكم الفارسي عندما احتلها نبوخذ نصر وقام بتدميرها، ونقل السكان اليهود إلى بابل.
وبقيت القدس تحت الحكم الفارسي حتى احتلها الاسكندر المقدوني في سنة 332 ق. م.
امتازت القدس في العهد اليوناني بعدم الاستقرار، وبخاصة بعد وفاة الاسكندر المقدوني، إذ تتابعت الأزمات والخلافات بين البطالمة [1] والسلوقيين [2] الذين حاول كل منهما السيطرة على المدينة وحكمها.
وفي سنة 63 ق. م استطاع الرومان أن يحتلوا القدس على يدي قائدهم بومبي، وفي سنة 135 م دمّر الإمبراطور الروماني هادريانوس القدس تدميرًا شاملًا، وأقام مكانها مستعمرة رومانية جديدة أسماها (إيليا كابتولينا) .
وظلت تعرف القدس بإيليا أيضًا في العصر البيزنطي (330 - 636 م) ، ذلك العصر الذي اعترف فيه بالديانة المسيحية كديانة رسمية للإمبراطورية البيزنطية، عندما اعتنقها الإمبراطور قسطنطين، وفي عهده بنت أمه الملكة هيلانة كنيسة القيامة سنة 335 م.
وفي سنة 614 م استولى الفرس مرة ثانية على القدس، ودمّروا معظم كنائسها وأديرتها، وظلت تحت الحكم الفارسي؛ حتى استردها هرقل منهم سنة 627 م، فظلت تحت الحكم البيزنطي حتى الفتح الإسلامي.
ولما كان الإسلام دينًا عالميًا لا يقتصر على العرب، فقد وقع على كاهل العرب والمسلمين نشره في البلدان كافة، فكانت الفتوحات الإسلامية، وكانت فلسطين من أول البلدان التي سارت إليها الجيوش الإسلامية، وبعد هزيمة الروم في معركة اليرموك، أصبح الأمر سهلًا على للمسلمين للوصول إلى القدس، وفتحها، وفي سنة 15 هـ =636 م، دخل الخليفة عمر بن الخطاب القدس صلحًا، وأعطى أهلها الآمان من خلال وثيقته التي عرفت بالعهدة العمرية.
(1) نسبة إلى القائد بطليموس الذي أخذ مصر وأسس فيها دولة البطالمة.
(2) نسبة إلى القائد سلوقس الذي أخذ سورية وأسس فيها دولة السلوقيين.