وتمتد الفترة الثانية من تاريخ الجماعات اليهودية في الدولة البيزنطية من فترة تحطيم الأيقونات (720) حتى الفتح العثماني للقسطنطينية (1453) . وُجِّه الاتهام لدعاة تحطيم الأيقونات باعتبارهم يهودًا. ويبدو أن لهذا الاتهام أساسًا من الصحة، إذ تشير المراجع إلى أن الإمبراطور ليو الخامس (الأرمني) وميخائيل الثاني (من فريجيا) كلاهما تَعلَّم على يد يهود، ولكن الأرجح أن المصدر الأكبر لهذه الحركة هو المد الإسلامي الذي لم يكن بُدٌ من أن يكون له صداه داخل الإمبراطورية. ويُقال إن أعدادًا كبيرة من اليهود هربت في هذه الفترة إلى دولة الخزر اليهودية، وازداد اشتغال أعضاء الجماعة اليهودية بالتجارة وبعدد من الحرف مثل الصباغة وغزل الحرير.

ومع الفتح الإسلامي للقسطنطينية، سقطت الإمبراطورية البيزنطية في يد المسلمين، ودخلت الجماعات اليهودية في فلك الدولة العثمانية.

إسبانيا المسيحية

يعود وجود أعضاء الجماعة اليهودية في إسبانيا إلى القرن الأول الميلادي، واستمر وجودهم فيها، إلى ما بعد سقوط الإمبراطورية الرومانية، تحت حكم القوط. ويبدو أن وضعهم كان مستقرًا هادئًا حتى عام 589 حينما تَحول القوط عن مذهبهم المسيحي الآريوسي واعتنقوا الكاثوليكية وأصبحت إسبانيا جزءًا من التشكيل الكاثوليكي في العصر الوسيط. وتدهور وضع اليهود تمامًا، ولم يحسِّن وضعهم إلا وصول العرب مع الفتح الإسلامي (711) . وكان أعضاء الجماعات اليهودية قد تحولوا حينذاك إلى جماعة وظيفية وسيطة.