وفي النصف الثاني من السنة الثانية عشرة للهجرة سير الخليفة أربعة من كبار القواد إلى الشام وهم يزيد بن سفيان إلى دمشق على رأس ستة أو سبعة آلاف، وسير شرحبيل بن حسنة بعدد مماثل إلى الأردن، وسير عمرو بن العاص على رأس جيش يزيد على ذلك قليلًا إلى فلسطين، وسير أبا عبيدة بن الجراح على رأس خمسة أو ستة آلاف إلى الجابية في دمشق.
وأمدهم بعكرمة بن أبي جهل في جيش صغير لحماية مؤخرة من يحتاج لحماية، وكانت الجيوش الأربعة هي المدد والمانع من الالتفاف.
واستعد قيصر الروم لملاقاة العرب في أنطاكية بجيش بلغ مائتين وأربعين ألفًا، وجيش آخر إلى جدار بيت المقدس بلغ سبعين ألفًا، وكان الجيش الروماني أوفر عددًا وأكمل عدة من الجيش الفارسي، لكنه خليط من عناصر عديدة منها الروم والأرمن والعرب وأجناس أخرى، وأثيرت فيهم حمية الدين، أما الجيش العربي الإسلامي فكان من أمة واحدة وبعقيدة واحدة.
وكانت معركة اليرموك هي الوقعة الفاصلة مع الروم، وتم توحيد القيادة لخالد بن الوليد، فنظم الفرق جميعًا في تعبئة واحدة على نحو رفيع، فأقام عمرو بن العاص على الجناح الأيمن، ويزيد بن أبي سفيان على الجناح الأيسر، وأبو عبيدة بن الجراح على القلب، واختار طريقة الكراديس على طريقة حرب بني حنيفة المرتدين، لأنها أصلح الطرق للنفاذ في الصفوف، وأدعاها إلى التنافس، وحملة الكراديس (38) معظمها في القلب، وعدته ثمانية عشر كردوسًا، ورئيسهم أبو عبيدة، وفيهم عكرمة بن أبي جهل، والقعقاع بن عمرو.
ثم اشتبك الجيشان، وبدأ العدو بهجمة مكثفة شعواء، فانكشف المسلمون حينئذ، ثم هزتهم نخوة الإيمان والعرض والأنفة، وأفلحت الكرة الثانية، وتقهقر العدو، وسقطوا في هوة الواقوصة أو وادي الرقاد وقيل: بلغ عدد قتلاهم وموتاهم ثمانين ألفًا سقطوا في الوادي، وودع هرقل الشام إلى عاصمة ملكه المتصدع وداعًا لا لقاء بعده.