لما سار أمراء الأجناد المتقدم ذكرهم وكتبوا إلى هرقل عظيم الروم يدعونه إلى الإِسلام أو الجزية أو الحرب -وهو يومئذ بالقدس- جمع له البطارقة وكبار القواد وشاورهم في أمر المسلمين وأشار عليهم بصلحهم فأبوا عليه إلا الحرب، ولما لم يوافقوه على رأيه أخذ في إعداد الجنود والعدة وأرسل لكل أمير جيشاً ليشغل كل طائفة من المسلمين بطائفة من قومه. أما أمراء المسلمين فإنهم أوغلوا بجيوشهم في أحشاء البلاد ولهم وقائع كثيرة قبل وقعة اليرموك كوقعة مرج الصفر على وزن سكر ووقعة أجنادين التي بشر أبو بكر بظفر المسلمين فيها وهو بآخر رمق ووقعة العربة من فلسطين وبصرى وحوران وغيرها.
اقتحم المسلمون بجيوشهم البلاد اقتحام المجربين في الحرب العارفين بمواقع الخطر الواقفين على عورات العدو الخبيرين بطرق البلاد، فإنهم أوغلوا في جنوب الشام على شكل مثلث متقارب الخطوط رأسه في البلقاء مع يزيد بن أبي سفيان مما يلي الحجاز وطرفا الواحد في الجنوب الغربي في فلسطين وهو مع عمرو بن العاص والآخر في الجنوب الشرقي في حوران وهو مع أبي عبيدة بن الجراح وفي الوسط بميلة إلى الغرب وهو مع شرحبيل وهو في الأردن بحيث يمد بعضهم من بعض بقرب ومن ورائهم يزيد يحفظ خط الرجوع ويديم النظر في طرق المواصلات على هاته الصفة افتتح كل أمير ما مر عليه من البلاد صلحاً أو حرباً حتى أخذت الصيحة الروم من كل مكان فانتبهوا من غفلتهم فضرب هرقل البعث على العرب الذين هم تحت حمايته والروم فاجتمع لديه منهم زهاء مائة وخمسين ألفاً ولما تفرق المجاهدون في البلاد وراعهم ما جمعه هرقل من المجموع استشاروا عمرو بن العاص فأشار عليهم بالاجتماع فاجتمع الأمراء والجيوش باليرموك وكتبوا إلى أبي بكر رضي الله عنه فأمدهم بخالد بن الوليد ولما وصل تأمر عليهم ورتب الجيوش ترتيباً على غاية من النظام وتعبئة يعجز عنها حذّاق الأمراء ثم نشب القتال بين الفريقين وكانت حركة عظيمة انجلت عن انكسار الروم وانهزامهم شر هزيمة بعد أن قتل منهم مقتلة عظيمة وأصيب من المسلمين بين قتيل وجريح زهاء الثلاثة آلاف فيهم من وجوه المهاجرين وجلة قريش عدد كبير منهم عكرمة بن أبي جهل وابنه وسعيد بن الحارث بن قيس بن عدي وخالد بن سعيد وهم ممن أبلى بهذه الحرب ومنهم أبو سفيان بن حرب ذهبت فيها عينه وبينما هم في اليرموك في أشد حالات الحرب قدم البريد بخبر وفاة أبي بكر وتولية عمر رضي الله عنهما ومعه أمر بعزل خالد وتأمير أبي عبيدة فكتم هذا الخبر على المسلمين ريثما تضع الحرب أوزارها وتولى الروم أدبارها. وقد اختلف المؤرخون هل جاء الخبر بموت أبي بكر