بدأ عمر خلافته بعزل خالد بن الوليد عن القيادة العامة في الشام وولاها أبا عبيدة عامر بن الجراح، ويرجح البعض السبب إلى موقف خالد من مالك بن نويرة، أو إلى عداء شخصي منذ الجاهلية بين الاثنين، أو إلى كراهية عمر لمجازفة خالد بالمسلمين في المعارك، والصواب أن عمر رضي الله عنه يمتاز برغبته في الإشراف على الولاة والقادة، وكان يخطط حتى للمعارك التي تدور في جبهات العراق والشام وتروي المصادر تفاصيل ذلك، وخالد امتاز بطبيعته التي تدعو إلى الاستقلال والتصرف الحر، فكان لابد من عزله لتحقيق الانسجام بين الخليفة وقيادة الجيش، وكذلك ليس بعيداً أنه عزله كي لا يفتتن به الناس فيحسبون أن النصر لا يتحقق إلا بوجوده.
[فتح دمشق (في الطبري أوائل سنة (١٤) هـ)]
واستشار أبو عبيدة الخليفة هل يتجه إلى دمشق أم إلى فحل بالأردن، فأشار بالاتجاه إلى دمشق، فحاصرها المسلمون ستة أشهر ثم فتح خالد الباب الشرقي عنوة وفتح أبو عبيدة باب الجابية صلحاً، وأجرى أبو عبيدة الصلح مع دمشق. وقد استقر المسلمون داخل مدينة دمشق أكثر من ضواحيها وملحقاتها الإدارية (١).
ثم اتجه المسلمون بقيادة شرحبيل إلى فحل حيث التقوا بالروم هناك وهزموهم لذلك صالحهم أهل طبرية وبيسان وأذرعات وعمَّان وجرش ومآب وبصرى
(١) ملكة أبيض: التربية والثقافة العربية الاسلامية في الشام والجزيرة ص ٣٩٣، رغم أن الجدول يخص توزيع العلماء وحدهم ولكن الشريحة الاجتماعية تصلح للقياس عليها، فإن العلماء إنما يعيشون وسط الجمهور الذي يوجهونه.