فلما سمع أبو بكر ذلك علم أن أبا عبيدة لين العريكة ولا يصلح لقتال الروم وعول أن يكتب إلى خالد بن الوليد ليوليه على جيوش المسلمين وقتال الروم واستشار المسلمين في ذلك فقالوا: الرأي ما تراه وكتب كتابا يقول الوليد: سلام عليك أما بعد فانيأحمد الله الذي لا إله إلا هو وأصلي على نبيه محمد صلى الله عليه وسلم وإني قد وليتك على جيوش المسلمين وأمرتك بقتال الروم وأن تسارع إلى مرضاة الله عز وجل وقتال اعداء الله وكن ممن يجاهد في الله حق جهاده ثم كتب {يَا أَيُّهَا الَّذِينَ آمَنُوا هَلْ أَدُلُّكُمْ عَلَى تِجَارَةٍ تُنْجِيكُمْ مِنْ عَذَابٍ أَلِيمٍ}[الصف:١٠] الآية وقد جعلتك الأمير على أبي عبيدة ومن معه وبعث الكتاب مع نجم بن مقدم الكناني فركب على مطيته وتوجه إلى العراق فرأى خالدا رضي الله عنه قد اشرف على فتح القادسية فدفع إليه الكتاب فلما قرأه قال: السمع الطاعة لله ولخليفة رسول الله صلى الله عليه وسلم ثم ارتجل ليلا واخذ طريقه عن اليمين وكتب كتابا إلى أبي عبيدة يخبره بعزله وبسيره إلى الشام وقد ولأني أبو بكر على جيوش المسلمين فلا تبرح من مكانك حتى اقدم عليك والسلام وبعث الكتاب مع عامر بن الطفيل رضي الله عنه وكان أحد أبطال المسلمين فأخذه وتوجه يطلب الشام.
وأما خالد فلما وصل إلى ارض السماوة قال: أيها الناس أن هذه الأرض لا تدخلونها إلا بالماء الكثير لانها قليلة الماء ونحن في جيش عظيم والماء معكم قليل فكيف يكون الأمر فقال له رافع بن عميرة الطائي رضي الله عنه: أيها الأمير إني أشير عليك بما تصنع فقال: يا رافع أرشدك الله بما نصنع ووفقك الله مولانا جل وعلا للخير قال: فأخذ رافع ثلاثين جملا وعطشها سبعة أيام ثم اوردها الماء فلما رويت خرم.