وتتشنف بها الأسماع، ثم عزله عمر عنها وولي أبا عبيدة وأبقاه مستشاراً في الحرب، ولم يزل بالشام حتى مات على فراشه رضي الله عنه.
وقد روى الواقدي قال: لما حضرت خالداً الوفاة بكى ثم قال: لقد حضرت كذا وكذا زحفاً، وما في جسدي شبر إلا وفيه ضربة سيف، أو طعنة برمح أو رمية بسهم، وها أنا أموت على فراشي حتف أنفي كما يموت البعير، فلا نامت أعين الجبناء.
عن أنس قال: لقي خالد عدواً له فولى عنه المسلمون منهزمين وثبت هو وأخوه البراء ابن مالك، وكنت بينهما واقفاً، قال: فنكس خالد رأسه ساعة إلى الأرض ثم رفع رأسه إلى السماء ساعة -قال: وكذلك كان يفعل إذا أصابه مثل هذا -ثم قال لأخي البراء: قم فركبا، واختطب خالد من معه من المسلمين وقال: ما هو إلا الجنة وما إلى المدينة سبيل، ثم حمل بهم فهزم المشركين.
وقد روى البخاري في التاريخ وغيره عن ياسر بن سمي البرني، قال: سمعت عمر يعتذر إلى الناس بالجابية من عزل خالد، فقال: أمرته أن يحبس هذا المال على ضعفة المهاجرين فأعطاه ذا البأس، وذا الشرف واللسان، فأمرت أبا عبيدة. فقال أبو عمرو بن حفص بن المغيرة: ما اعتذرت يا عمر، لقد نزعت عاملاً استعمله رسول الله صلى الله عليه وسلم، ووضعت لواء رفعه رسول الله صلى الله عليه وسلم، وأغمدت سيفاً سله الله، ولقد قطعت الرحم، وحسدت ابن العم. فقال عمر: إنك قريب القرابة، حديث السن مغضب في ابن عمك.
وعن خالد أنه طلق امرأة من نسائه وقال: إني لم أطلقها عن ريبة، ولكنها لم تمرض عندي ولم يصبها شيء في بدنها ولا رأسها ولا في شيء من جسدها، وروى سيف وغيره: أن عمر قال حين عزل خالداً عن الشام، والمثنى بن حارثة عن العراق: إنما عزلتهما ليعلم الناس أن الله نصر الدين لا بنصرهما وأن القوة لله جميعاً. وروى سيف أيضاً أن عمر قال حين عزل خالداً عن قنسرين وأخذ منه ما أخذ: إنك علي لكريم، وإنك عندي لعزيز، ولن يصل إليك مني أمر تكرهه بعد ذلك.
قال عبد الله بن المبارك: ولما حضرت خالد بن الوليد الوفاة قال: لقد طلبت القتل