فلما اختلفوا فيهم أمر بهم فحبسوا فى ليلة باردة لا يقوم لها شئ، وجعلت تزداد بردا، فأمر خالد مناديا فنادى: أدفئوا أسراكم- وكانت فى لغة كنانة بمعنى القتل- فظن القوم أنه أراد القتل فقتلوهم، وسمع خالد الواعية (الصراخ) فخرج وقد فرغوا منهم، فقال: إذا أراد الله أمرا أصابه، وقد اختلف القوم فيهم، فقال أبو قتادة: هذا عملك. فنهره خالد. فغضب ومضى حتى أنى أبا بكر، ثم تزوج خالد امرأة مالك، وقد ألح عمر على أبى بكر فى خالد أن يعزله. وقال إن فى سيف خالد رهقا (بالتحريك وهو السفه والخفة وركوب الشر والظلم). فإن لم يكن هذا حقا حق عليه أن تقيده، وأكثر عليه فى ذلك، فقال: هيه يا عمر، تأول فأخطأ، فارفع لسانك عن خالد، لم أكن لأشيم (أى أغمد) سيفا سله الله على الكافرين، وودى مالكا (أى أعطى ديته) وكتب إلى خالد أن يقدم عليه، وأقبل خالد إلى المدينة حتى دخل المسجد معتجرا بعمامة له قد غرز فيها أسهما، فقام إليه عمر فانتزع الأسهم من رأسه فحطمها ثم قال: أرئاء؟ قتلت امرأ مسلما ثم نزوت على امرأته! والله لأرجمنك بأحجارك، وخالد لا يكلمه حتى دخل على أبى بكر، فأخبره الخبر واعتذر إليه فعذره، وخرج خالد حين رضى عنه أبو بكر فقال لعمر وهو جالس فى المسجد: هلم إلى يا بن أم شملة، فعرف عمر أن أبا بكر قد رضى عنه، فلم يكلمه ودخل بيته. فلما ولى عمر الخلافة عزله عن قيادة جند الشأم. وولى مكانه أبا عبيدة.