ولم تقتصر هذه الفرقة الخارجة على عنادها، بل أخذوا يطعنون في عليٍّ ويُشغِّبون عليه، وامتدت
أيديهم لسفك دماء بعض المسلمين بغير وجه حق، كعبدالله بن خباب رضي الله عنه، عندها خرج عليٌ لقتالهم، فقتلهم، وكان عليٌ في ذلك القتال على حالة تختلف عن حالته في قتال الجمل وصِفِّين.
يقول شيخ الإسلام ابن تيمية: «وقد ثبت اتفاق الصحابة على قتالهم - يعني: الخوارج -، وقاتلهم أمير المؤمنين علي بن أبي طالب،
= ذات البين، وحقن دمائهم أفضل أو في أرنب؟ قالوا: بلى، هذا أفضل، وفي المرأة وزوجها: {وإن خفتم شقاق بينهما فابعثوا حكما من أهله وحكما من أهلها} [النساء: ٣٥] فنشدتكم بالله حكم الرجال في صلاح ذات بينهم، وحقن دمائهم أفضل من حكمهم في بضع امرأة؟ خرجت من هذه؟ قالوا: نعم، قلت: وأما قولكم قاتل ولم يسب، ولم يغنم، أفتسبون أمكم عائشة، تستحلون منها ما تستحلون من غيرها وهي أمكم؟ فإن قلتم: إنا نستحل منها ما نستحل من غيرها فقد كفرتم، وإن قلتم: ليست بأمنا فقد كفرتم: {النبي أولى بالمؤمنين من أنفسهم وأزواجه أمهاتهم} [الأحزاب: ٦] فأنتم بين ضلالتين، فأتوا منها بمخرج، أفخرجت من هذه؟ قالوا: نعم، وأما محي نفسه من أمير المؤمنين، فأنا آتيكم بما ترضون. إن نبي الله صلى الله عليه وسلم يوم الحديبية صالح المشركين فقال لعلي: «اكتب يا علي: هذا ما صالح عليه محمد رسول الله» قالوا: لو نعلم أنك رسول الله ما قاتلناك فقال رسول الله صلى الله عليه وسلم: «امح يا علي، اللهم إنك تعلم أني رسول الله، امح يا علي، واكتب: هذا ما صالح عليه محمد بن عبدالله» والله لرسول الله صلى الله عليه وسلم خير من علي، وقد محى نفسه، ولم يكن محوه نفسه ذلك محاه من النبوة، أخرجت من هذه؟ قالوا: نعم، فرجع منهم ألفان، وخرج سائرهم، فقُتِلوا على ضلالتهم، فقتلهم المهاجرون والأنصار.