ورأى المنشقون -وهم من حزب السيدة عائشة وطلحة والزبير- أن من واجبه أن يواصل القتال مع معاوية -ولكنه نجح فى التصالح معهم بتقديم بعض التنازلات، ولكنه بعد عودته إلى الكوفة من حروراء (بالقرب من الكوفة) حيث كانت المصالحة، أعلن أنه لن ينقض اتفاقية صفين، وعندما سرت الأنباء بأنه أرسل موسى إلى الاجتماع مع عمرو، ترك ما بين ثلاثة آلاف وأربعة آلاف رجل الكوفة سرًا، وترك مئات آخرون البصرة، وكانت نقطة اللقاء بين هؤلاء المنشقين -الذين أطلق عليهم اسم الخوارج- عند "النهروان" على القناة التى تحمل نفس الاسم وتتفرع من نهر دجلة.
وكان معاوية أول من وصل إلى مكان اجتماع لجنة التحكيم (رمضان ٣٧ هـ/ فبراير ٦٥٨ م) واعتذر علىّ بسبب المتاعب التى فجرها الخوارج ولم يفعل أكثر من أن بعث بأبى موسى ومعه مرافق، بالإضافة إلى ابن عمه ابن عباس كممثل له. ويقول البعض إن الاجتماع كان فى دومة الجندل وهى فى منتصف الطريق بين سوريا والعراق. وهناك ما يؤكد أن الاجتماع الأول كان فى دومة الجندل (الجوف الآن) والثانى فى أذرح فى شعبان عام ٣٨ هـ. وفى هذه الأثناء بايع أهل الشام معاوية (ذو القعدة عام ٣٧ هـ/ أبريل ٦٥٨ م) واعترض علىّ على الحكم الذى عرفته الأطراف، وإن يكن لم يعلن، إذ اتفق الحكمان على ألا يقولا شيئا، وعلى ذلك جمع قواته وخرج لمقابلة معاوية. وعند الأنبار اتجه إلى "النهروان"، معتقدا أنه من الضرورى أولا القضاء على مركز التمرد، وفى الشهر نفسه الذى انشغل فيه علىّ مع الخوارج، استولى معاوية على مصر (صفر عام ٣٨ هـ).
وحاول علىّ أن يستميل الخوارج إلى قواته بإعلانه أنه سيقاتل معاوية مرة أخرى ولكن محاولته باءت بالفشل واتهموه بأنه ارتكب عملا من أعمال الكفر؛ الأمر الذى رفضه بشدة، وبعد وعد بالأمان لهؤلاء الذين سوف يستسلمون -وكان هناك بعض منهم- هاجم المتمردين (٩ صفر ٣٨ هـ/ ١٧ يوليو ٦٥٨ م) وكانت مذبحة أكثر منها معركة، ويبدو أن عليا كان أول من