وقد جرت لعبيد الله خطوب، وأبغضه المسلمون لما فعل بالحسين ﵁، فلمَّا جاء نعي يزيد هرب بعد أن كاد يؤسَر، واخترق البرية إلى الشام، وانضمَّ إلى مروان، ثم سار في جيش كثيف، وعمل المصافّ برأس عين.
واستخلف عاوية بن زيد شابًّا مليحًا وسيمًا، صالحًا، فتمرَّض ومات بعد شهرين. قيل له: استخلف. فقال: ما أصبت من حلاوتها، فلم أتحمّل مرارتها؟ وعاش إحدى وعشرين سنة، وصلى عليه ابن عمه عثمان بن عنبسة بن أبي سفيان، فأرادوه على الخلافة فأبى، ولحق بخاله ابن الزبير فبايعه. وهَمَّ مروان بمبايعة ابن الزبير، فأتاه عبيد الله بن زياد هاربًا من العراق، وكان قد خطب ونعى إلى الناس يزيد، وبذل العطاء، فخرج عليه سلمة الرياحي يدعو إلى ابن الزبير، فمال إليه الناس، فقال الناس لعبيد الله: أخرج لنا إخواننا من السجون -وكانت مملوءة من الخوارج، قال: لا تفعلوا. فأبوا، فأخرجهم، فجعلوا يبايعونه، فما تكامل آخرهم حتى أغلظوا له، ثم عسكروا.
وقيل: خرجوا يمسحون الجدر بأيديهم، ويقولون: هذه بيعة ابن مرجانة. ونهبوا خيله، فخرج ليلًا، واستجار بمسعود بن عمرو رئيس الأزد، فأجاره.
وأمَّر أهل البصرة عليهم عبد الله بن الحارث بن نوفل الهاشمي، فشدت الخوارج على مسعود فقتلوه، وتفاقم الشر، وصاروا حزبين، فافتتلوا أيامًا، فكان على الخوارج نافع بن الأزرق، وفَرَّ عبيد الله قبل مقتل مسعود في مائة من الأزد إلى الشام، فوصل إلى الجابية، وهناك بنو أمية، فبايع هو ومروان خالد بن يزيد بن معاوية في نصف ذي القعدة، ثم التقوا هُمْ والضَّحَّاك بمرج دمشق، فاقتتلوا أيامًا في ذي الحجة.
وكان الضحاك بن قيس في ستين ألفًا، والأموية في ثلاثة عشر ألفًا، وأشار عبيد الله بمكيدة، فسألوا الضحاك الموادعة فأجاب، فكبسهم مروان، وقتل الضحاك في عدة من فرسان قيس، وثار الخوارج بمصر، ودعوا إلى ابن الزبير يظنّونه منهم، فبعث على مصر عبد الرحمن بن جحدم الفهري، واستعمل على الكوفة عامر بن مسعود الجمحي، وهدم الكعبة وبناها، وألصق بابيها بالأرض، وأدخل فيها ستة أذرع من الحِجْرِ.
وأمَّا أكثر الشاميين فبايعوا مروان في أول سنة خمس، وبعث ابن الزبير على خراسان المهلب بن أبي صفرة، فحارب الخوارج ومزقهم، وسار مروان، فأخذ مصر بعد حصارٍ وقتال شديد، وتزوّج بوالدة خالد بن يزيد بن معاوية، وجعله ولي عهده، فما تَمَّ ذلك، وقتله الزوجة، لكونه قال لخالد مرة: يا ابن رطبة الاست.