فلما قدم زياد عمان، بسط على الخيار العذاب، فلما كان بعد مدة، ورد مرتع غلام يزيد بن المهلب، على أخيه زياد، بكتاب منه يأمره فيه أن يمكن مرتعا من قتل الخيار، فمكنه من ذلك وقتله، وكتب إلى زياد: اني لم أبعثك جابيا، ولكن بعثتك ثائرا.
وبعث يزيد بن المهلب، المنهال بن عيينة، إلى جزيرة بني كاوان، وأمر زياد بن المهلب أن يفرض لأهل كاوان ويوجههم المنهال إلى البصرة.
ثم ان سليمان بن عبد الملك، أثر في نفسه محبة، يزيد بن المهلب، ورفع من أمره وقدره، وقدمه على سائر خواصه وأعماله وملكه، أعنة الخيل وتدبير الأمر، فبلغ من أمر يزيد بن المهلب حتى صار بالعساكر وفتح جرجان وزاد علو همته وبذل المال، فقصدته صناديد العرب وشعراؤها، فأعطى وأكثر، ثم أنه ولى خراسان وقيادة الجيوش ابنه مخلد بن يزيد، وهو ابن اثني عشر سنة، وفيه يقول الكميت:
قاد الجيوش لبضع عشرة حجة ... ولداته في ذلك عن اشغال
قعدت بهم هماتهم وسما به ... همم لملوك وسورة الأبطال
وفيه يقول، مرة بن بيض:
بلغت لعشر مضت من سنيك ... ما يبلغ السيد الأشيب
فهمك فيها حسام الأمور ... ولهم بداتك أن يبلغ
ففتح مخلد: اليم، والقم، في يوم عيد لهم، وأخذ امرأة ملكهم وأفلت الملك، فافتداها بأصنامهم الذهب، وما في بيوت أموالهم.
وكان يزيد يجلس على سرير سليمان بن عبد الملك في مغيبه. فإذا حضر سليمان جلس يزيد عن يمينه، فإذا نهض عاد إلى مكانه. واليه كان أمر جميع الناس لما علم فيه الكفاية والسياسة، وملكه أعنة الخيل، لمعرفته بشجاعته وبأسه ومحبة العرب له.
وكان معه على ذلك إلى أن مات سليمان بن عبد الملك، واستخلف بعده عمر بن العزيز بن الحجاج بن عبد الملك بن مروان. فعزل يزيد بن المهلب عن العراق، واستعمل على العراق عدي بن أرطاة الفزاري.
وقد كان زياد بن المهلب عاملا من جهة أخيه يزيد بن المهلب على عمان مكرما لليمانية، إلى أن مات سليمان بن عبد الملك، وولى عمر بن عبد العزيز، واستعمل على العرق عدي بن أرطاة الفزاري، فاستعمل عدي بن أرطاة العرب تحت لوائه طوعا. فعند ذلك يزيد بن المهلب أن يغلب بني مروان. وجمع يزيد العساكر ومن أطاعه من اليمانية، من أهل الشام، منهم: كلب، وغسّان، ولخم، وخدام، وعامله، وأحياء قضاعة، وحمير، وكندة، والسكون، ومدجح، وجثعم، وقدم فيهم أخاه مسلمة بن عبد الملك، والعباس بن يزيد، فساروا بالعساكر يريدون يزيد بن المهلب وأهل بيته.
فلما بلغهم خروج مسلمة ومن معه بالعساكر إلى ما قبلهم لمحاربتهم. قال حبيب بن المهلب لأخيه يزيد: أيها الأمير؛ امض بنا إلى خراسان، واجعل بيننا وبين بني مروان العراق. فلم يقبل منه، فلما أقبلت العساكر واختلفت الناس على يزيد وحسدته العرب أن يغلب بني مروان، فبلغ ذلك يزيدا، فاستقبل ووقف عند اخوته وأهل بيته، وكان عنده في عسكره نفر من بني تميم وغيرهم من المضرية.
فلما التقى الجمعان يوم العقر، من بابل ببغداد، وقد أقبلت عساكر الشام من قبائل اليمانية مع مسلمة بن عبد الملك، إلى قبائل بني المهلب، ليس معهم أحد من ربيعة ولا مضر، فنظر ابن المهلب إلى كتائب مؤلفة، كلما أقبلت كتيبة قال يزيد لأصحابه: ما هذه؟ قيل: كنده، ثم جاءت أخرى، فقال: ما هذه؟ قيل: لخم، ثم أقبلت أخرى، فقال: ما هذه؟ قيل: حمير، ثم أقبلت الأخرى، فقال: ما هذه؟ قيل: غسان، ثم أقبلت الأخرى، فقال: وما هذه؟ قيل: همدان، وأقبلت الأخرى، فقال: وما هذه؟ قيل: قضاعة، ثم جاءت مدجح، وجاءت خثعم، وجاءت عامله، وجاءت السكون، وأقبل ينظر إلى قبائل اليمن ويعددهم حتى استتم عدد الكتائب. ثم قال: قبّح الله مسلمة، بقومي قتلني لا بقومه.
ثم تقدم هو وأهل بيته للقتال، فتقدم أخوه حبيب بن المهلب. فقاتل قتالا لم ير مثله، فكان يحمل على أهل الشام حتى يغيب فيهم، ثم يخرج من ناحية أخرى، ففعل ذلك مرارا، فلم يرع الناس الا بفرسه يجول. فعلموا أنه قتل، فأخبر يزيد بذلك. فقال: لا خير في العيش بعد أبس بسطام. ثم تمثل بهذا البيت:
أخو النجدات لا يبالي إذا انتضى ... حديدته من غاب عنه إذا اعتزم