والي مكة، فبايعه ليزيد، فلم يرض يزيد حتى يؤتى به في جامعة ووثاق، فقال له ولده معاوية بن يزيد: ادفع عنك الشر ما اندفع، فإن ابن الزبير لجوج لا يطيع لهذا أبدًا، فكفِّر عن يمينك، فغضب وقال: إن في أمرك لعجبًا! قال: فادع عبد الله بن جعفر فاسأله عمَّا أقول، فدعاه فقال له: أصاب ابنك أبو ليلى، فأبى أن يقبل، وامتنع ابن الزبير أن يذِلّ نفسه، وقال: اللهمَّ إني عائذ بيتك. فقيل له: عائذ البيت، وبقي لا يعرض له أحد، فكتب يزيد إلى عمرو الأشدق والي المدينة، أن يجهز إلى ابن الزبير جندًا، فندب لقتاله أخاه عمرو بن الزبير في ألف، فظفر ابن الزبير بأخيه بعد قتال، فعاقبه وأخر عن الصلاة بمكة الحارث بن يزيد، وقرر مصعب بن عبد الرحمن بن عوف، وكان لا يقطع أمرًا دون المسور بن مخرمة، ومصعب بن عبد الرحمن، وجبير بن شيبة، وعبد الله بن صفوان بن أمية، فكان يشاورهم في أمره كله، ويريهم أن الأمر شورى بينهم، لا يستبد بشيء منه دونهم، ويصلي بهم الجمعة، ويحجّ بهم بلا إمرة، وكانت الخوارج وأهل الفتن قد أتوه، وقالوا: عائذ بيت الله، ثم دعا إلى نفسه، وبايعوه، وفارقته الخوارج، فولَّى على المدينة أخاه مصعبًا، وعلى البصرة الحارث بن عبد الله بن أبي ربيعة، وعلى الكوفة عبد الله بن مطيع، وعلى مصر عبد الرحمن بن جحدم الفهري، وعلى اليمن وعلى خراسان، وأمَّر على الشام الضحاك بن قيس، فبايع له عامَّة أهل الشام، وأبت طائفة، والتفَّت على مروان بن الحكم، وجرت أمور طويلة، وحروب مزعجة، وجرت وقعة مرج راهط، وقُتِلَ ألوف من العرب، وقُتِلَ الضحاك، واستفحل أمر مروان، إلى أن غلب على الشام، وسار في جيش عرمرم، فأخذ مصر، واستعمل عليها ولده عبد العزيز، ثم دهمه الموت، فقام بعده ولده الخليفة عبد الملك، فلم يزل يحارب ابن الزبير حتى ظفر به، بعد أن سار إلى العراق، وقتل مصعب بن الزبير.
قال شعيب بن إسحاق: حدثنا هشام بن عروة، عن أبيه، أن يزيد كتب إلى ابن الزبير: إني قد بعثت إليك بسلسلة فضة، وقيدًا من ذهب، وجامعة من فضة، وحلفت لتأتيني في ذلك، فألقى الكتاب وأنشد:
ولا ألين لغير الحق أسأله … حتى يلين لضرس الماضغ الحجر
قلت: ثم جهَّز يزيد جيشًا ستة آلاف؛ إذ بلغه أنَّ أهل المدينة خلعوه، فجرت وقعة الحرة، وقُتِلَ نحو ألف من أهل المدينة، ثم سار الجيش عليهم حصين بن نمير، فحاصروا الكعبة وبها ابن الزبير، وجرت أمور عظيمة، فقلع الله يزيد، وبايع حصين وعسكره ابن الزبير بالخلافة، ورجعوا إلى الشام.