فولى على المدينة أخاه مصعبا، وعلى البصرة الحارث بن عبد الله بن أبي ربيعة، وعلى الكوفة عبد الله بن مطيع، وعلى مصر عبد الرحمن بن جحدم الفهري، وعلى اليمن، وعلى خراسان، وأمر على الشام الضحاك بن قيس، فبايع له عامة أهل الشام، وأبت طائفة، والتفت على مروان بن الحكم، وجرت أمور طويلة، وحروب مزعجة، وجرت وقعة مرج راهط وقتل ألوف من العرب، وقتل الضحاك، واستفحل أمر مروان إلى أن غلب على الشام، وسار في جيش عرمرم، فأخذ مصر، واستعمل عليها ولده عبد العزيز، ثم دهمه الموت، فقام بعده ولده الخليفة عبد الملك، فلم يزل يحارب ابن الزبير حتى ظفر به بعد أن سار إلى العراق، وقتل مصعب بن الزبير.
قال شعيب بن إسحاق: حدثنا هشام بن عروة، عن أبيه؛ أن يزيد كتب إلى ابن الزبير: إني قد بعثت إليك بسلسلة فضة، وقيدا من ذهب، وجامعة من فضة، وحلفت لتأتيني في ذلك، فألقى الكتاب، وأنشد:
ولا ألين لغير الحق أسأله
حتى يلين لضرس الماضغ الحجر
قلت: ثم جهز يزيد جيشا ستة آلاف، إذ بلغه أن أهل المدينة خلعوه، فجرت وقعة الحرة وقتل نحو ألف من أهل المدينة، ثم سار الجيش، عليهم حصين بن نمير، فحاصروا الكعبة، وبها ابن الزبير، وجرت أمور عظيمة، فقلع الله يزيد، وبايع حصين وعسكره ابن الزبير بالخلافة، ورجعوا إلى الشام.
قال شباب: حضر ابن الزبير الموسم سنة ثنتين وسبعين، فحج بالناس، وحج بأهل الشام الحجاج، ولم يطوفوا بالبيت.
قال هشام بن عروة: أول من كسا الكعبة الديباج ابن الزبير، وكان يطيبها حتى يوجد ريحها من طرف الحرم، وكانت كسوتها قبله الأنطاع.
قال عبد الله بن شعيب الحجبي: إن المهدي لما جرد الكعبة، كان فيما نزع عنها كسوة ابن الزبير من ديباج مكتوب عليها " لعبد الله أبي بكر أمير المؤمنين ".
وقال الأعمش: عن أبي الضحى: رأيت على رأس ابن الزبير مسكا يساوي مالا.