كنت أظن لك رأيا، وأنا أكلمك سرّا وتكلمنى جهرا، وأدعوك إلى الخلافة، وتعدنى القتل والهلكة. ثم فارقه ورحل هو وأصحابه نحو المدينة، وندم ابن الزبير على ما صنع، فأرسل إليه: أما المسير إلى الشام فلا أفعله، ولكن بايعوا لى هناك فأنى مؤمنكم وعادل فيكم، فقال الحصين: إن لم تقدم بنفسك فلا يتأتى الأمر، فإن هناك ناسا من بنى أمية يطلبون هذا الأمر.
وكان رحيل الحصين عن مكة لخمس ليال خلون من ربيع الآخر، وصفا الأمر بمكة لابن الزبير، وبويع له بالخلافة فيها، وبالمدينة وبالحجاز واليمن والبصرة والكوفة وخراسان ومصر وأكثر بلاد الشام.
وكان مروان بن الحكم أراد أن يبايع له وأن يعضده، وكان قد انحاز هو وأهله إلى أرض حوران، فوافاهم عبيد الله بن زياد بن أبيه منهزما من الكوفة، فلوى عزمه عن ذلك، وقواه على طلب الخلافة، والتقوا مع الضحاك ابن قيس الفهرى، وقد دعا إلى نفسه بالشام، بعد أن دعا لابن الزبير بمرج راهط شرقى الغوطة بدمشق، فى آخر سنة أربع وستين من الهجرة؛ وقتل الضحاك، واستولى مروان على الشام، وسار إلى مصر فملكها ومهد قواعدها فى سنة خمس وستين، ثم عاد إلى دمشق، ومات فى رمضان من سنة خمس وستين، وقد عهد بالأمر لابنه عبد الملك، وصار الخليفة بالشام ومصر، وابن الزبير الخليفة بالحجاز، ثم سار عبد الملك إلى العراق لقتال مصعب بن الزبير، أخى عبد الله، فالتقى الجمعان بدير الجاثليق فى سنة اثنتين وسبعين من الهجرة، فخان مصعبا بعض جيشه، لأن عبد الملك كتب إليهم يعدهم ويمنيهم، حتى أفسدهم على مصعب، فقتل وقتل معه أولاده: عيسى وعروة وإبراهيم، واستولى عبد الملك على بلاد العراق وما يليها، وجهز الحجاج بن يوسف الثقفى إلى مكة لقتال عبد الله بن الزبير، وبعث معه أمانا لابن الزبير ومن معه إن أطاعوا، فسار الحجاج فى جمادى الأولى من هذه السنة ونزل الطائف، وكان يبعث الخيل إلى عرفة، ويبعث ابن الزبير خيلا أيضا يقتتلون بعرفة، فتنهزم خيل ابن الزبير وتعود خيل الحجاج بالظفر، ثم كتب إلى عبد الملك يستأذنه فى دخول الحرم وحصر ابن الزبير، ويخبره بضعفه وتفرق أصحابه، ويستمده.
وكتب عبد الملك إلى طارق بن عمرو، مولى عثمان، يأمر باللحاق بالحجاج، وكان عبد الملك قد أمر طارقا بالنزول بين أيلة ووادى القرى، يمنع عمال ابن الزبير من الانتشار، ويسد خللا إن ظهر له، فقدم طارق المدينة فى ذى الحجة، فى خمسة آلاف، وكان الحجاج قد قدم مكة فى ذى القعدة، وقد أحرم بحجة، فنزل بئر ميمون، وحج بالناس تلك السنة، إلا أنه لم يطف بالكعبة، ولا سعى بين الصفا والمروة، لمنع ابن الزبير له من ذلك، ولم يحج هو ولا أصحابه.