ثم ولاه عبد الملك إمرة الحجاز، وسار إلى المدينة من مكة، فأقام بها ثلاثة أشهر وتغيب أهلها منه، واستخف فيها ببقايا الصحابة رضى الله عنهم، وختم أعناقهم، وغير من الكعبة ما صنعه بها ابن الزبير.
وذلك أنه نقض الجانب الشامى من الكعبة، وأخرج منه ما كان ابن الزبير أدخله من الحجر فيها، وسدّ بابها الغربى الذى فتحه ابن الزبير، وردمها بما فضل من حجارتها حتى ارتفعت كما هى عليه اليوم. وقد شرحنا ذلك فى شفاء الغرام ومختصراته، فأغنى عن إعادته هنا.
ثم عزله عبد الملك عن الحجاز فى سنة خمس وسبعين، وأمره على العراق، ففعل فيه أيضا أمورا منكرة يطول شرحها، وهى مبسوطة فى كتب التاريخ. ولم يزل الحجاج على إمرة العراق، حتى أهلكه الله تعالى، فى يوم الجمعة لسبع بقين من رمضان سنة خمس وتسعين. كذا قال الطبرى فى تاريخ وفاته.
وذكر الذهبى: أنه توفى ليلة سبع وعشرين من رمضان، وله ثلاث وخمسون سنة أو دونها.
وروى ابن زبر فى وفياته، عن ابن عيينة: أنه توفى فى شوال سنة خمس وتسعين، وهو ابن أربع وخمسين سنة، وقيل: إن عمره ثلاث وخمسون سنة. وكانت وفاته بمدينة واسط التى بناها. وبها دفن وعفّى أثر قبره وأجرى عليه الماء. وكان مرضه الذى مات به الأكلة وقعت فى بطنه، وسلط الله تعالى معها عليه الزمهرير. ولما بلغ الحسن البصرى موت الحجاج سجد لله شكرا. وقال: اللهم إنك أمته فأمت عنا سننه. وسئل إبراهيم النخعى عنه فقال: ألم يقل الله تعالى: (أَلا لَعْنَةُ اللهِ عَلَى الظَّالِمِينَ).
وروى الترمذى عن هشام بن حسان، أنه أحصى من قتل الحجاج صبرا، فبلغ مائة ألف وعشرين ألفا، وعرضت السجون بعده، فوجد فيها ثلاثة وثلاثون ألفا، لم يجب على أحد منهم قطع ولا صلب.
قال الذهبى: وسمعوه يقول عند الموت: رب اغفر لى، فإن الناس يزعمون أنك لا تغفر لى. قال: وكان شجاعا مهيبا جبارا عنيدا، مخازيه كثيرة، إلا أنه كان عالما فصيحا مفوّها، مجودا للقرآن. انتهى.
وكانت ولايته للحجاز ثلاث سنين، وولايته للعراق عشر سنين.