هذه الولاية، ثم أنه بعد قليل ضم إليه مكة والطائف فاصبح عمر بذلك أميرا على الحجاز كله.
كانت حكومة عمر ابن عبد العزيز بالحجاز (٨٧ - ٩٣) حكومة شورية أبوية يمازجها من ناحيته الشخصية مقدار غير قليل من الحرص على الترف والتنعم. فلأول قدومه المدينة اصطفى عشرة من العلماء اتخذهم نصحاء ومستشارين يصدر في الأمور عن رأيهم، ثم عكف على إصلاح شؤون الحجاز فهدم المسجد النبوي وأعاد بناءه على نحو أوسع وأروع، وأصلح الطرق، وأكثر من الآبار وتيسر بذلك الماء في ذلك القطر الظميء، كما أنه عمل بالمدينة فوارة يستقي منها أهلها، وقد اعجب الخليفة بتلك المنشآت عندما زار المدينة سنة ٩١هـ وأمر للفوارة بقوام يقومون عليها، وأن يسقى أهل المسجد منها، ففعل عمر ذلك. ومن مظاهر بساطة عمر في إمارته بالحجاز انه جلس مرة في المسجد يرتِّل القرآن بصوته العذب فتأذّى بذلك سعيد أبن المسيب على غير علم منه بصاحب الصوت، فلم ير عمر بأساً بان ينتحي ناحية أخرى من المسجد. وبلغه أن قاضيه على المدينة استخفه الطرب عندما سمع جاريته تغني حتى أخرجه من وقاره، فعزله عمر، ولكن القاضي المعزول تحدى الأمير لسماع الجارية، فسمعها عمر وكاد هو أيضا يستخف فعذر القاضي وردَّه إلى عمله. وعندما قدم الفرزدق الشاعر المدينة وكانت السنة ممحلة وخاف أهل المدينة لسانه رفعوا أمرهم إلى عمر فأخرجه من المدينة ونهاه أن يعرض لأحد من أهلها بمدح أو بهجو. أما من حيث حياة عمر الشخصية في تلك الفترة فكان مترفا مسرفا في الترف، يرخي شعره ويسبل أزراره ويلبس الثوب تبلغ قيمته مئات الدنانير، ويكثر من الطيب حتى لتقصف ريحه إذا مشى مشيته (العمرية) وهي مشية كان يتبختر فيها ويختال، ولملاحتها كانت الجواري تأخذها عنه.
حادث واحد نغَّص على أبن عبد العزيز إمارته على الحجاز: ذلك مصرع خبيب بن عبد الله بن الزبير فقد نقم الخليفة الوليد من خبيب أشياء بلغته عنه وكتب إلى عمر أن يضربه فضربه عمر ضرباً كان فيه هلاكه. وقد جزع عمر لذلك جزعا شديداً، ويقولون انه لبس المسوح سبعين يوما حدادا على خبيب، ثم أقلع عن ذلك. فلما استخلف دفع ديَّة خبيب إلى أوليائه، ومع ذلك كان يرى أن الله لابد مؤاخذه لذلك الذنب، فكان إذا بشره أحدهم بالجنة