ابوه الى المدينة وارسل معه الخدام فقعد مع مشايخ قريش وتجنب شبابهم وما زال ذلك دأبه حتى اشتهر ذكره فلما مات ابوه اخذه عمه امير المؤمنين عبد الملك بن مروان فخلطه بولده وقدمه على كثير منهم وزوجه بابنته فاطمة. قال العتبي ولم يكن حاسد عمر بن عبد العزيز ينقم عليه شيئا سوى التنعم والاختيال في المشية.
وقال الضحاك بن عثمان الخزامي كان ابوه قد جعله عند صالح بن كيسان يؤدبه فلما حج ابوه اجتاز به في المدينة فسأله عنه فقال ما علمت احدا الله اعظم في صدره من هذا الغلام.
وروى ابن ابي خيثمة عن داود بن ابي هند قال دخل علينا عمر بن عبد العزيز من هذا الباب - واشار الى باب من ابواب مسجد النبي صلى الله عليه وسلم - فقال رجل من القوم بعث الفاسق لنا بابنه هذا يتعلم الفرائض والسنن ويزعم انه لن يموت حتى يكون خليفة ويسير سيرة عمر بن الخطاب. قال داود والله ما مات حتى رأينا ذلك فيه.
واذا كان عمر بن عبد العزيز رحمه الله تعالى منذ صغره مقبلا على العلم والادب ومجالسة المشايخ ومجانبة الشبان فكيف يظن به انه كان يهفو الى الغناء ويحبه حباً شديداً. هذا بهتان عظيم.