وكان عمر بن عبد العزيز يختلف إلى عبيد الله بن عبد الله، يسمع منه العلم، فبلغ عبيد الله أن عمر يتنقص عليا، فأقبل عليه، فقال: متى بلغك أن الله تعالى سخط على أهل بدر بعد أن رضي عنهم، قال: فعرف ما أراد، فقال: معذرة إلى الله وإليك، لا أعود. فما سمع عمر بعدها ذاكرا عليا رضي الله عنه إلا بخير.
نقل الزبير بن بكار عن العتبي: أن أول ما استبين من عمر بن عبد العزيز أن أباه ولي مصر، وهو حديث السن، يشك في بلوغه، فأراد إخراجه، فقال: يا أبت. أو غير ذلك؟ لعله أن يكون أنفع لي ولك: ترحلني إلى المدينة فأقعد إلى فقهاء أهلها، وأتأدب بآدابهم، فوجهه إلى المدينة، فاشتهر بها بالعلم والعقل مع حداثة سنه. قال: ثم بعث إليه عبد الملك بن مروان عند وفاة أبيه، وخلطه بولده، وقدمه على كثير منهم، وزوجه بابنته فاطمة التي قيل فيها:
بنت الخليفة، والخليفة جدها * أخت الخلائف، والخليفة زوجها وكان الذين يعيبون عمر ممن يحسده بإفراطه في النعمة، واختياله في المشية.
وقال أبو مسهر: ولي عمر المدينة في إمرة الوليد من سنة ست وثمانين إلى سنة ثلاث وتسعين.
قلت: ليس له آثار سنة ثنتين وسبعين بالمدينة، ولا سماع من جابر بن عدا الله، ولو كان بها وهو حدث، لاخذ عن جابر.
وقال أبو بكر بن عياش: حج بالناس عمر بن عبد العزيز غير مرة، أولها سنة تسع وثمانين.