جرير بن حازم، عن هزان بن سعيد: حدثني رجاء بن حيوة قال: لما ثقل سليمان بن عبد الملك، رآني عمر بن عبد العزيز في الدار فقال: يا رجاء، أذكرك الله أن تذكرني أو تشير بي، فوالله ما أقدر على هذا الأمر، فانتهرته وقلت: إنك لحريص على الخلافة، أتطمع أن أشير عليه بك، فاستحيا، ودخلت، فقال لي سليمان: يا رجاء، من ترى لهذا الأمر قلت: اتق الله، فإنك قادم على ربك وسائلك عن هذا الأمر، وما صنعت فيه، قال: فمن ترى قلت: عمر بن عبد العزبز. قال: كيف أصنع بعهد عبد الملك إلي، وإلى الوليد في ابني عاتكة، أيهما بقي قلت تجعله من بعده، قال: أصبت، هات صحيفة، فكتب عهد عمر، ويزيد بن عبد الملك من بعده، ثم دعوت رجالا فدخلوا عليه، فقال: عهدي في هذه الصحيفة مع رجاء، اشهدوا واختموا الصحيفة، فما لبث أن مات، فكففت النساء عن الصياح، و خرجت إلى الناس، فقالوا: كيف أمير المؤمنين قلت: لم يكن منذ اشتكى أسكن منه الساعة، قالوا لله الحمد.
الوليد بن المسلم، عن عبد الرحمن بن حسان الكناني قال: لما مرض سليمان بدابق، قال لرجاء بن حيوة: من للأمر أستخلف ابني قال: ابنك غائب، قال: فالآخر، قال: صغير، قال: فمن ترى قال: أرى أن تستخلف عمر بن عبد العزيز، قال: أتخوف بني عبد الملك قال: ول عمر، و من بعده يزيد، واختم الكتاب، و تدعوهم إلى بيعته مختوما، قال: لقد رأيت، ائتني بقرطاس، فدعا بقرطاس، و كتب العهد، و دفعه إلى رجاء، و قال: اخرج إلى الناس فليبايعوا على ما فيه مختوما، فخرج إليهم، فامتنعوا، فقال: انطلق إلى صاحب الحرس و الشرط فاجمع الناس ومرهم بالبيعة، فمن أبى فاضرب عنقه، ففعل، فبايعوا على ما في الكتاب، قال رجاء:) فبينا أنا راجع إذا بموكب هشام، فقال: تعلم موقعك منا، و إن أمير المؤمنين قد صنع شيئا