عليه رأي أمير المؤمنين، أطال الله بقاءه، من التمسك بالسنة والمخالفة لأهل البدع. يقول أحمد بن محمد بن حنبل: قد سألني عبد الرحمن بن يحيى عن جميع من في هذا الكتاب، وأجبته بما كتب، وكنت عليل العين ضعيفا في بدني، فلم أقدر أن أكتب بخطي، فوقع هذا التوقيع في أسفل القرطاس عبد الله ابني بأمري، وبين يدي.
ومن سيرته:
قال عبد الملك الميموني. ما رأيت عمامة أبي عبد الله قط إلا تحت ذقنه، ورأيته يكره غير ذلك.
أبو مسلم محمد بن إسماعيل: حدثنا صالح بن أحمد، قال: مضيت مع أبي يوم جمعة إلى الجامع، فوافقنا الناس قد انصرفوا. فدخل إلى المسجد، وكان معنا إبراهيم بن هانئ، فتقدم أبي فصلى بنا الظهر أربعا.
وقال: قد فعله ابن مسعود بعلقمة والأسود. وكان أبي إذا دخل مقبرة، خلع نعليه، وأمسكهما بيده.
قال يحيى بن مندة في " مناقب أحمد ": أخبرنا البيهقي، أخبرنا الحاكم، سمعت يحيى بن منصور، سمعت خالي عبد الله بن علي بن الجارود، سمعت محمد بن سهل بن عسكر، يقول: كنت عند أحمد بن حنبل، فدخل محمد بن يحيى، فقام إليه أحمد، وتعجب منه الناس، ثم قال لبنيه وأصحابه: اذهبوا إلى أبي عبد الله، فاكتبوا عنه.
إبراهيم بن محمد بن سفيان: سمعت عاصم بن عصام البيهقي، يقول: بت ليلة عند أحمد بن حنبل، فجاء بماء فوضعه، فلما أصبح نظر إلى الماء بحاله، فقال: سبحان الله! رجل يطلب العلم لا يكون له ورد بالليل.