قال أبو حاتم عن أبي الربيع الزهراني ما رأيت مثل عبد الرحمن وأوصف منه بصرا بالحديث وقال العجلي قال له رجل أيما أحب إليك يغفر الله لك ذنبا أو تحفظ حديثا قال أحفظ حديثا وقال علي بن المديني إذا اجتمع يحيى بن سعيد وعبد الرحمن بن مهدي على ترك رجل لم أحدث عنه فإذا اختلفا أخذت بقول عبد الرحمن لأنه أقصدهما وكان في يحيى تشدد وقال أحمد بن سنان سمعت علي بن المديني يقول كان عبد الرحمن بن مهدي أعلم الناس قالها مرارا وقال ابن أبي صفوان سمعت علي بن المديني يقول لو حلفت بين الركن والمقام لحلفت بالله اني لم أر أحدا قط أعلم بالحديث من عبد الرحمن بن مهدي.
وقال علي بن نصر عن علي بن المديني كان يحيي بن سعيد أعلم بالرجال وكان عبد الرحمن أعلم بالحديث رما شبهت علم عبد الرحمن بالحديث إلا بالسحر وقال القواريري عن يحيى بن سعيد ما سمع عبد الرحمن من سفيان عن الأعمش أحب إلي مما سمعت أنا من الأعمش وقال إسماعيل بن إسحاق القاضي سمعت علي بن المديني يقول أعلم الناس بالحديث عبد الرحمن بن مهدي قال وكان يعرف حديثه وحديث غيره وكان يذكر له الحديث عن الرجل فيقول خطأ ثم يقول ينبغي أن يكون أتى هذا الشيخ من حديث كذا من وجه كذا قال فنجده كما قال.
وقال أبو حاتم هو أثبت أصحاب حماد بن زيد وهو امام ثقة أثبت من يحيى ابن سعيد وأتقن من وكيع وكان يعرض حديثه على الثوري وقال ابن المديني كان ورد عبد الرحمن كل ليلة نصف القرآن وقال الأثرم عن أحمد إذا حدث عبد الرحمن عن رجل فهو حجة وقال ابن سعد كان ثقة كثير الحديث توفي سنة ثمان وتسعين ومائة في جمادى الآخرة وهو ابن (63) سنة (1) وكذا قال ابن المديني وغير واحد في سنة وفاته قلت وذكره ابن حبان في الثقات وقال كان من الحفاظ المتقنين وأهل الورع في الدين ممن حفظ وجمع وتفقه وصنف وحدث وأبى الرواية إلا عن الثقات وقال الخليلي هو امام بلا مدافعة ومات الثوري في داره وقال الشافعي لا أعرف له نظيرا في الدنيا.