ابن إسحاق القاضي وحنبل بن إسحاق وصالح جزرة وأبو قلابة وأبو حاتم والصاغاني والفضل بن سهل الأعرج ومحمد بن عبد الرحيم صاعقة ويعقوب بن شيبة والعمري وأبو شعيب الحراني وأبو الحسن بن البراء وصالح بن أحمد بن حنبل ومحمد بن علي بن الفضل المديني فستقه وأبو خليفة الجمحي ومحمد بن يونس الكديمي ومحمد بن عثمان بن أبي شيبة وأبو يعلى والبغوي والباغندي وعبد الله بن محمد بن الحسن الكاتب.
قال أبو حاتم الرازي كان علي علما في الناس في معرفة الحديث والعلل وكان أحمد لا يسميه إنما يكنيه تبجيلا له وما سمعت أحمد سماه قط. وقال ابن عيينة يلومونني على حب علي والله لقد كنت أتعلم منه أكثر مما يتعلم مني وقال أحمد بن سنان كان ابن عيينة يسمي علي بن المديني حية الوادي وإذا استثبت سفيان أو سئل عن شئ يقول لو كان حية الوادي وقال محمد بن قدامة الجوهري سمعت ابن عيينة يقول لولا علي بن المديني ما جلست وقال بان زنجلة كنا عند ابن عيينة وعنده رؤساء أصحاب الحديث فقال الرجل الذي روينا عنه أربعة أحاديث الذي يحدث عن الصحابة فقال علي بن المديني زياد ابن علاقة فقال ابن عيينة زياد بن علاقة.
وقال حفص بن محبوب المحبوبي كنا عند ابن عيينة فقام ابن المديني فقام سفيان وقال إذا قامت الخيل لم نجلس مع الرجالة وقال عبد الرحمن بن مهدي علي بن المديني أعلم الناس بحديث رسول الله صلى الله عليه وسلم وخاصة بحديث ابن عيينة وقال عباس العنبري كان يحيى بن سعيد يقول اني كلما قلت لا أحدث إلى كذا استثنيت عليا ويحيى نستفيد من علي أكثر مما يستفيد منا. وقال ابن الجنيد عن ابن معين علي بن المديني من أروى الناس عن يحيى بن سعيد انه أرى عنده أكثر من عشرة آلاف قيل ليحيى أكثر من مسدد قال نعم ان يحيى بن سعيد كان يكرمه ويدنيه وكان صديقه وكان علي يلزمه. وقال أبو قدامة السرخسي سمعت علي بن المديني يقول رأيت فيما يرى النائم كأن الثريا تدلت حتى تناولتها قال أبو قدامة فصدق الله رؤياه بلغ في الحديث مبلغا لم يبلغه أحد.
وقال أبو عبد الرحمن النسائي كأن الله عز وجل خلق علي بن المديني لهذا الشأن وقال أحمد بن سعيد الرباطي قال علي بن المديني ما نظرت في كتاب شيخ فاحتجت إلى السؤال