رسول الله صلى الله عليه وسلم، وخاصة بحديث ابن عيينة. وقال ابن معين: علي من أروى الناس. وقال أبو قدامة السرخسي: سمعت علي بن المديني يقول: رأيت فيما يرى النائم كأن الثريا تدلت حتى تناولتها. قال أبو قدامة فصدق رؤياه. بلغ في الحديث مبلغا لم يبلغه كبير أحد.
وقال النسائي: كأن الله خلق علي بن المديني لهذا الشأن. وقال أبو يحيى صاعقة: كان علي بن المديني إذا قدم بغداد تصدر للحلقة، وجاء يحيى، وأحمد بن حنبل والمعيطي، والناس يتناظرون، فإذا اختلفوا في شيء تكلم فيه علي. وقال أحمد بن زهير يقول: سمعت ابن معين يقول: كان علي بن المديني إذا قدم علينا أظهر السنة، وإذا ذهب إلى البصرة أظهر التشيع.
وقال إبراهيم بن معقل: سمعت البخاري يقول: ما استصغرت نفسي عند أحد إلا عند علي بن المديني. وقيل لأبي داوود: أحمد أعلم أم علي قال: علي أعلم باختلاف الحديث من أحمد.
وقال أبو داوود: ابن المديني خير من عشرة آلاف مثل الشاذكوني. وعن أبي عبيدة قال: انتهى العلم إلى أربعة: أبو بكر بن أبي شيبة أسردهم له، وأحمد بن حنبل أفقههم فيه، وعلي بن المديني أعلمهم به،