وهما من شيوخه، وأبو زرعة وابن خزيمة والسراج وأبو حامد ابن الشرقي وأبو حامد بن بلال وأبو على الميداني ومحمد بن الحسين القطان وخلق كثير، وانتهت إليه مشيخة العلم بخراسان مع الثقة والصيانة والدين ومتابعة السنن. قال محمد بن سهل بن عسكر: كنا عند أحمد بن حنبل فدخل محمد بن يحيى الذهلي فقال إليه احمد وتعجب الناس منه وقال لأولاده وأصحابه اذهبوا إلى أبى عبد الله فاكتبوا عنه. قال محمد بن داود المصيصي:
كنا عند أحمد بن حنبل فذكر الذهلي حديثا فيه ضعف فقال احمد: لا يذكر [مثلك] مثل هذا، فخجل محمد، فقال احمد: انما قلت هذا اجلا لا لك يا أبا عبد الله. وعن أحمد: قال ما رأيت أحدا اعلم بحديث الزهري من محمد بن يحيى.
قلت: قد كان الذهلي اعتنى بحديث الزهري وصنفه وتعب عليه.
وروى ابن زياد النيسابوري عن محمد بن يحيى قال قال لي على ابن المديني:
أنت وارث الزهري. وقال أبو حاتم: هو امام أهل زمانه. وقال أبو بكر بن زياد: كان أمير المؤمنين في الحديث. قال الحسين بن الحسن:
سمعت محمد بن يحيى يقول: ارتحلت ثلاث رحلات، وأنفقت على العلم مائة وخمسين ألفا وأتيت البصرة فاستقبلتني جنازة يحيى القطان على باب البلد. وقال ابن خزيمة: نا محمد بن يحيى امام عصره. وعن الدارقطني قال: من أحب ان ينظر قصور علمه فلينظر في علل حديث الزهري لمحمد بن يحيى. قال أبو عمرو أحمد بن نصر الخفاف: رأيت محمد بن يحيى [في المنام] فقلت ما فعل الله بك؟ قال: غفر لي قلت: فما فعل بحديثك؟