روى عن أبي معاوية الضرير ويحيى القطان وابن مهدي وأبي عامر العقدي وأبي أسامة وإسحاق بن يوسف الأزرق والحسن بن موسى الأشيب وشبابة بن سوار وأسود ابن عامر شاذان وزكرياء بن عدي وصفوان بن عيسى ومعلى بن منصور الرازي وحجين ابن المثنى وعبد الرحمن بن غزوان أبو نوح قراد ويحيى بن يوسف الزمي ويزيد بن هارون ويعقوب بن إبراهيم بن سعد وغيرهم.
روى عنه البخاري وأبو داود والنسائي وروى النسائي أيضا عن أحمد بن علي المروزي عنه وأبو حاتم وإبراهيم الحربي ويعقوب بن سفيان وابن خزيمة وابن بجير وابن أبي الدنيا وعبد الله بن محمد الفريابي (1) ومحمد بن محمد بن سليمان الباغندي ويحيى بن محمد ابن صاعد والحسين بن إسماعيل المحاملي وغيرهم.
قال عبد الله بن أحمد قال لي أبي كتبت حديث عبيد الله بن عمر عن نافع عن ابن عمر كنا نغسل الميت منا من يغتسل ومنا من لا يغتسل. قلت لا قال في ذلك الجانب شاب يقال له محمد بن عبد الله يحدث به عن أبي هشام المخزومي عن وهيب فاكتبه عنه وقال أبو بكر الباغندي كان حافظا متقنا وقال ابن عقدة سمعت نصر بن أحمد بن نصر قال كان محمد بن عبد الله المخرمي من الحفاظ المتقنين والمأمونين وقال ابن أبي حاتم كتب عنه أبي وهو صدوق ثقة سئل أبي عنه فقال ثقة ثقة.
وقال النسائي ثقة وقال الدارقطني ثقة كان حافظا وذكره ابن حبان في الثقات وقال الإسماعيلي أخبرنا الفرهياني سمعتهم يقولون قدم علي بن المديني بغداد واجتمع إليه الناس فلما تفرقوا قيل له من وجدت أكيس القوم قال هذا الغلام المخرمي وقال الفرهياني كنا نصف المخرومي بالمعرفة فذكرناه لصاحب حديث يقال له عمر بن إسماعيل أبو عامر من أهل أبيورد فقال إن كيلجة أفادني أبوابا وقال الحديث فيها عزيز وأنا اذكر لكم بعض تلك الأبواب حتى تسألوا عنه المخرمي فسألناه فأملى علينا فيه ستة أحاديث قال ذا هول من الأهوال.
قال ابن قانع مات سنة أربع وخمسين ومائتين وقال ابن حبان مات سنة ستين