سمع: أحمد بن حنبل، وهارون بن معروف، ومحمد بن منهال الضرير، وسريج بن يونس، وعبيد الله القواريري، ومحمد بن عبد الله بن نمير، وعثمان بن أبي شيبة، وعباس بن عبد العظيم العنبري، ومحمد بن عبد العزيز بن أبي رزمة، وطوائف.
أخذ عنه: أبو بكر الخلال، ومحمد بن عيسى بن الوليد، ومحمد بن مخلد، ووالد أبي القاسم الخرقي، وآخرون.
قال الخلال أبو بكر: أخبرني محمد بن جعفر الراشدي: سمعت إسحاق بن داود يقول: لا أعلم أحدا يقوم بأمر الإسلام من أبي بكر المروذي.
وقال الخلال: سمعت أبا بكر المروذي يقول: كان أبو عبد الله يبعث بي في الحاجة فيقول: قل ما قلت فهو على لساني، فأنا قلته.
قلت: ما كان يقول أبو عبد الله ذلك إلا لما يعلم من صدقه وأمانته وورعه.
وقال الخلال: خرج أبو بكر المروذي إلى الغزو، فشيعه الناس إلى سامراء، فجعل يردهم فلا يرجعون.) قال: فحزروا فإذا هم بسامراء، سوى من رجع، نحو خمسين ألف إنسان.
فقيل له: يا أبا بكر احمد الله فهذا علم قد نشر لك.
فبكى وقال: ليس هذا العلم لي، وإنما هو لأحمد بن حنبل.
وقال الخطيب أبو بكر في ترجمة المروذي: هو المقدم من أصحاب أحمد لورعه وفضله.
وكان أحمد يأنس به، وينبسط إليه وهو الذي تولى إغماضه لما مات