روى عنه: أبو داود، والترمذي، وابن ماجة، وإبراهيم بن مالك القطان، وأحمد بن جعفر بن نصر الجمال، وأحمد بن حنبل ومات قبله، وأحمد بن خالد الرازي المعروف بالحروري، وأحمد ابن علي الابار، وإسحاق بن أبي عمران الاسفراييني الشافعي، وجعفر بن أحمد بن نصر الحافظ، والحسن بن علي (1) بن شبيب المعمري، وصالح بن محمد الأسدي الحافظ، وعبد الله بن أحمد ابن حنبل، وعبد الله بن عبد الصمد بن أبي خداش الموصلي وهو من أقرانه، وعبد الله بن محمد بن أبي الدنيا، وعبد الله بن محمد ابن عبد العزيز البغوي، والقاسم بن زكريا المطرز، ومحمد بن إبراهيم بن شعيب الغازي، ومحمد بن أحمد بن تميم، ومحمد ابن إسحاق الصاغاني، ومحمد بن جرير الطبري، ومحمد بن محمد بن سليمان الباغندي، ومحمد بن هارون الروياني، ومحمد ابن يحيى الذهلي، وأبو بكر محمد بن يوسف بن يعقوب الرازي، ويحيى بن معين ومات قبله.
قال إبراهيم بن مالك القطان (2): سمعت محمد بن حميد يقول: دخلت بغداد فاستقبلني أحمد بن حنبل ويحيى فسألوني أحاديث يعقوب القمي فوزعوا الأوراق فيما بينهم فكتبوه، وقرأته