أبا الحسن بن عبدكويه ومحمد بن عبد الله بن شهريار وأبا نعيم الحافظ، وبالدينور أبا نصر الكسار، وبهمذان محمد بن عيسى، وسمع بالكوفة والري والحرمين ودمشق والقدس وصور وغير ذلك وكان قدومه إلى دمشق سنة خمس وأربعين وأربعمائة ثم حج ثم قدم الشام سنة إحدى وخمسين فسكنها إحدى عشرة سنة.
حدث عنه البرقاني أحد شيوخه وأبو الفضل بن خيرون والفقيه نصر المقدسي وأبو عبد الله الحميدي وعبد العزيز الكتاني وأبو نصر بن ماكولا وعبد الله بن أحمد السمرقندي وأبو بكر بن الخاضبة وأبي النرسي وأبو القاسم النسيب وهبة الله بن الأكفاني وعبد الكريم بن حمزة وطاهر بن سهل الإسفرائيني وهبة الله بن عبد الله الشروطي وأبو السعادات أحمد بن أحمد المتوكلي وعبد الرحمن بن محمد الشيباني القزاز وأبو منصور بن خيرون المقرئ وخلق يطول ذكرهم.
وكان من كبار الشافعية تفقه على أبي الحسن بن المحاملي والقاضي أبي الطيب.
قال ابن النجار: نشأ ببغداد وقرأ القرآن بالروايات وتفقه وعلق شيئا من الخلاف وآخر من حدث عنه بالسماع محمد بن عمر الأرموي القاضي.
وقال الخطيب: أول ما سمعت في المحرم سنة ثلاث واستشرت البرقاني في الرحلة إلى عبد الرحمن بن النحاس بمصر أو الخروج إلى نيسابور فقال: إن خرجت إلى مصر إنما تخرج إلى رجل واحد فإن فاتك ضاعت رحلتك وإن خرجت إلى نيسابور ففيها جماعة. فخرجت إلى نيسابور وقال ابن ماكولا:
كان أبو بكر الخطيب آخر الأعيان ممن شاهدناه معرفة وحفظا وإتقانا وضبطا لحديث رسول الله (ص)، وتفننا في علله وأسانيده وعلما بصحيحه وغريبه وفرده ومنكره ومطروحه ثم قال: ولم يكن للبغداديين بعد الدارقطني مثله