ليلة ثاني عشر ربيع الأول سنة ثلاث وستين وأربعمائة فرأيت عند السحر كأنا اجتمعنا عند أبي بكر الخطيب في منزله لقراءة التاريخ على العادة فكأن الخطيب جالس والشيخ أبو الفضل نصر بن إبراهيم الفقيه عن يمينه وعن يمين الفقيه نصر رجل لم أعرفه فسألت عنه فقيل: هذا رسول الله صلى الله عليه وسلم جاء ليسمع التاريخ فقلت في نفسي: هذه جلالة لأبي بكر إذ يحضر رسول الله صلى الله عليه وسلم مجلسه.
وقلت: وهذا رد لقول من يعيب التاريخ ويذكر أنه فيه تحامل على أقوام.
وقال أبو الحسن محمد بن مرزوق الزعفراني: حدثني الفقيه الصالح أبو علي الحسن بن أحمد البصري قال: رأيت الخطيب في المنام وعليه ثياب بيض حسان وعمامة بيضاء وهو فرحان يبتسم. فلا أدري قلت: ما فعل الله بك؟ أو هو بدأني فقال: غفر الله لي أو رحمني وكل من نجا. فوقع لي أنه يعني بالتوحيد إليه يرحمه أو يغفر له فأبشروا. وذلك بعد وفاته بأيام.
وقال أبو الخطاب بن الجراح يرثيه:
* فاق الخطيب الورى صدقا ومعرفة * وأعجز الناس في تصنيفه الكتبا * * حمى الشريعة من غاو يدنسها * بوصفه ونفى التدليس والكذبا * * جلا محاسن بغداد فأودعها * تاريخا مخلصا لله محتسبا * * وقال في الناس بالقسطاس منحرفا * عن الهوى وأزال الشك والريبا * * سقى ثراك أبا بكر على ظمأ * جون ركام تسح الواكف السربا * * ونلت فوزا ورضوانا ومغفرة * إذا تحقق وعد الله واقتربا * * يا أحمد بن علي طبت مضطجعا * وبآء شانئك بالأوزار محتقبا *