الحافظ قال: قرأت على القاضي أبي الطاهر كتاب العلم ليوسف بن يعقوب، فلما فرغ قال: كما قريء عليك قال: نعم إلا اللحنة بعد اللحنة. قلت: أيها القاضي فسمعته معربا قال: لا. قلت: هذه بهذه. وقمت من ليلتي، فجلست عند اليتيم النحوي.
وقال طلحة بن محمد بن جعفر: استقصى المتقي لله سنة تسع وعشرين وثلاثمائة أبا طاهر محمد بن أحمد الذهلي، وله أبوة في القضاء، سديد المذهب، متوسط الفقه، على مذهب مالك،) وكان له مجلس يجتمع إليه المخالفون ويناظرون بحضرته، وكان يتوسط الفقه بينهم، ويتكلم بكلام سديد، ثم صرف بعد أربعة أشهر، ثم استقضى على الشرقية سنة أربع وثلاثين، وعزل منذ نحو خمسة أشهر.
وقال عبد الغني: سألت أبا الطاهر عن أول ولايته القضاء فقال: سنة عشر وثلاثمائة. وقد كان ولي البصرة. وقال لي: كتبت العلم سنة ثمان وثمانين ومائتين، ولي تسع سنين.
قال: وقرأ القرآن كله وله ثمان سنين، وكان مفوها حسن البديهة، شاعرا، حاضر الحجة، علامة، عارفا بأيام الناس، غزير الحفظ، لا يمله جليسه من حسن حديثه، وكان كريما، ولي قضاء مصر سنة ثمان وأربعين وثلاثمائة. وأقام على القضاء ثماني عشرة سنة.
قال الحافظ عبد الغني: وسمعت الوزير أبا الفرج يعقوب بن يوسف يقول: قال لي الأستاذ كافور: أجتمع بالقاضي أبو بكر البغدادي الطاهر فسلم عليه، وقل له: إنه بلغني أنك تنبسط مع جلسائك، وهذا الانبساط يقل هيبة الحكم، فأعلمته بذلك، فقال لي: قل للأستاذ: لست ذا مال أفيض به على جلسائي، فلا يكون أقل من خلقي، فأخبرت الأستاذ فقال: لا تعاوده، فقد وضع القصعة.
قال عبد الغني: سمعت أحمد بن محمد بن سعرة، أنه سمع أبا بكر