وكان كبير القدر، صحيح النقل، بارعا في نقل مذهبه.
قال أبو حفص البرمكي: سمعت أبا بكر عبد العزيز يقول: سمع مني شيخنا أبو بكر الخلال نحو عشرين مسألة وأثبتها في كتابه.
وقال أبو يعلى القاضي: كان لأبي بكر عبد العزيز مصنفات حسنة منها المقنع وهو نحو مائة جزء، وكتاب الشافي نحو ثمانين جزءا، وكتاب زاد المسافر وكتاب الخلاف مع الشافعي وكتاب مختصر السنة.
توفي في شوال سنة ثلاث وستين، وله ثمان وسبعون سنة في سن شيخه الخلال، وسن شيخ شيخه المروزي، وسن أحمد بن حنبل.
وروي عنه أنه قال في مرضه: أنا عندكم إلى يوم الجمعة، فمات يوم الجمعة، رحمه الله تعالى.
ويذكر عنه زهد وقنوع.
وقد ذكر أبو يعلى أنه كان معظما في النفوس، متقدما عند الدولة، بارعا في مذهب أحمد.
أنبأنا المؤمل بن البالسي، أنا أبو اليمن الكندي، أنا أبو بكر الخطيب، أنا أحمد بن الجنيد الخطبي، أنا أبو بكر بن عبد العزيز بن جعفر، أنا علي بن طيفور، أنا قتيبة، أنا عبد الوارث، عن عبد الرحمن بن إسحاق، عن النعمان بن سعد، عن علي قال: قال رسول الله صلى الله عليه وسلم: خيركم من تعلم القرآن وعلمه.
علي بن عبد الله بن الفضل البغدادي، أبو الحسين.) حدث بمصر عن: جعفر الفريابي، وأبي خليفة.