وقد عني الذهبي في مطلع حياته العلمية برواية الشعر وأورد طائفة من الاشعار عن شيوخه (1). وذكرت لنا مصادر ترجمته بعضا من نظمه في المدح (2)، والرثاء (3). وله شعر تعليمي، فقد علمنا أنه نظم أسماء المدلسين بقصيدة أوردها السبكي في طبقاته (4)، كما نظم أسماء الخلفاء بقصيدة أخرى (5).
وكان كثير الاعتناء بالشعراء تدل على ذلك تراجمهم الواسعة في كتابيه " تاريخ الاسلام " " وسير أعلام النبلاء " والنماذج الشعرية الكثيرة التي أوردها وعنايته الفائقة بتتبع دواوين الشعراء بحيث قال في ترجمة أبي الحسن محمد بن المظفر البغدادي الخرقي في وفيات سنة 455 ه‍ " ولا يكاد يوجد ديوانه (6) ".
وكان للذهبي خط متقن قد أعجب به علم الدين البرزالي منذ أن بدأ الذهبي يطلب العلم (7). وقد وصل إلينا الكثير من كتبه وكتب غيره مكتوبا بخطه، وهو وإن لم يكن جميلا مراعيا لأصول الخطاطين والكتاب، لكنه يمتاز بالدقة والاتقان لا سيما للذي يدمن عليه.