واستوطن بغداد من صباه. كان من أعيان أدبائها وأفراد مصنفيها. روى عن طائفة كثيرة، وكان إخباريا نسابة شاعرا، ظاهر التشيع.
قال أبو علي التنوخي: كان أبو الفرج يحفظ من الشعر والأغاني والأخبار والمسندات والأنساب ما لم أرقط من يحفظ مثله، ويحفظ سوى ذلك من علوم أخر، منها اللغة والنحو والمغازي والسير، وله تصانيف عديدة، وحصل له ببلاد كتب صنفها لبني أمية ملوك الأندلس أقاربه، سيرها إليهم سرا وجاءه الإنعام سرا، فمن ذلك: نسب بني عبد شمس، وكتاب أيام العرب ألف وستمائة يوم، وكتاب جمهرة النسب، وكتاب نسب بني شيبان، وكتاب نسب المهالبة لكونه كان منقطعا إلى الوزير المهلبي، وله فيه مدائح، وله كتاب أخبار الشواعر، وكتاب مقاتل الطالبيين، وكتاب الزيارات وهذا عجيب إذ هو مرواني يتشيع.
قال ابن أبي الفوارس: قد خلط قبل أن يموت. قال: وتوفي في ذي الحجة، وكان مولده سنة) أربع وثمانين ومائتين.
قلت: رأيت شيخنا ابن تيمية يضعفه ويتهمه في نقله ويستهول ما يأتي به، وما علمت فيه جرحا إلا قول ابن أبي الفوارس: خلط قبل أن يموت وقد أثنى على كتابه الأغاني جماعة من جلة الأدباء. ومن تواليفه كتاب أخبار الطفيليين، كتاب أخبار جحظة، كتاب أدب السماع، كتاب الخمارين.
قال هلال بن المحسن الصابي، كان أبو الفرج صاحب الأغاني من ندماء الوزير المهلبي، وكان وسخا قذرا لم يغسل له ثوب أبدا منذ فصله إلى أن يتقطع، وشعره جيد لكنه في الهجاء أبلغ، وكانوا يتقون لسانه ويصبرون على مجالسته ومشاربته.
ذكر ابن الصابي أن أبا القاسم الجهني محتسب البصرة كان من ندماء