واستمر بشراء ما يمكنه شراؤه من الدور المجاورة، تمهيدا لتشييد مكتبة ضخمة تليق باسم النجف الأشرف ومركزه العلمي في العالم الإسلامي والشيعي، وتليق باسم صاحبها أمير المؤمنين (عليه السلام).
وفي سنة 1375 ه‍ = 1955 م بوشر بحفر الأسس وبناء (السرداب) والمخازن تحت الأرض، وقد تحمل (رحمه الله) الكثير من قلة ذات اليد، ولكن الله سدد خطاه بإكمال التصميم الذي وضعه، وأصبح جهاده ذا شقين:
الأول: جمع المال لإكمال البناء وشراء بقية الدور المجاورة.
والثاني: الحصول على المصادر من الكتب، الخطية وغيرها، فكان يسافر كل سنة إلى إيران وغيرها من الدول الإسلامية بنفسه أو يراسل من هناك لإنجاز هذا المشروع العظيم.
وبعد أن مضى على هذا العمل الدؤوب أكثر من سبع سنوات تم إنجاز المرحلة الأولى من بناء المكتبة، وتم افتتاحها في يوم الغدير، تيمنا باسم صاحب المكتبة الامام أمير المؤمنين (عليه السلام)، وقد سميت باسم " مكتبة الإمام أمير المؤمنين (عليه السلام) العامة " ومع الأسف لم يكن في النجف من يتحسس بأحاسيسه، ويشعر بشعوره إلا القليل، على الرغم مما يضم النجف الأشرف من فطاحل العلماء والمحققين والأدباء والتجار وغيرهم.
وكان (رحمه الله) يطلعني على كل شاردة وواردة من شؤون المكتبة، ويبثني همه وحزنه وشكواه، شفاها مرة وتحريرا أخرى. وكنت أعيش محنته وهمومه، وأشاركه باليسير الذي أستطيع إنجازه من الناحية العمرانية والمالية.
وعندما كمل البناء سجله مع الدور المجاورة التي بحوزته - والتي لم تدخل في البناء بعد - في دائرة التسجيل العقاري وفي دائرة الأوقات بالنجف الأشرف. وبما أنه إيراني الجنسية ولا يمكن أن يكون هو الواقف فقد جعل هيئة التولية والواقفين باسم عراقيين، وهم ثلاثة: عبد الحسين النجم، وكاتب الحروف (حسين الشاكري)، وهاشم عبد الباقي الطيار، وذلك لما لمسه منا - نحن الثلاثة - من