سنة 385، وبعد طي بعض المراحل الدراسية في موطنه هاجر سنة 408 إلى بغداد عاصمة العلم في العراق، فتتلمذ خمس سنوات على الشيخ المفيد محمد بن محمد بن النعمان البغدادي التلعكبري، وبعد وفاة المفيد في سنة 413 تتلمذ الطوسي على الشريف المرتضى علي بن الحسين الموسوي المتوفى سنة 436.
وبعد أن توفي السيد المرتضى انتقلت الزعامة الدينية للطائفة إلى الشيخ الطوسي، فأصبح الزعيم الأوحد للشيعة والمرجع الأعلى لهم، وخصص الخليفة العباسي (القائم بأمر الله) كرسي الكلام به إذ عرف بالمقام العلمي الرفيع، فانهالت عليه الأسئلة المذهبية العلمية من كل الأقطار وكان يجيب عليها بكل طلاقة وحرية، مع الاشتغال بالتدريس على المذاهب الإسلامية غير الشيعية، وكان محفل درسه يضم طائفة كبيرة من علماء سائر المذاهب بالإضافة إلى ما يضم من علماء الشيعة.
مني المسلمون في ذلك العصر بآل سلجوق الذين كانوا شديدي العصبية في التسنن، وكانوا دائم النشاط في إثارة الضغائن ضد الشيعة والمذهب الشيعي يثيرون الخلافة العباسية بالتوافه ويوجدون الغوغاء في العامة. ومن الضوضاء الذي أحدثوه ضد الشيخ الطوسي أن وجدوا كتابه " مصباح المتهجد " واتهموه بأشياء فيه منها جمع أدعية فيها اللعن والسب ووشوا بذلك عند الخليفة، فدعاه الخليفة إلى الحضور لديه مع كتابه، وبعد الحضور والسؤال عن التهم بين الطوسي ما جرى يوم عاشوراء على العترة الطاهرة وكيف استوجب أعداؤهم اللعن، وكان إيضاح الموضوع لدى الخليفة من القوة بحيث أدى إلى احترام الخليفة للطوسي ورفعة مكانه عنده.
ولكن أعداء الاسلام لم يقتنعوا بهذا وزادوا في إثارة الفتن والغوغاء، حتى أدى الأمر إلى تلاحم الشيعة والسنة في سنة 448 وذهبت نفوس جماعة من الطرفين، واضطر الشيخ الطوسي في سنة 449 إلى ترك بغداد والهجرة عنها،