وغضب المأمون على الفضل بن الربيع غضبا شديدا لعمله هذا، وكان معه الفضل ابن سهل الذي اشتهر بميوله الفارسية بدرجة لا يعادلها إلا بغضه لسميه وزير الأمين، فأشار هذا على سيده أن يتهيأ لكفاح حاسم، فإن أخاه قد جرده بعمل وزيره من جيشه، وهو لا بد يريد نكث بيعته والاستئثار بميراث أبيه، وذكره بفضل إيران في توطيد حكم بني العباس على زمن أبي مسلم. وخلاصة القول فإنه حثه على تقوية مركزه بالتقرب من الشعب الإيراني، ثم العمل على الاستئثار بالسلطة في البلاد جميعا.
فوطد المأمون السلم في خراسان وتقرب إلى كثير من رعاياه في تلك المقاطعة.
ولكنه لم يشأ أن يخل بالعهد الذي أخذه عليه أبوه في مكة. فبايع أخاه بالخلافة. غير أن الفضل بن الربيع لما عاد إلى بغداد تمكن من إقناع الأمين بنكث العهد وتعيين ابنه موسى وليا للعهد بدلا من المأمون. ففعل ذلك سنة 194 ه‍، فأخذ المأمون على ذلك يعد العدة لتسيير الجيوش من خراسان لتثبيت حقه في الخلافة. وانضم ألوف من الإيرانيين الموالين، الذين يفضلون المأمون على الأمين، إلى هذه الجيوش التي كانت بقيادة قائدين قديرين، وهما هرثمة وطاهر. وانتهى الأمر بحصار بغداد حصارا طويلا شاقا (196 - 198) حتى تمكن طاهر من إنفاذ رأس الأمين إلى المأمون وهو في خراسان برهانا على انتهاء الحرب.
وبويع المأمون حينئذ بالخلافة لكنه لم يجرؤ على الشخوص إلى بغداد وكان خلال هذه المدة تحت تأثير شديد من وزيره الفضل بن سهل الذي اشتهر بميوله الفارسية والشيعية، وقرر أخيرا، وهو في رأيه عمل سياسي كبير، أن يتقرب من الشيعة بتعيين إمامهم وليا للعهد.
وكان الإمام عند الشيعة آنئذ علي الرضا بن موسى الكاظم وأمه فارسية أيضا وهي جارية اسمها تكتما، اختارتها حميدة لابنها موسى الكاظم. ويذكر المصدر نفسه أن عليا الرضا كان كثير الرضاع في طفولته حتى قالت أمه: أعينوني بمرضعة. فقيل لها:
أنقص الدر؟ فقالت: لا أكذب والله ما نقص ولكن عليا ورد من صلاتي وتسبيحي