ولما مات إبراهيم الإمام سنة 131 ه‍ أوصى إلى أخيه أبي العباس ويذكر البلاذري الوصية وجاء فيها:
بسم الله الرحمن الرحيم حفظك الله يا أخي بحفظ أهل الإيمان... فإذا أنا هلكت فأنت الإمام الذي يقيم ويرعى حرمة أوليائنا ودعاتنا ويتم الله به وعلى يديه ما أثلنا وما أثل لنا ثم أوصاه بشيعته وأهل بيته وأهل خراسان وأهل الكوفة (1).
فلما قتل إبراهيم الإمام خرج أبو العباس من الحميمة يريد الكوفة وكان أول أهله خروجا لخوفه على نفسه ولمصير الإمامية إليه (2).
فلما دخل أبو العباس الكوفة وجماعته أظهروا أبا سلمة وسلموا إليه الرياسة وسموه وزير آل محمد (3).
وهنا تأتي محاولة أبي سلمة في نقل الخلافة إلى العلويين. وتجمع المصادر التاريخية على أن أبا سلمة حاول نقل الأمر من آل العباس إلى آل علي فأخفي أبو العباس ولم يعلن ظهوره، ويعلل المسعودي سبب هذه المحاولة أنه لما قتل إبراهيم الإمام خاف أبو سلمة انتقاض الأمر وفساده (4)، ولكن هذا التفسير مردود لأن مركز العباسيين تحسن بانتصاراتهم العسكرية (5). أما صاحب العيون والحدائق فيقول:
إن أبا سلمة كان هواه مع جعفر بن محمد الصادق ولكنه أخفي ذلك ولم يمكنه مخالفة الجمهور (6).
أما ابن الطقطقي فيذكر أن أبا سلمة لما سبر أحوال بني العباس عزم على العدول عنهم إلى بني علي (7). ويقول الدوري وهذا تفسير اعتذاري