والحقيقة ان مهمة الخليفة الجديد كانت على جانب كبير من الخطورة، ذلك أنه لم يكن يحظى بتأييد كل القوى السياسية في الدولة يضاف إلى ذلك أن بعض الذين بايعوه أخذوا يرفضون عنه ويتطلعون كل بدوره إلى الإفادة من الظروف والوصول إلى مكاسب معينة. ومن المدهش حقا أن نرى اثنين من الصحابة الكبار هما الزبير وطلحة اللذين ما انفكا يكيدان ضد الخليفة السابق، أول من ينقلب على علي، ويصل الامر بهما إلى اتهامه بالوقوف وراء مقتل عثمان.
بدأ علي أولى مهماته الكبيرة، بعزل ولاة الأقاليم وكانوا موضع السخط والتذمر ووضع مكانهم مجموعة جديدة تتمتع بثقة وتنسجم مع سياسته (1). وقد نفذ الجميع أوامره الخليفة باستثناء والي الشام معاوية الذي اتخذ من قضية الخليفة المقتول عثمان ذريعة لعدم الاعتراف بعلي، فافتتح بذلك صفحة جديدة دامية في تاريخ الحرب الأهلية التي شهدها حينئذ العالم الاسلامي.
وكان علي بدوره يدرك جيدا أبعاد المشكلة ويعرف ان القضاء على خصمه القوي المتمرس في المنطقة الشامية