ابن غنم الأزدي - وهو صاحب معاذ بن جبل وكان أفقه أهل الشام - فاستشاره في المسير إلى معاوية.
فقال له عبد الرحمن: ويحك يا شرحبيل! إن الله تعالى لم يزل يريد بك خيرا مذ هاجرت إلى وقتك هذا، وإنه لن ينقطع المزيد من الله حتى ينقطع الشكر من الناس، ولا يغير ما بقوم حتى يغيروا ما بأنفسهم، وأنت رجل من خيار كندة، وإن القالة قد فشت في الناس أن عليا قتل عثمان، ولو كان علي قتله لما بايعه المهاجرون والأنصار وهم أصحاب رسول الله صلى الله عليه وآله وهم الحكام على الناس، وإنما معاوية إنما يدعوك إلى نفسه ليأخذ من دينك ويعطيك من دنياه، كما فعل بعمرو بن العاص، فإن كان ولا بد أن تكون أميرا فسر إلى علي بن أبي طالب، فإنه أحق الناس بهذا الأمر من معاوية وغير معاوية، ثم جعل يقول أبياتا، مطلعها:
أيا شرح يا ابن السمط إنك بالغ * بأخذ علي ما تريد من الأمر [أيا شرح يا ابن السمط لأنك مصغيا * إلى فتنة عمياء ينتهه الخبر أيا شرح إن الشام شامك ما بها * سواك فدع قول المضلل من قهر فإن ابن هند ناصب لك خدعة * تكون علينا مثل راغية البكر فان نال ما يرجو بنا كان ملكه * هنيئا له والحرب قاصمة الظهر فبايع ولا ترجع إلى العقب ناكصا * أعيذك بالله العزيز من الكفر ولا تقبلن قول الطغاة فإنما * يريدون أن يلقوك في لجة البحر وماذا عليهم أن تطاعن عنهم * عليا بأطراف المثقفة السمر فإن غلبوا كانوا علينا أئمة * ونطلب طول الدهر بالرحل والوتر وإن غلبوا لم يصل بالحرب غيرنا * وكان علينا حربهم آخر الدهر وهان على عليا لؤي بن غالب * دماء بني قحطان في ملكهم تجري ودع عنك عثمان بن عفان إننا * لك الخير لا ندري وإنك لا تدري