وقصة كلدة مع صفوان بن أمية لما انهزم المسلمون يوم حنين مشهورة وقد قال القدامي في فتوح الشام إن عبد الرحمن شهد فتح دمشق وإن خالد بن الوليد بعثه إلى أبي بكر يبشره بيوم أجنادين قال بن خلوية كتب إلى سيف الدولة يسأل عن دمشق هل هي عربية أو عجمية إلى أن قال وقال عبد الرحمن بن حنبل الجمحي وهو يومئذ بعسكر يزيد بن أبي سفيان أبلغ أبا سفيان عنا فإننا على * خير حال كان جيش يكونها وإنا على بابي دمشقة نرتمي * وقد حان من بابي دمشقة حينها وقال العلائي عن مصعب كان عبد الرحمن شاعرا هجاء فبلغ عثمان أنه هجاه بالأبيات التي يقول فيها أحلف بالله رب العباد * ما خلق الله شيئا سدى (وفي رواية جهد اليمين بدل رب العباد) ولكن خلقت لنا فتنة لكي * نبتلي بك أو تبتلى دعوت الطريد فأدنيته * خلافا لما سنه المصطفى ومالا أتاك به الأشعري * من الفئ أعطيته من دنا وإن الأمينين قد بينا * منار الطريق عليه الهدى فأمر به فحبس بخيبر وأنشد المرزباني في معجم الشعراء أنه قال وهو في السجن إلى الله أشكو لا إلى الناس ما عدا أبا حسن غلا شديدا أكابده بخيبر في قعر الغموض كأنها جوانب قبر أعمق اللحد لاحده أإن قلت حقا أو نشدت أمانة قتلت فمن للحق إن مات ناشده وقيل إن عليا كلم عثمان فيه فأطلقه وشهد هو الجمل مع علي ثم صفين فقتل بها