ثم رحل بنفسه إلى السواحل، والشام، ومصر، في سنة اثنتين وستين ومائتين. ثم إنه رحل إلى إصبهان، فأدرك يونس بن حبيب ونحوه في سنة أربع وستين.
سمعت أبا عبد الله القزوني الواعظ يقول: إذا صليت مع عبد الرحمن فسلم نفسك إليه يعمل بها ما يشاء.
ودخلنا يوما على أبي محمد يغلس في مرض موته، فكان على الفراش قائما يصلي، وركع فأطال الركوع.
وقال عمر بن إبراهيم الهروي الزاهد: ثنا الحسين بن أحمد الصفار: سمعت عبد الرحمن بن أبي حاتم يقول: وقع عندنا الغلاء، فأنفذ بعض أصدقائي حبوبا من إصبهان، فبعته بعشرين ألف درهم، وسألني أن أشتري له دارا عندنا، فإذا نزل عندنا نزل فيها. فأنفقتها على الفقراء. فكتب إلي: ما فعلت قلت: اشتريت لك بها قصرا في الجنة.
قال: رضيت إن ضمنت ذلك لي، فتكتب على نفسك صكا.
قال: ففعلت، فأريت في المنام، قد وفينا بما ضمنت، ولا تعد لمثل هذا.
وقال أبو الوليد سليمان بن خلف الباجي: عبد الرحمن بن أبي حاتم، ثقة حافظ. وقال أبو الربيع: محمد بن الفضل البلخي: سمعت أبا بكر محمد بن مهرويه الرازي: سمعت علي بن الحسين بن الجنيد: سمعت يحيى بن معين يقول: إن لنطعن على أقوام لعلهم حطوا رحالهم في الجنة منذ أكثر من مائتي سنة.) قال ابن مهرويه: فدخلت على ابن أبي حاتم وهو يقرأ على الناس كتاب الجرح والتعديل فحدثته بهذا، فبكى وارتعدت يداه حتى سقط الكتاب. وجعل يبكي ويستعيدني الحكاية.
توفي رحمه الله في المحرم في عشر التسعين.