وتحول عبد الرحمن بعد رسول الله ﷺ إلى البصرة فنزلها، واستعمله عبد الله بن عامر على سجستان، وغزا خراسان ففتح بها فتوحا. ثم رجع إلى البصرة فأقام بها حتى مات، ودفن بها، وصلى عليه زياد.
وكان وروده المدائن رسولا إلى الحسن بن علي من عند معاوية؛ أخبرنا بذلك الأزهري، قال: أخبرنا محمد بن العباس، قال: أخبرنا أحمد بن معروف الخشاب، قال: حدثنا الحسين بن فهم، قال: حدثنا محمد بن سعد، قال: أخبرنا أبو عبيد، قلت: وليس بالقاسم بن سلام، هذا شيخ كبير قديم، عن مجالد، عن الشعبي، وعن يونس بن أبي إسحاق، عن أبيه، وعن أبي السفر وغيرهم، قالوا: بايع أهل العراق بعد علي بن أبي طالب الحسن بن علي، فذكر الحديث وقصة نزول الحسن المدائن. قال: وكتب إلى معاوية بن أبي سفيان يسأله الصلح ويسلم له الأمر على أن يسلم له خصالا ذكرها، فأجابه معاوية إلى ذلك وأعطاه ما سأل. ويقال: بل أرسل الحسن بن علي عبد الله بن الحارث بن نوفل إلى معاوية حتى أخذ له ما سأل، وأرسل معاوية عبد الله بن عامر بن كريز وعبد الرحمن بن سمرة بن حبيب بن عبد شمس، فقدما المدائن إلى الحسن فأعطياه ما أراد ووثقا له.
أخبرنا أبو سعيد بن حسنويه، قال: أخبرنا عبد الله بن محمد بن جعفر، قال: حدثنا عمر بن أحمد الأهوازي، قال: حدثنا خليفة بن خياط، قال: عبد الرحمن بن سمرة أتى سجستان، وأقام بالبصرة حتى مات بها سنة إحدى وخمسين، ويقال: خمسين.