وإنا لنادمون على مجامعتهم إلى يومنا هذا، وخرج شرحبيل والسمط حتى أتيا زياد بن لبيد فانضما إليه.
كان عمر بن الخطاب رضي الله عنه استعمل شرحبيل بن السمط على المدائن وأبوه بالشام، فكتب إلى عمر إنك تأمر ألا يفرق بين السبايا وبين أولادهن فإنك قد فرقت بيني وبين ابني، فكتب إليه فألحقه بابنه.
كان شرحبيل بن السمط على جيش فقال إنكم نزلتم أرضاً فيها نساء وشراب فمن أصاب منكم حداً فليأتنا حتى نطهره. قال: فبلغ ذلك عمر بن الخطاب رضي الله عنه فكتب إليه: لا أم لك تأمر قوماً ستر الله عليهم أن يهتكوا ستر الله عليهم؟! حدث بكر بن سوادة قال: كان رجل يعتزل الناس إنما هو وحده، فأتاه أبو الدرداء فقال: ما يحملك على هذا؟! فقال: أخاف أن أسلب ديني ولا أشعر. قال: فحدثت بذلك رجلاً من أهل الشام فقال: ذاك شرحبيل بن السمط.
كتب معاوية إلى شرحبيل يسأله القدوم عليه وهيأ له رجالاً يخبرونه أن علياً قتل عثمان، منهم يزيد بن أسد البجلي وبسر بن أرطأه وأبو الأعور السلمي فقدم إليه.
قال الأصمعي: بينما معاوية بن أبي سفيان يساير شرحبيل بن السمط إذ راثت دابة شرحبيل، وكان عظيم الهامة، وفطن معاوية بروث الدابة وساء ذك شرحبيل فقال له معاوية: إنه يقال: إن الهامة إذا عظمت دل ذلك على وفور الدماغ وصحة العقل قال: نعم يا أمير المؤمنين إلا هامتي فإنها عظيمة وعقلي ضعيف ناقص، فتبسم معاوية قال: كيف ذلك لله أنت؟ قال: لإٌطعامي هذا البارحة مكوكي شعير. قال: فضحك معاوية وحمله على دابة من مراكبه.
توفي شرحبيل بن السمط سنة أربعين، وصلى عليه حبيب بن مسلمة الفهري. ولما تقدم حبيب قال: صلوا على أخيكم واجتهدوا له في الدعاء، وليكن من دعائكم: اللهم، اغفر لهذه النفس الحنيفة المسلمة، واجعلها من الذين تابوا واتبعوا سبيلك وقها عذاب الجحيم. واستنصروا الله على عدوكم.