فزوجه أبو بكر أم فروة بنت أبي قحافة، فكان بالمدينة مقيماً حتى كانت ولاية عمر بن الخطاب وندب الناس إلى فتح العراق، فخرج الأشعث بن قيس مع سعد بن أبي وقاص فشهد القادسية والمدائن وجلولاء ونهاوند، واختلط بالكوفة حين اختط المسلمون، وبنى بها داراً في بني كندة، ونزلها إلى أن مات بها، وولده بها إلى اليوم.
وعن قيس بن أبي خازم قال: لما قدم بالأشعث بن قيس أسيراً على أبي بكر الصديق أطلق وثاقه وزوجه أخته، اخترط سيفه ودخل سوق الإبل فجعل لا يرى جملاً ولا ناقة إلا عرقبه؛ وصاح الناس: كفر الأشعث. فلما فرغ طرح سيفه وقال: إني والله ما كفرت، ولكن زوجني هذا الرجل أخته، ولو كنا في بلادنا لكانت لنا وليمة غير هذه، يا أهل المدينة انحروا وكلوا، ويا أصحاب الإبل تعالوا خذوا شرواها.
حدث أبو الصلت سليم الحضرمي، قال: شهدنا صفين، فإنا لعلى صفوفنا وقد حلنا بين أهل العراق وبين الماء، فأتانا فارس على برذون مقنعاً بالحديد، فقال: السلام عليكم، فقلنا: وعليك؛ قال: فأين معاوية؟ قلنا: هو ذا؛ فأقبل حتى وقف ثم حسر عن رأسه فإذا هو أشعث بن قيس الكندي، رجل أصلع ليس في رأسه إلا شعرات فقال: الله الله يا معاوية في أمة محمد صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ؛ هبوا أنكم قتلتم أهل العراق فمن للبعوث والذراري؟ أم هبوا أنا قتلنا أهل الشام، فمن للبعوث والذراري؟ الله الله، فإن الله يقول:" وإن طائفتان من المؤمنين اقتتلوا فأصلحوا بينهما فإن بغت إحداهما على الأخرى فقاتلوا التي تبغي حتى تفيء إلى أمر الله " فقال له معاوية: فما الذي تريد؟ قال: نريد أن تخلوا بيننا وبين الماء، فوالله لتخلن بيننا وبين الماء أو لنضعن أسيافنا على عواتقنا ثم نمضي حتى نرد الماء أو نموت دونه؛ فقال معاوية لأبي الأعور وعمرو بن سفيان: يا أبا عبد الله خل بين إخواننا وبين الماء؛ فقال أبو الأعور لمعاوية: كلا والله، لا نخل بينهم وبين الماء، يا أهل الشام دونكم عقيدة الله، فإن الله قد أمكنكم منهم؛ فعزم عليه معاوية حتى خلوا بينهم وبين الماء فلم يلبثوا بعد ذلك إلا قليلاً