فأردت أن أكون من الأولين، فإن لم أكن منهم كنت من الذين يحاسبون حساباً يسيراً، فإن لم أكن منهم كنت من الذين يصيبهم شيء ثم يدخلون الجنة.
وفي حديثٍ آخر أنه أسلم في زمن عمر، وأنه قال في الصنف الثالث: وصنف يوقفون، فيؤخذ بهم ما شاء الله، ثم يدركهم عفو الله وتجاوزه، فنظرت فإذا الصنف الأول قد فاتني، وأرجو أن أكون في الصنف الثاني، وأرجو أن لا يخطئني الثالث. فهذا الذي حملني على الإسلام.
كان لأبي مسلم الخولاني جار يهودي، يكنى أبا مسلم، فكان يمر به فيقول: أبا مسلم، أسلم تسلم. فيقول: إن لي ديناً خيراً من دينك. فمر به ذات يوم، وهو قائم يصلي، فلما انصرف، قال له: يا أبا مسلم، ألم أكن أدعوك إلى هذا الدين فتأبى علي؟ قال: بلى، ولكن قرأت في التوراة غير المبدلة أن هذه الأمة تأتي يوم القيامة على ثلاثة أصناف: صنف يدخلون الجنة بلا حساب ولا عذاب، وصنف يحاسبون حساباً يسيراً، ويبقى صنف أوزارهم على ظهورهم كأمثال الجبال، فيقول الله لملائكته: يا ملائكتي، من هؤلاء؟ فتقول: هؤلاء عبادك، كانوا يشهدون أن لا إله إلا أنت. قال: فيقول تبارك وتعالى: خذوا أوزارهم وضعوها على المشركين. فيدخلون الجنة. كان أبو مسلم الجليلي يكنى أبا السموأل، فكناه أبو بكر أبا مسلم.
دخل أبو مسلم الجليلي على معاوية. فقال: اضمن لي خصلة، أضمن لك ألا يظهر على أمتك عدو، امنعهم من الزرع فإنه مكتوب أن الرعب مع الزرع. دخل أبو مسلم الجليلي على معاوية قبل أن يستخلف فقال: السلام عليك أيها الأجير. فقال القوم: أيها الأمير. فأعادها. فقال معاوية: دعوا الشيخ، فإنه أعلم بما يريد. فقال: اعلم أنه ليس من راعي رعية إلا وصاحبها سائله عنها، فإن هنأ جرباها، وجبر كسراها، ورد أولاها على أخراها، ورعاها في أنف الكلأ، وسقاها صفو الماء، وفاه أجره، وإن لم يفعل لم يعطه أجره، وعاقبه.