معاوية كان أميرا على الجيش الّذي غزا فيه أبو أيوب، فدخل عليه عند الموت فقال له: إذا أنا مت فاقرءوا على الناس منى السلام وأخبروهم أنى
سمعت رسول الله ﷺ يقول:«من مات لا يشرك بالله شيئا جعله الله في الجنة». ولينطلقوا فيبعدوا بى في أرض الروم ما استطاعوا. قال: فحدث الناس لما مات أبو أيوب فأسلم الناس وانطلقوا بجنازته.
وقال أحمد: حدثنا أسود بن عامر ثنا أبو بكر عن الأعمش عن أبى ظبيان قال: غزا أبو أيوب مع يزيد بن معاوية قال: فقال إذا مت فأدخلونى في أرض العدو فادفنوني تحت أقدامكم حيث تلقون العدو، قال: ثم قال: سمعت رسول الله ﷺ يقول: «من مات لا يشرك بالله شيئا دخل الجنة». ورواه أحمد عن ابن نمير ويعلى بن عبيد عن الأعمش سمعت أبا ظبيان فذكره، وقال فيه: سأحدثكم حديثا سمعته من رسول الله ﷺ لولا حالي هذا ما حدثتكموه،
سمعت رسول الله ﷺ يقول:«من مات لا يشرك بالله شيئا دخل الجنة»:
وقال أحمد: حدثنا إسحاق بن عيسى حدثني محمد بن قيس - قاضى عمر بن عبد العزيز - عن أبى صرمة عن أبى أيوب الأنصاري أنه قال حين حضرته الوفاة: قد كنت كتمت عنكم شيئا سمعته من رسول الله ﷺ سمعته يقول: «لولا أنكم تذنبون لخلق الله قوما يذنبون فيغفر لهم». وعندي أن هذا الحديث والّذي قبله هو الّذي حمل يزيد بن معاوية على طرف من الأرجاء، وركب بسببه أفعالا كثيرة أنكرت عليه كما سنذكره في ترجمته والله تعالى أعلم.
قال الواقدي: مات أبو أيوب بأرض الروم سنة ثنتين وخمسين ودفن عند القسطنطينية وقبره هنالك يستسقى به الروم إذا قحطوا، وقيل: إنه مدفون في حائط القسطنطينية وعلى قبره مزار ومسجد وهم يعظمونه، وقال أبو زرعة الدمشقيّ: توفى سنة خمس وخمسين، والأول أثبت والله أعلم.
وقال أبو بكر بن خلاد: حدثنا الحارث بن أبى أسامة ثنا داود بن المحبر ثنا ميسرة بن عبد ربه عن موسى بن عبيدة عن الزهري عن عطاء بن يزيد عن أبى أيوب الأنصاري عن النبي ﷺ. قال:
«إن الرجلين ليتوجهان إلى المسجد فيصليان فينصرف أحدهما وصلاته أوزن من صلاة الآخر، وينصرف الآخر وما تعدل صلاته مثقال ذرة، إذا كان أورعهما عن محارم الله وأحرصهما على المسارعة إلى الخير».
وعن أبى أيوب قال قال رسول الله ﷺ لرجل سأله أن يعلمه ويوجز فقال له:«إذا صليت صلاة فصل صلاة مودع، ولا تكلمن بكلام تعتذر منه، واجمع اليأس مما في أيدي الناس» وفيها كانت وفاة أبى موسى عبد الله بن قيس بن سليم بن حضار بن حرب بن عامر بن غز بن بكر بن عامر بن عذر بن وائل بن ناجية بن جماهر بن الأشعر الأشعري، أسلم ببلاده وقدم مع جعفر وأصحابه عام خيبر، وذكر محمد بن إسحاق أنه هاجر أولا إلى مكة ثم هاجر إلى اليمن، وليس هذا بالمشهور، وقد استعمله رسول الله ﷺ مع معاذ على اليمن، واستنابه عمر على البصرة، وفتح تستر،