ذكر ذلك له والله إني لأركد في الأوليين وأحذف الأخريين. فقال عمر: ذاك الظن بك أبا إسحاق. وأمره أن يعود إلى الكوفة، فقال: تأمرني أن أعود إلى قوم زعموا أني لا أحسن الصلاة!؟ وأبى، فلما طعن عمر قال في وصيته حيث أسماه في أهل الشورى: إن ولي سعد الإمارة فذاك، وإلا فليستعين به الوالي من بعدي، فإني لم أعزله عن عجز ولا خيانة. واعتزل اختلاف أصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ بعد قتل عثمان، ونزل قلهي، واحتفر فيه بئراً فأعذب، وأمر أهله ألا يخبروه من أخبار الناس شيئاً، حتى تجتمع الأمة على إمام. ونظر يوماً إلى راكب يزول فقال: هذا راكب، فلما دنا قيل له: هذا ابنك عمر بن سعد. فجاء عمر، فأناخ ثم قال لأبيه: أرضيت لنفسك أن تقيم بهذا المنزل، وأصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ يختلفون في الخلافة؟ فقال له: إن جئتني بسيفٍ يعرف المؤمن من الكافر إذا ضربت به فعلت. فقال له: ليس إلا هذا. قال: لا. فوثب، فقال: اجلس حتى تصيب طعاماً. قال: لا حاجة لي بطعامكم.
وذكر بعض أهل العلم: أن ابن أخيه هاشم بن عتبة بن أبي وقاص جاءه فقال له: هاهنا مئة ألف سيف يرونك أحق الناس بهذا الأمر. فقال: أريد من مئة ألف سيف سيفاً واحداً، إذا ضربت به المؤمن لم يصنع شيئاً، وإذا ضربت به الكافر قطع. فانصرف من عنده إلى علي بن أبي طالب كرم الله وجهه، فكان في أصحابه وقاتل معه.
عن خليفة بن خياط قال: سعد بن أبي وقاص ولاه عمر وعثمان الكوفة، ومات بالمدينة سنة خمس وخمسين.
قال ابن سعد: سعد بن أبي وقاص شهد بدراً وأحداً، وثبت يوم أحد مع رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ حين ولى