وطعنه أبو لؤلؤة الفارسي غلام المغيرة بن شعبة فبقي ثلاثاً ومات لأربع بقين من ذي الحجة سنة ثلاث وعشرين من الهجرة.
قال القاضي محب الدين الطبري في فضائل العشرة: وكان له تسعة بنين أحدهم عبد الله، والثاني عبد الرحمن الأكبر شقيق عبد الله، وأمهما زينب بنت مظعون، الثالث زيد الأكبر وأمه أم كلثوم بنت علي بن أبي طالب من فاطمة رضي الله تعالى عنها، ويقال أنه مات هو وأمه أم كلثوم في ساعة واحدة، الرابع عاصم وأمه أم كليوم جميلة بنت عاصم بن ثابت، الخامس زيد الأصغر، السادس عبيد الله وأمه أم زيد الأصغر مليكة بنت جرول الخزاعية السابع عبد الرحمن الأوسط وأمه لهية أم ولد، الثامن عبد الرحمن الأصغر وأمه أم ولد، التاسع عياض وأمه عاتكة بنت زيد، وذكر أن العقب منهم لثلاثة عبد الله، وعاصم، وعبيد الله، وقد ذكر في مسالك الأبصار: أنه وفد منهم طائفة على الفائز الفاطمي بالديار المصرية في وزارة الصالح طلايع بن رزيك في طائفة من قومهم بني عدي ومقدمهم خلف بن نصر وهو شمس الدولة أبو علي، ومنهم طائفة من بني كنانة بن خزيمة وأنهم وجدوا من ابن رزيك ما أربى على الأمل وحلوا محل التكرمة عنده على مباينة الرأي ومخالفة المعتمد، ثم ذكر أن من بني عمر بن الخطاب جماعة بثغر دمياط والبرلس