وقال رجاء بن أبي سلمة عن معن التنوخي، قال: ما رأيت أحداً أزهد منه ومن عمر بن عبد العزيز، وقد كان عمر بن عبد العزيز ولاه إمرة الغرب، فأقام بها سنة مائة وسنة إحدى ومائة، فلما مات عمر ولوا بعد إسماعيل يزيد بن أبي مسلم مولى الحجاج.
قال خليفة: أسلم عامة البربر في ولاية إسماعيل وكان حسن السيرة.
وقال أبو مسهر: أدرك معاوية وهو غلام، قيل: مات سنة إحدى وثلاثين.
قال ابن عساكر: كانت داره عند طريق القنوات.
الوليد بن مسلم: حدثنا سعيد بن عبد العزيز قال: أشرفت أم الدرداء على وادي جهنم ومعها إسماعيل بن عبيد الله، فقالت: اقرأ يا إسماعيل، فقرأ {أَفَحَسِبْتُمْ أَنَّمَا خَلَقْنَاكُمْ عَبَثًا} فخرت على وجهها، وخر إسماعيل على وجهه فما رفعا رؤوسهما حتى ابتل ما تحت وجوههما من الدموع.
وقال عبد الرحمن بن يحيى بن إسماعيل بن عبيد الله بن أبي المهاجر: حدثنا الوليد، عن سعيد بن عبد العزيز، عن إسماعيل قال: قال لي عبد الملك: يا إسماعيل علم بني، فإني مثيبك على ذلك، قلت: يا أمير المؤمنين، فكيف وقد حدثتني أم الدرداء، عن أبي الدرداء، عن رسول الله صلى الله عليه وسلم قال: من أخذ على تعليم القرآن قوساً قلده الله قوساً من نار يوم القيامة، قال: فإني لست أعطيك على القرآن إنما أعطيك على النحو.
قال إبراهيم بن أبي شيبان: مات إسماعيل بن عبيد الله سنة اثنتين وثلاثين ومائة قبل دخول عبد الله بن علي بثلاثة أشهر.