بين ابتدائها إلى حين وفاته لم تبلغ خمسين سنة، وأول ما ولي في خلافة المتوكل لمّا مات سوار بن عبد الله بن سوار بن عبد الله، وكان قاضي القضاة بسرّ من رأى جعفر ابن عبد الواحد الهاشمي، فأمره المتوكل أن يولّي إسماعيل قضاء الجانب الشرقي من بغداد سنة ست وأربعين ومائتين، ولم يعزله أحد من الخلفاء غير المهتدي، فإنه نقم على أخيه حماد بن إسحاق شيئا فضربه بالسياط وعزل إسماعيل، إلى أن قتل المهتدي «١» وولي المعتمد فأعاده إلى القضاء، فلم يزل على قضاء بغداد بالجانبين إلى أن مات، ولم يقلد قضاء القضاة لأنّ قاضي القضاة كان الحسن بن أبي الشوارب وكان يكون حينئذ بسامرّا.
وحدث الخطيب قال «٢» ، قال المبرد: لما توفيت والدة القاضي إسماعيل رأيت من وجهه «٣» ما لم يقدر على ستره، وكان كلّ يعزّيه، وقد كاد لا يسلو، فسلّمت عليه ثم أنشدته: