توفي ليلة الحادي والعشرين من جمادى الآخرة سنة ست وسبعين وأربعمائة ببغداد وأحضر إلى دار أمير المؤمنين المقتدي بالله، فصلى عليه، ودفن بمقبرة باب أبرز، وعمل العزاء بالنظامية، وصلى عليه صاحبه أبو عبد الله الطبري، ثم رتب المؤيد بن نظام الملك بعده في تدريس النظامية أبا سعد المتولي فلما بلغ ذلك النظام، كتب بإنكار ذلك، وقال: كان من الواجب أن تغلق المدرسة سنة من أجل الشيخ. وعاب على من تولى، وأمر أن يدرس الإمام أبو نصر عبد السيد بن الصباغ بها.
قلت: درس بها الشيخ أبو إسحاق بعد تمنع، ولم يتناول جامكية أصلا، وكان يقتصر على عمامة صغيرة وثوب قطني، ويقنع بالقوت، وكان الفقيه رافع الحمال رفيقه في الاشتغال، فيحمل شطر نهاره بالأجرة، وينفق على نفسه وعلى أبي إسحاق، ثم إن رافعا حج وجاور، وصار فقيه الحرم في حدود الأربعين وأربعمائة.
ومات أبو إسحاق، ولم يخلف درهما، ولا عليه درهم. وكذا فليكن الزهد، وما تزوج فيما أعلم، وبحسن نيته في العلم اشتهرت تصانيفه في الدنيا، " كالمهذب " و " التنبيه " و " اللمع في أصول الفقه " و " شرح اللمع "، و " المعونة في الجدل "، و " الملخص في أصول الفقه "، وغير ذلك:
ومن شعره: أحب الكأس من غير المدام وألهو بالحسان بلا حرام وما حبي لفاحشة ولكن رأيت الحب أخلاق الكرام
وقال: سألت الناس عن خل وفي فقالوا: ما إلى هذا سبيل تمسك - إن ظفرت - بود حر فإن الحر في الدنيا قليل
ولعاصم بن الحسن فيه: تراه من الذكاء نحيف جسم عليه من توقده دليل إذا كان الفتى ضخم المعاني فليس يضيره الجسم النحيل
ولأبي القاسم بن ناقياء يرثيه أجرى المدامع بالدم المهراق خطب أقام قيامة الأماق خطب شجا منا القلوب بلوعة بين التراقي ما لها من راق ما لليالي لا تؤلف شملها بعد ابن بجدتها أبي إسحاق إن قيل مات فلم يمت من ذكره حي على مر الليالي باق