حدث الفتح بن شحرف عن رجاء بن مرجا وجعفر بن عبد الواحد ومحمد بن عبد الملك بن زنجويه وغيرهم.
وتوفي يوم الثلاثاء للنصف من شوال من سنة ثلاث وسبعين ومائتين ودفن في المقبرة التي بين باب حرب وباب قطر بل وصلى عليه بدر المغازلي.
قال أبو محمد الحريري غسلت الفتح بن شحرف فقلبته على يمينه فإذا على فخذه الأيمن مكتوب خلقه الله كتابة بينة قال جعفر ورأيت الفتح بين شحرف هذا وكان رجلا صالحا زاهدا لم ياكل الخبز ثلاثين سنة وكان ذا أخلاق حسنة وكان يطعم الفقراء ومن يزوره من الأصحاب الطعام الطيب وكان حسن العبادة والورع والزهد.
عن أبي محمد الحريري قال غسلنا الفتح بن شحرف فرأينا على فخذه مكتوبا لا اله إلا الله فتوهمناه مكتوبا فإذا هو عرق داخل الجلد.
وعن إسحاق بن إبراهيم بن هاني قال لما مات فتح بن شحرف ببغداد صلى عليه ثلاثا وثلاثين مرة اقل قوم كانوا يصلون عليه يعدون خمسة وعشرين آلفا إلى ثلاثين آلفا رحمه الله.