وتوفي رحمه الله بدير الطين في جمادى الآخرة عام أربعمائة وثمانين وستمائة ودفن بالقرافة.
ويلين بياء مثناة من تحت مفتوحة ولام مشددة مكسورة وياء ساكنة مثناة من تحت ونون ساكنة والبهفشيمي بالباء الموحدة المفتوحة والهاء المجزومة والفاء المفتوحة والشين المعجمة المكسورة والياء المثناة من تحت الساكنة. ولم أقف على معنى هذه النسبة ولعلها قبيلة من قبائل صنهاجة. وكان القرافي رحمه الله كثيراً ما يتمثل بهذين البيتين:
وإذا جلست إلى الرجال وأشرقت ... في جو باطنك العلوم الشرد