وكان الشيخ محي الدين يسأل الله تعالى أن يموت بأرض فلسطين، فاستجاب الله منه، فتوفي ليلة الأربعاء ثلث الليل الآخر في الرابع والعشرين من شهر رجب سنة سبع وسبعين بنوى بعد رجوعه مع والده من زيارة القدس والخليل. ومولده في العشر الأوسط من المحرم سنة إحدى وثلاثين وست مائة بنوى، ودفن بها رحمه الله. ولما وصل خبر وفاته إلى دمشق توجه قاضي القضاة عز الدين محمد بن الصائغ رحمه الله إلى نوى إلى قبره، وتوجه معه جماعة من أصحابه. ولما مات الشيخ محي الدين رثاه جماعة من فضلاء عصره، فمنهم الشيخ مجد الدين محمد بن الظهير الحنفي رحمه الله تعالى قال:
عز العزاء وعم الحادث الجلل ... وخاب بالموت في تعميرك الأمل
واستوحشت بعدما كنت الأنيس لها ... وسالها فقدك الأسحار والأصل
قد كنت للدين نوراً يستضاء به ... مدداً منك في الأقوال والعمل
وكنت تتلو كتاب الله معتبراً ... لا يعتريك على تكراره ملل
وكنت في سنة المختار مجتهداً ... وأنت باليمن والتوفيق مشتمل
وكنت زيناً لأهل العلم مفتخراً ... على جديد كساهم ثوبك الشمل