ما دوائي غير ريقته خمرة للقلب مرهمه يقال: إنّه مات بالفالج، وقيل: بعسر البول، بحلب في عاشر صفر، وحمل إلى ميَافارقين فدفن عند أمه. وكان قد جمع من نفض الغبار الذي يجتمع عليه أيام غزواته ما جاء منه لبنة بقدر الكف، وأوصى أن يوضع خده عليها في لحده ففعل ذلك به، وملك بعده حلب ابنه سعد الدولة، وهلك سنة إحدى وثمانين كما يأتي.
فذكر علي بن محمد الشمشاطي في تاريخه، قال: ورد سيف الدولة إلى حلب عليلاً فأمسك كلامه ثلاثة أيام، ثم جمع قرغويه الحاجب وظفر الخادم والكبار فأخذ عليهم الأيمان لولده أبي المعالي بالأمر بعده، ومات على أربع ساعات من يوم الجمعة لخمس بقين من صفر الموافق ثامن شباط، وتولي أمره القاضي أبو الهيثم بن أبي حصين، وغسله عبد الرحمن بن سهل المالكي قاضي الكوفة، وغسله بالسدر ثم الصندل، ثم بالذريرة ثم بالعنبر والكافور، ثم بماء ورد، ثم بالماء، ونشف بثوب دبيقي بنيف وخمسين ديناراً، أخذه الغاسل وجميع ما عليه وتحته، وصبّره بصبر ومر ومنوين كافور، وجعل على وجهه ونحره مائة مثقال غالية، وكفن في سبعة أثواب تساوي ألف دينار، وجعل في التابوت مضربة ومخدتان، وصلى عليه أبو عبد الله العلوي الكوفي الأقساسي فكبّر خمساً. وعاش أربعاً وخمسين سنة شمسية.
وخرج أبو فراس بن حمدان في الليل إلى حمص، ولما بلغ معز الدولة خبر موته جزع عليه، وقال: أنا أعلم أن أيامي لا تطول بعده، وكذا كان.
وذكر ابن النجار أنّ سيف الدولة حضره عيد النحر، ففرّق على أرباب دولته ضحايا، وكانوا ألوفاً، فبعث إليهم ما يضحون به، فأكثر من ناله منهم مائة رأس وأقلّهم شاة، قال: ولزمه في فداء الأسارى سنة خمس وخمسين وثلاث مائة ست مائة ألف دينار، وفي ذلك يقول الببغاء:
كانوا عبيد نداك ثم شريتهم فغدوا عبيدك نعمة وشراء وكان سيف الدولة شيعيّا متظاهراً مفضالاً على الشيعة والعلويين.