أهداه هو إليها من خزانته الخاصة، وتأسيس جمعية الأوقاف، وسن نظام العدول، وسن قانون الغابة، وقانون الخمّاسة وإصلاح نظام السجون، والتنوير بالغاز، والاصلاحات البلدية بتونس، وإسقاط المغارم على أهل الساحل وتوحيد فائض ديونهم، وهي بلايا كبلتهم وأفقرتهم منذ عهد حملة الجنرال أحمد زروق، وتوسيع ساحة الأراضي المبذورة من ٦٠ ألف هكتار إلى نحو المليون هكتار، وحسم مشكلة أراضي السياليين بصفاقس وباعها لصغار الفلاحين.
وقاومه صهره الوزير الأول السابق خزنه دار فكان عملاؤه من يهود وفرنسيين، والمغامر اللبناني الأديب الصحفي الكونت رشيد الدحداح الذي كان متوظفا في وزارة خزنه دار واغتنى بعد فقر يؤاجرون الصحف الباريسية لشن الحملة عليه، علاوة عن حاشية الباي التي لا تريد تبديل الأوضاع واصلاحها لأنها تفوّت عليها مصالحها الشخصية القريبة ولا تهمها المصلحة العامة، ومنها الوزير مصطفى بن إسماعيل المقرب من محمد الصادق باي ومحل ثقته، فقد وسوس إليه أن مقصد خير الدين هو تولي الملك بدل العائلة المالكة، ومحمد الصادق باي رجل ضعيف الشخصية، سريع التصديق لما يقال له، لا يعمل الفكر الصحيح الباحث المستقصي فيما يعرض له من مشاكل وأقوال، ولا يريد الاهتمام بالحياة العامة لأن اهتمامه مصروف إلى العب من لذات سخيفة تافهة كادمان شرب الخمر وغير ذلك مما لا خير في ذكره «فظن شرا ولا تسأل عن الخبر».
وإزاء هذا الجو العفن الذي يسمم الأنفاس ولا يترك مجال العمل ميسرا اضطر للتخلي عن مباشرة الوزارة بعد أن سيرها أربع سنين إلا شهرا، فقدم استقالته إلى الباي في مجلس خاص بقصر حلق الوادي صباح يوم السبت ١٠ رجب ١٢٩٤/ ٢٢ جويليه ١٨٧٧.
وخير الدين على ما فيه من خصال عالية كرجل دولة من كفاءة واخلاص وتفان في خدمة المصلحة العامة ووطنية صادقة، وحسن تنظيم، وحب للاصلاح لم يكن يخلو من عيوب عرف كيف يستغلها خصومه فهو