الزيتونة، ثم سمي مفتيا مرءوسا بوالده بعد وفاة جده في غرة جمادي الأولى سنة ١٢٤٧/ ٢٣ أكتوبر ١٨٣١ وعارض أباه في مجلس الحكم بما أوتي من حدة الفهم.
ولما مات والده عن رئاسة الفتوى الحنفية، وكان المترشح لها غيره ممن تقدمه في الفتوى، أولاه الأمير أحمد باشا باي رئاسة الفتوى الحنفية في ٢٨ ربيع الأول ١٢٥٩/ ٢٨ أفريل ١٨٣٢ ونقابة الأشراف خلفا لوالده.
وهو أول من لقب بشيخ الإسلام في تونس، لأن هذا اللقب لم يكن موجودا بها حتى فخّم الأمير أحمد باشا باي المشير الأول الألقاب محاكيا للسلطنة العثمانية، واستدعى يوما صاحب الترجمة والبسة كركا وسمورا وسماه شيخ الإسلام.
تولى خطابة جامع صاحب الطابع ثم الجامع اليوسفي.
وكان الأمير أحمد باشا يقربه ويستشيره في المهام ويصله بأسنى العطايا، ولما ولي الأمير محمد باشا قربه وجعل أمر الخطط الدينية إليه فلا يتولى أحد منها شيئا إلا بانتخابه فكان يؤثر عنه الانصاف، فتأتي المستحقين أوامر الخطط من غير علم منهم. وكان صهرا للأمير محمد باشا تزوج الأمير بأخته. وهو مستشار الأمير يعمل بإشارته غالبا في الجهاز الإداري والقضائي، وفي القضايا السياسية، وكان له تأثير كبير بين النخبة العلمية والإدارية. وكان كاتبا وشاعرا يستنجد بقلمه الأمير محمد باشا عند المهام. ولما ورد مكتوب السلطنة المغربية في تهنئة محمد باشا بأي أحجم الشيخ ابن أبي الضياف عن الجواب، وأشار على الأمير أن يكلف صاحب الترجمة بالجواب، فأجاب عن المكتوب نثرا ونظما.
وعند ما اتخذ السلطان محمود خان الثاني الزي الأوروبي سنة ١٢٤٦/ ١٨٣١ أصدر أمره لولاة الولايات العثمانية ولأمراء البلاد المختارة ومنها تونس بإجراء العمل في بلادهم بالأنظمة الجديدة، ومن جملتها اللباس الأوروبي والعسكر النظامي، فكان حسين باي أول من لبس من البايات الزي الأوروبي اقتداء بالسلطان التركي، وشاع النكير عليه في أوساط المتزمتين، حتى أنه وقع العثور في مجلس حكمه على قصيدة لمجهول مطلعها:
بربك أيها الملك المطاع ... أكفر ذا الصنيع أم ابتداع (١)؟ !
وكان المترجم له من فريق المؤيدين للباي، وهنأه على إصلاحاته بقصيدة من عيون شعره:
نظامك أيها الملك الهمام ... به للدين قد ظهر ابتسام
نظام يكتسي الإسلام منه ... سرورا ليس يحصيه النظام
به نسخت شوائب كل عجز ... كما بالصبح قد نسخ الظلام
(١) متأثر بقولة ابن شبل البغدادي: بربك أيها الفلك المدار أقصد ذا المسير أم اضطرار؟