حوالي ١٨٧٣ م، ودرس بالمكتب القرآني في مسقط رأسه قبل أن يلتحق بالزيتونة، حيث تحصل على (التطويع)، وبدأ حياته العامة بإصدار مجلة "السعادة العظمى" منذ شهر محرم ١٣٢٢ هـ (الموافق لشهر أفريل ١٩٠٤ م)، وهي مجلة علمية أدبية إسلامية ونصف شهرية.
وأبرز الخضر بن الحسين من خلال مجلته نزعته الإسلامية الإصلاحية، ودعوته للتمسك بالدين، وبالتضامن الإسلامي لضمان النهضة. وقد انتهجت مجلة "السعادة العظمى" في شكلها ومنهجها ما سلكته مجلة "المنار" المصرية الشهيرة من خيارات.
وأحدثت المجلة هزة للفكر الديني التقليدي؛ إذ فتحت ودعت إلى فتح أبواب الاجتهاد، كما فتحت أبواباً للمقالات العلمية العصرية، لم يتعود عليها القارئ، وفتحت أيضاً أبواباً للجدل حول مواضيع دينية ودنيوية حساسة. وفتحت المجلة أعمدتها لبريد القراء. وقد واجهت المجلة معارضة واحتجاج علماء الدين التقليديين الذين حاولوا إخماد صوتها. ولم تتمكن مجلة "السعادة العظمى" من الصدور أكثر من واحد وعشرين مرة؛ إذ توقفت عن الصدور في شهر جانفي ١٩٠٥ م. بعد أن قامت هيئة النظارة العلمية لجامع الزيتونة بمطالبة الحكومة بتعطيلها.
وكان لهذه المجلة تأثير كبير على المسار المهني للخضر بن الحسين في المؤسسة الزيتونية، وعلى الشهرة التي سيتمتع بها لدى جانب معين من الزيتونيين، وعلى الاضطهاد الذي سيمارسه عليه جانب آخر منهم، مما سيدفع به في النهاية إلى ديار الغربة.
ومن الناحية الصحفية، يمكن اعتبار "السعادة العظمى" أول مجلة تصدر