استدعي ابن هبيرة من قبل الخليفة المقتفي لأمر الله سنة:(٥٤٤ هـ) إلى داره وقلده الوزارة، ومشى أرباب الدولة وأصحاب المناصب كلهم بين يديه وهو راكبٌ إلى الإيوان في الديوان، وكان يوماً مشهوداً، وكان ذلك تقليداً عظيماً لمن يتولى الوزارة.
ولكن الرجل لما بلغ ذلك المنصب لم يفسد، ولم ينشغل بأمور الدنيا، ولم يترك طلب العلم، وهذا درسٌ عظيمٌ جداً يؤخذ من حياة هذا الإمام، بل إن أخلاقه قد ازدادت بعد توليه الوزارة، وكان يقول بعد توليه الوزارة: لا تقولوا في ألقابي: سيد الوزراء.
لماذا نهاهم عن تسميته بسيد الوزراء؟ قال: لأن الله تعالى سمى هارون وزيراً.
وجاء عن النبي صلى الله عليه وسلم أن وزيريه من أهل السماء: جبريل، وميكائيل، ومن أهل الأرض: أبو بكر، وعمر.
فإذا قيل: سيد الوزراء، قد يُتَوَهَّم دخول هارون، وأبي بكر، وعمر في هؤلاء الوزراء، ولا يمكن أن يكون سيداً لهم، ولا يجوز أن يكون كذلك، فكان يتنبه حتى لهذه المسائل.
وكان متواضعاً رحمه الله تعالى، لم يشغله أو يطغه المنصب، بل كان ملتزماً لجانب التواضع، وقال: إن النبي صلى الله عليه وسلم قال: (إن الله اختارني، واختار لي أصحاباً، فجعلهم وزراء وأنصاراً) يقول الوزير ابن هبيرة رحمه الله: "ولا يصلح أن يقال عني: إني سيد هؤلاء السادة".