وسمع الحديث من المتأخرين مثل: أبي الوقت، وأبي بكر بن الزاغوني ونصر العكبري، وابن البطي. وتفقه في المذهب على: أبي حكيم النهرواني، ثم على صدقة بن الحسين. وقرأ عليهما القرآن، وعلى صدقة الأصول والكلام. واختلف إلى جماعة من العلماء في طلب فنون جمة من العلوم.
وروى عنه: أبو الحسن القطيعي، وابن دلف.
وبرع في علم الفرائض والحساب والأصلين والهندسة.
ثم داخل الكبراء إلى أن توكل لأم الناصر، ثم ترقى أمره إلى أن وزر في سنة ثلاث وثمانين. ثم سار بالجيوش لحرب طغريل آخر السلجوقية، فانكسر الوزير، وتفلل جمعه، وأُسِر، ثم هرب إلى الموصل، وجاء بغداد متسترا، ولزم بيته مدة، ثم ظهر، فولي نظر الخزانة، فلما وزر المؤيد ابن القصاب عام تسعين، قبض على ابن يونس، وسجنه، فلما مات ابن القصاب عام اثنتين، رمي ابن يونس في مطمورة، فكان آخر العهد به.
صنف كتابا في أوهام أبي الخطاب الكلوذاني في الفرائض والوصايا، وكتابا في أصول الدين والمقالات. وسمعه منه الفضلاء، ولم يتم سماعه.
قال ابن النجار: كان ذكيا حسن الفهم غزير الفضل، له يد حسنة في علم الأصول، وكانت له معرفة حسنة بالفرائض والحساب، ولم تكن سيرته محمودة في ولايته كلها ولا طريقته مرضية.
مات في السرداب في صفر سنة ثلاث وتسعين وخمسمائة (١).