وربما اختار وكان من أهل القرآن والعلم والأدب متفنناً في علوم وله كتاب في الفقه أجاب فيه عن مسائل مختصر المزني على قول مالك بن أنس واختصر تفسير الجياني وتفسير البلخي وكان يخالف قول مالك في الحكم باليمين مع الشاهد ويحكى أن أباه وإسماعيل القاضي كان لا يحكمان به وكانا مالكيين وكان إذا شهد عنده الشاهد الواحد ليس معه سواه رد الحكم.
ومما استحسن من كلام أنه تلقى الخليفة المعز لدين الله بالإسكندرية وهو أحد الخلفاء العبيديين وكان مع الخليفة قاضيه النعمان بن محمد فلما جلس أبو طاهر عنده سأله الخليفة عن أشياء منها: أنه قال له كم رأيت من خليفة؟ فقال: واحد فقال: ومن هو؟ فقال: أنت والباقي ملوك ثم قال له: حججت؟ قال: نعم قال: وزرت؟ قال: نعم قال: سلمت على الشيخين؟ قال: شغلني عنهما النبي صلى الله عليه وسلم كما شغلني أمير المؤمنين عن ولي عهده.
فأرضى الخليفة وتخلص من ولي عهده وكان لم يسلم عليه بحضرة الخليفة فازداد الخليفة به عجباً وخلع عليه وأبقاه على ولايته. وأجازه بعشرة آلاف درهم. وأقام النعمان بن محمد بمصر لا ينظر في شيء اختياراً.
ولما أسن وضعف عزله العزيز بالله وولى علي بن النعمان فكانت ولاية أبي الطاهر ست عشرة سنة وقيل ثمان عشرة سنة وقيل إنه لم يعزل بل استعفى قبل موته بيسير. ومولده سنة تسع وسبعين ومائتين وهي سنة النجباء ولد فيها هو وجعفر بن الفرات والحسين بن القاسم بن عبيد الله وغيرهم.