وكان يحيى بن أكثم من أئمة العلم، أحد أعلام الدنيا، وقد اشتهر فضله وعلمه ورئاسته وسياسته، وغلب على المأمون حتى لم يتقدمه أحد عنده من الناس جميعاً. وكان المأمون ممن برع في العلم، فعرف من حال يحيى بن أكثم وما هو عليه من العلم والعقل ما أخذ بمجامع قلبه حتى قلده قضاء القضاة، وتدبير أهل مملكته، فكانت الوزراء لا تعمل في تدبير الملك شيئاً إلا بعد مطالعة يحيى بن أكثم. ولا نعلم أحداً غلب على سلطانه في زمانه إلا يحيى بن أكثم وابن أبي داود.
خرج سفيان بن عيينة إلى أصحاب الحديث وهو ضجر فقال: أليس من الشقاء أن أكون جالست ضمرة بن سعيد وجالس أبا سعيد الخدري، وجالست عمرو بن دينار وجالس جابر بن عبد الله، وجالست عبد الله بن دينار وجالس ابن عمر، وجالست الزهري وجالس أنس بن مالك؟! حتى عدد جماعة، ثم أنا أجالسكم، فقال له حدث في المجلس: أتنصف يا أبا محمد؟ قال: إن شاء الله، قال له: والله لشقاء من جالس أصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ بك أشد من شقائك بنا، فأطرق وتمثل بشعر أبي نواس.
خل جنبيك لرام ... وامض عنه بسلام
مت بداء الصمت خير ... لك من داء الكلام
فسئل من الحدث؟ فقالوا: يحيى بن أكثم، فقال سفيان: هذا الغلام يصلح لصحبة هؤلاء، يعني: السلطان.
صار يحيى بن أكثم إلى حفص بن غياث فتعشى عنده فأتي حفص بعس فشرب منه، ثم ناوله أبا بكر بن أبي شيبة فشرب منه، فناوله أبو بكر يحيى بن أكثم فقال له: يا أبا بكر، أيسكر كثيره؟ قال: إي والله وقليله، فلم يشرب.
ولي يحيى بن أكثم القاضي البصرة، وسنه عشرون أو نحوها، فاستصغره