بعد ولايته، إذ أتاه قائد لابن دعلج في نفر، فسأل عنه فقلت: يتوضأ، فلما رآه القائد دفع كتاب ابن دعلج يخبره أن أمير المؤمنين يأمر بحمل الأموال التي لا يعرف أربابها إلى بيت المال. فقال للقائد: قد فهمت الكتاب فانصرف، قال: لا بإنفاذ ما أمرت به. قال: أنا أكتب الجواب. قال: لا. قال: اذهب إلى صاحبك فقل: لا واللَّه ولا درهمًا واحدًا. فقال القائد: خالع واللَّه، واللَّه لآتينه برأسك. قال: فجعلنا نخافه على عبيد اللَّه أن يقع به، فلما خرج أسقط في يد عبيد اللَّه، وخاف على نفسه، فأرسل إلى عثمان بن الحكم الثقفي فذكر ذلك له، فقال له: لو قاربت بعض المقاربة حتى تخلص، فقال له: أصلح الأمر الآن. قال: فأتى ابن دعلج كأنه لم يسمع بشيء، فوجده ينحرف على عبيد اللَّه، وذكر له قصة، فقلت: واللَّه لئن كتبت فيه لم يكن الذنب إلا لك؛ لأنك أثنيت عليه عند الخليفة، وأخبرت بفضله واستحقاقه، حتى إذ ولاه مقتصرًا على خبرك كتبت تذمه! قال: فما الرأي؟ قلت: تغيب عنه وتكتب تعذره، ففعل. وكان ابن دعلج يرتشي ويبسط يده، وعبيد اللَّه منعه من ذلك، فكان الأمر بينهما متباعدًا.
وقال أبو صفية لَمَّا ولي عبيد اللَّه:
يا ذا المنادي عبيد اللَّه سيدها ... ما دام في الأفق منها كوكب جاري
وقال سلمة بن عياش:
حباك بأسناها الخليفة بعد ما ... تمنى رجال في الخلاء الأمانيا
ولم يزل عبيد اللَّه على صلاة البصرة وأحدائها إلى ابن دعلج حتى توفي أبو جعفر، فلما ولي المهدي أقرَّ عبيد اللَّه على الصلاة بالبصرة وقضائها. وكان وفد على المهدي يعزيه ويهنئه بالخلافة، فقال له: كم رزقك؟ قال: مائتان. قال: ضعفوها له. قال محمد بن عبد اللَّه بن حماد: فلربما سمعته ينادي به وهو في بيته، يأخذ في كل يوم ثلاثة عشر درهمًا ودانقين ولا يجلس لنا.
قال: وقدم عبيد اللَّه على القضاء، وعبد الملك بن أيوب على الصلاة والأحداث. ولم يزل عبيد اللَّه على القضاء من لدن أن ولاه أبو جعفر، وذلك في سنة ست وخمسين ومائة في ذي الحجة، حتى قدم المهدي، فعزله في سنة ست وستين، فقضى عشر سنين، وكان المهدي قد أطاف بالجزيرة وخرج في نهر الأيلة، ثم في دجلة، ونهر معقل، فرأى أموالا عِظامًا، فقال: يا عبيد اللَّه؛ أرأيت رجلا أقطعناه قطيعة فوجدنا في يده أكثر ممَّا أقطعناه؟ قال: يا أمير المؤمنين؛ إنما هذا بمنزلة ثوبي، لا أسأل عنه من أين