زيه ولا منظره بذاك، وكان بوجهه جدري، ولكنه كان من فحول العلماء. قال: الإمام أبو بكر بن الحداد: سمعت أبا عبيد القاضي يقول: ما لي وللقضاء! لو اقتصرت على الوراقة، ما كان خطي بالرديء. وكان رزقه في الشهر مائة وعشرين دينارًا.
قال ابن زولاق: قال: أبو عبيد القاضي: ما يقلد إلَّا عصبي أو غبي. قال: فجمع أحكامه بمصر بما اختاره، وكان أولًا يذهب إلى قول أبي ثور. وكان يورث ذوي الأرحام، وولي قضاء واسط أولا … ، إلى أن قال: وأبو عبيد آخر قاض، ركب إليه الأمراء بمصر، وقد تسرى بمصر بجارية، فتجنت عليه، وطلبت البيع، وكان به فتق. ثم ذكر ابن زولاق عدة حكايات تدل على وقار أبي عبيد، ورزانته، وورعه التام، وسعة علمه. قال: وحدث عنه في سنة ثلاث مائة النسائي.
قال الشيخ محيي الدين النواوي: كان من أصحاب الوجوه، تكرر ذكره في "المهذب"، و"الروضة".
وقال أبو سعيد بن يونس: هو قاضي مصر، أقام بها طويلًا، كان شيئًا عجبًا، ما رأينا مثله، لا قبله ولا بعده، وكان يتفقه لأبي ثور، وعزل عن القضاء سنة إحدى عشرة؛ لأنه كتب يستعفي من القضاء، ووجه رسولًا إلى بغداد يسأل في عزله، وأغلق بابه، وامتنع من الحكم، فأعفي، فحدث حين جاء عزله، وأملى مجالس، ورجع إلى بغداد. وكان ثقة، ثبتًا.
حدث عن: زيد بن أخزم، وأحمد بن المقدام، وطبقتهما.
قال الخطيب: توفي ابن حربويه في صفر، سنة تسع عشرة وثلاث مائة، وصلى عليه أبو سعيد الاصطخري.