قال أبو الفرج: وكان أبو عبيدة وسخا، طويل الأظفار والشعر أيضا، وكان يغضب من هذا اللقب، ولما كتب على السارية التي يجلس إليها أبو عبيدة:
صلى الإله على لوط وشيعته ... أبا عبيدة، قل بالله: آمينا
فقال لأبي حاتم السجستاني: اصعد على كتفي فامحه. قال: فمحوته إلا الطاء، فقال له أبو عبيدة: لا تتركها؛ فهي شر حروفها. قال أبو حاتم: وكان يميل إلي لكوني من خوارج سجستان.
وفي «تاريخ المنتجالي»: كان الغريب أغلب عليه وأخبار العرب وأيامها، وكان مع معرفته ربما لم يقم البيت إذا أنشده حتى يكسره، ويخطى إذا قرأ القرآن نظرا، وكان يبغض العرب، وألف في مثالبها كتبا، وكان يرى رأي الخوارج، وتوفي سنة عشر أو إحدى عشرة ومائتين وقد قارب المائة. زاد المنتجالي، قال: رفعت إلى جعفر بن يحيى أمثالا في رقاع، قيل له: كم كانت؟ قال: أربعة عشر ألف مثل من أمثال العرب، وكان يرمى بالقدر.
وحكى أبو حاتم أنه خرج إلى بغداد، فدخل على جعفر بن يحيى، فقال له: مثلك لا يدخل على الخلفاء. فقال: لم؟ قال: لأن فيك توضيعا واضحا، فلا تدخل على أمير المؤمنين، قال: فأرجع خائبا؟ قال: لا، أنا أعطيك.
وخرج أبو عبيدة إلى إسحاق بن عبد الرحمن الهلالي بفارس، فقال لغلمانه: احذروه؛ فإن كلامه كالدنق. فدخل عليه يوما فأتى بعض الغلمان بالطعام، ولا يعرفه، فأكب منه على طرف ثوبه، فقال له الهلالي: يا أبا عبيدة، قد أصاب ثوبك المرق وسوف أكسوك عشرة أثواب بدله، فقال: لا أبالي، لأنظر مرقتكم ليس لها ردك. قال: فهم مسبون به إلى اليوم.
وقال أبو عمر في «الاستغناء»: سئل عنه يحيى بن معين، فقال: ليس به بأس. وقال أبو عمر ابن عبد البر: كان شعوبيا، يبغض العرب، يذهب مذهب الخوارج فيما قيل.