وكان أبو عمرو يعرف فى وقته بين العلماء بصاحب ديوان اللغة والشعر، وكان خيّرا فاضلا صدوقا. قال عبد الله بن أحمد بن حنبل: كان أبى يلزم مجالس أبى عمرو ويكتب أماليه.
قال أبو عمرو الشيبانىّ: كنت أسير على الجسر ببغداذ؛ فإذا أنا بشيخ على حمار مصرىّ مسرج بسرج مدينىّ، فعلمت أنه من أهلها؛ فكلّمته؛ فإذا فصاحة وظرف؛ فقلت: ممّن أنت؟ فقال: من الأنصار، أنا ابن المولى، «١» الشاعر- إن كنت سمعت به. قال: قلت: إى والإله! لقد سمعت به؛ أنت الذى تقول:
ذهب الرّجال فما أحسّ رجالا ... وأرى الإقامة بالعراق ضلالا