فقال له أبو العلاء: أنت أشعر من بالشام. وطويت الأيام على قوله فلما رحل إلى بغداد أنشهد المغازي فيها:
لقد عرض الحمام لنا بسجع ... إذا أصغى له ركب تلاحى
شحبى قلب الخلي فقيل غنى ... وبرح بالشجي فقيل ناحا
وكم للشوق في أحشاء صبٍ ... إذا اندملت أجد لها جراحا
ضعيف البصر عنك وإن تقاوى ... وسكران الفؤاد وإن تصاحى
بذاك بنو الهوى سكرة صحاة ... كأحداق المهى مرضى صحاحا
فقال له أبو العلاء. ومن بالعراق علي قوله قبلاً (أنت أشعر من بالشام) إلى غير ذلك وكان يقصده كثير من العلماء للتعارف به وممن نزل بالمعرة القاضي عبد الوهاب البغدادي فمدحه المعري (راجع ابن خلكان ١: ٤٣١).
ومكن نوادره أن الوزير أبا الفضل التميمي الدرامي البغدادي اجتمع بأبي العلاء هذا في بلدته المعرة لما بعثه القائم بأمر الله العباسي من بغداد رسولاً إلى صاحب أفريقية المعز بن باديس وأنشده قصيدة لأمية يمدح بها صاحب حلب قبل عينه وقال لله أنت من ناظم.
ولقي يوماً غلاماً فسأله عن الطريق فدله. فسأله الغلام عن اسمه فعرفه به فقال له أأنت القائل:
وإني وإن كنت الأخير زمانه ... لآت بما لم تستطعه الأوائل
قال: نعم. قال: إن الأوائل وضعوا ٢٩ حرفاً للهجاء فهل لك أن تزيد عليها حرفاً فسكت وقال لرفيقه: أن هذا الغلام لا يعيش لحدة ذهنه وهكذا كان.
وبقي أليف الأدب منقطعاً إلى التدريس حتى مرض ثلاثة أيام ومات في الرابع منها ولم يكن عنده غير بني عمه فقال لهم في اليوم الثالث من مرضه: اكتبوا عني. فتناولوا الدوي والأقلام فأملى عليهم غير الصواب فقال القاضي أبو محمد عبد الله التنوخي: أحسن الله عزاءكم في الشيخ فإنه ميت. فمات يوم الجمعة ثالث ربيع الأول سنة ٤٩٩هـ (١٠٥٨م) بالمعرة. وفي طبقات ابن الأنباري أنه توفى سنة ٤٩٩ وهو خطأ. وقبره في ساحة من دور أهله وعلى الساحة باب صغير قديم وهو مهمل وقد أوصى أن يتب على قبره:
هذا جناه أبي عليَّ (م) ما جنيت على أحد.