بغداد، وليس من العجيب إذاً أن يشعر فى شرخ حياته بقيود الحياة الريفية وينزع إلى ميدان أوسع تقدر فيه مواهبه، ولذلك ذهب إلى قصبة البلاد، ولكنه قفل راجعاً بعد عام وسبعة أشهر إلى موطنه. ويقول أبو العلاء نفسه إن مرض أمه وحاجته إلى المال هما السببان اللذان دفعاه إلى العودة. ولكن يظهر أن السبب الأخير بعيد الاحتمال، فقد كان له أصدقاء ذوو نفوذ يستطيعون أن يمدوا له يد المعونة إذا احتاج الأمر إلى ذلك.
وقد أفسدت فى نفس الوقت بعض الحوادث النابية استقباله الرائع الذى بلغ حد التملق. أضف إلى ذلك أن رفض الشاعر التكسب بالشعر وقف حائلا بينه وبين تحقيقه أطماعه، كما أن إهانة المرتضى، أخى الشاعر المعروف الشريف الرضى، لأبى العلاء دفعته آخر الأمر إلى مغادرة المدينة (مركوليوث "رسائل أبى العلاء"، ص ٢٧ وما بعدها). وتدل زيارته لبغداد على مرحلة دقيقة فى حياة الشاعر. وكان أبو العلاء إلى ذلك الوقت قد عرف بأنه عالم متبحر وشاعر مطبوع متأثر بأسلوب المتنبى الذى كان متحمساً فى الإعجاب به ولم تظهر موهبته الفريدة إلا فى آثاره المتأخرة التى كتبها بعد عودته إلى المعرة:"اللزوميات" و"رسالة الغفران". ولا نستطيع أن نشك أنه استوعب فى بغداد كثير، من الآراء والتأملات الخارجة على مذهب أهل السنة التى يتميز بها هذان الكتابان. أما ما يؤكده البعض من أنه حضر دروس أئمة العلماء فى عصره فهو مخالف لما قاله هو نفسه فى خطاب أرسله إلى عمه يخبره فيه أنه وصل إلى المعرة قادمًا من بغداد، وأنه منذ بلغ العشرين من عمره لم يفكر فى أن يأخذ العلم على واحد من أهل العراق أو الشام، وما كاد يصل إلى بلده حتى بلغه نعى والدته، وقد أثر فيه هذا الحادث تأثيراً بليغًا وشجعه على تنفيذ عزمه على اعتزال الناس. ويقال إنه عاش منذ ذلك الحين فى كهف أخذ نفسه فيه بالتقشف: لا يأكل لحم الحيوان بل لا يتناول البيض واللبن،