ولما اضطربت أمور الدولة السامانية خرج أبو علي من بخارى إلى كركانج، وهي قصبة خوارزم، واختلف إلى خوارزم شاه علي بن مأمون بن محمد، وكان أبو علي على زي الفقهاء ويلبس الطيلسان، فقرروا له في كل شهر ما يقوم به، ثم انتقل إلى نسا وأبيورد وطوس وغيرها من البلاد، وكان يقصد حضرة الأمير شمس المعالي قابوس بن وشمكير في أثناء هذه الحال، فلما أخذ قابوس وحبس في بعض القلاع حتى مات - كما سيأتي شرحه في ترجمته في حرف القاف من هذا الكتاب إن شاء الله تعالى - ذهب أبو علي إلى دهستان ومرض بها مرضاً صعباً، وعاد إلى جرجان، وصنف بها الكتاب الأوسط - ولهذا يقال له " الأوسط الجرجاني " - واتصل به الفقيه أبو عبيد الجوزجاني، واسمه عبد الواحد، ثم انتقل إلى الري واتصل بالدولة، ثم إلى قزوين ثم إلى همذان، وتولى الوزارة لشمس الدولة، ثم تشوش العسكر عليه، فأغاروا على داره ونهبوها وقبضوا عليه وسألوا شمس الدولة قتله فامتنع، ثم أطلق فتوارى، ثم مرض شمس الدولة بالقولنج فأحضره لمداواته واعتذر إليه وأعاده وزيراً، ثم مات شمس الدولة وتولى تاج الدولة فلم يستوزره، فتوجه إلى أصبهان وبها علاء الدولة أبو جعفر ابن كاكويه، فأحسن إليه.
وكان أبو علي قوي المزاج، وتغلب عليه قوة الجماع حتى أنهكته ملازمته وأضعفته ولم يكن يداوي مزاجه، وعرض له قولنج، فحقن نفسه في يوم واحد ثماني مرات فقرح بعض أمعائه وظهر له سحج، واتفق سفره مع علاء الدولة، فحصل له الصرع الحادث عقيب القولنج، فأمر باتخاذ دانقين من كرفس في جملة ما يحقن به، فجعل الطبيب الذي يعالجه فيه خمسة دراهم منه، فازداد السحج به من حدة الكرفس فطرح بعض غلمانه في بعض أدويته شيئاً كبيراً من الأفيون، وكان سببه أن غلمانه خانوه في شيء، فخافوا عاقبة أمره عند برئه؛ وكان مذ حصل له الألم يتحامل ويجلس مرة بعد أخرى ولا يحتمي ويجامع، فكان يمرض أسبوعاً ويصلح أسبوعاً، ثم قصد علاء الدولة همذان من أصبهان ومعه الرئيس أبو علي، فحصل له القولنج في الطريق ووصل إلى همذان وقد