محتفظا بمنصبه على حين أقصى غيره من ولاة عثمان (اليعقوبى، جـ ٢ ص ٢٠٨). ولما نشبت الحرب بين على وعائشة وطلحة والزبير دعا رعاياه أن يلزموا الحياد (الطبرى، جـ ١، ص ٣١٣٩؛ الدينورى، ص ١٥٣ وما بعدها .. الخ) ولم يتزحزح عن موقفه هذا على الرغم من الضغط الذى تعرض له. وانتهى ذلك بأن طرده شيعة على من الكوفة فى أول فرصة لاحت لهم (الطبرى، جـ ١، ص ٣١٤٥ - ٣١٤٩؛ ٣١٥٢ - ٣١٥٤) وكتب الخليفة إليه رسالة عزل صيغت فى أشد العبارات قسوة (الطبرى جـ ١، ص ٣١٧٣؛ المسعودى: مروج الذهب، جـ ٤، ص ٣٠٨؛ وانظر اليعقوبى، جـ ٢، ص ٢٠)، على أنه أمنه بعد ذلك بأشهر قلائل (نصر بن مزاحم المنقرى: وقعة صفين، طبعة عبد السلام هارون، القاهرة سنة ١٣٦٥ هـ، ص ٥٧٢، الطبرى، جـ ١ ص ٣٣٣٣).
وقد كان أبو موسى أحد الحكمين اللذين أقيما فى صفين سنة ٣٧ هـ (٦٥٧ م) ليبتا فى النزاع بين على ومعاوية، أو قل إن شئت الدقة إنه كان الحكم المختار ليمثل عليا الذى أجبره أنصاره على اختيار أحد المحايدين، لوثوقهم التام بأن الحكم سيكون فى صالحهم (انظر عن تفصيلات التحكيم مادة "على بن طالب ") وبعد اللقاء الذى تم فى أذرح انسحب أبو موسى إلى مكة، ولكن لما أنفذ معاوية بسر بن أرطاة لاحتلال المدينتين المقدستين سنة ٤٠ هـ (٦٦٠ م) خشى الأشعرى انتقامه لأنه كان قد عارض فى أذرح مبايعة معاوية بالخلافة، وقد جاء فى بعض المصادر أنه عمد إلى الفرار، فطمأنه بسر (انظر Annali: Caetani سنة ٤٠ هـ، فقرة ٨، تعليق ٣ فى شأن الروايات المختلفة عن هذه الحادثة الهامة). ولم يشترك أبو موسى بعد ذلك بنصيب فى السياسة كما يتبين من التردد فى تحديد تاريخ وفاته (جعل سنة ٤١، ٤٢، ٥٠، ٥٢، ٥٣ هـ؛ وأرجح التواريخ هو سنة ٤٢ هـ).
وقد أثنى الثناء العاطر على تلاوته للقرآن وصلواته، ذلك أنه كان ذا صوت ندى (ابن سعد: الطبقات، جـ ٢/ ٢، ص ١٠٦) ولكننا نذكر فوق ذلك كله أن اسمه ظل متصلا بالدراسات القرآنية، لأنه جمع مصحفا بقى محليا بعد جمع مصحف عثمان المعتمد بعامة