فأبى، وأراده على ابنه فأبى، وأراد أبو موسى عمرًا على عبد اللَّه بن عمر فأبى عليه، فقال له عمرو: خبرني ما رأيك؟ قال: رأي أن نخلع هذين الرجلين ونجعل الأمر شورى بين المسلمين، فيختار المسلمون لأنفسهم من أحبوا، فقال له عمرو: فإن الرأي ما رأيت، فأقبلا إلى الناس وهم مجتمعون، فقال: يا أبا موسى، أعلمهم بأن رأينا قد اجتمع واتفق، فتكلم أبو موسى، فقال: إن رأيي ورأي عمرو قد اتفقا على أمر نرجو أن يصلح اللَّه -عزَّ وجلَّ- به أمر هذه الأمة. فقال عمرو: صدق وبر يا أبا موسى، تقدم فتكلم، فتقدم أبو موسى ليتكلم، فقال له ابن عباس: ويحك واللَّه إني لأظنه قد خدعك! إن كنتما قد اتفقتما على أمر فقدمه فليتكلم بذلك الأمر قبلك، ثم تكلم أنت بعده. فإن عمرًا رجل غادر ولا آمن أن يكون قد أعطاك الرضا فيما بينك وبينه، فإذا قمت في الناس خالفك. وكان أبو موسى مغفل، فقال له: إنا قد اتفقنا، فتقدم أبو موسى فحمد اللَّه -عزَّ وجلَّ- وأثنى عليه، ثم قال: أيها الناس، إنا قد نظرنا في أمر هذه الأمة فلم نر أصلح لأمرها ولا ألم لشعثها من أمر قد أجمع رأي ورأي عمرو عليه وهو أن نخلع عليًا ومعاوية وتستقبل هذه الأمة هذا الأمر فيولوا منهم من أحبوا عليهم وإني قد خلعت عليا ومعاوية فاستقبلوا أمركم وولوا عليكم من رأيتموه لهذا الأمر أهلًا، ثم تنحى وأقبل عمرو بن العاص، فقام مقامه فحمد اللَّه وأثنى عليه وقال: إن هذا قد قال ما سمعتم وخلع صاحبه وأنا أخلع صاحبه كما خلعه وأثبت صاحبي معاوية، فإنه ولي عثمان بن عفان، والطالب دمه، وأحق الناس بمقامه، فقال أبو موسى: مالك -لا وفقك اللَّه- غدرت وفجرت. إنما مثلك كمثل الكلب إن تحمل عليه يلهث أو تتركه يلهث. قال عمرو: إنما مثلك كمثل الحمار يحمل أسفارًا، وحمل شريح بن هانىء على عمرو فقنعه بالسوط، وحمل على شريح ابن لعمرو فضربه بالسوط، وقام الناس فحجزوا بينهم وكان شريح بعد ذلك يقول: ما ندمت على شيء ندامتي على ضرب عمرو بالسوط ألا أكون ضربته بالسيف آتيًا به الدهر ما أتى، والتمس أهل الشام أبا موسى، فركب راحلته ولحق بمكة.
قال ابن عباس: قبح اللَّه رأي أبي موسى! حذرته وأمرته بالرأي في عقل، فكان أبو موسى