عمر بن الخطاب رضي الله عنه فاشتدّ غضبه على العلاء رضي الله عنه، وكتب إليه بعزله وتوعده وأمره بأثقل الأشياء عليه وأبغض الوجوه إليه، بتأمير سعد بن أبي وقاص عليه وقال: الحق بسعد بن أبي وقاص بمن معك، فخرج رضي الله عنه من البحرين بمن معه نحو سعد رضي الله عنه، وهو يومئذ على الكوفة، وكان بينهما تباين وتباعد، وكتب عمر رضي الله عنه إلى عتبة بن غزوان بأنّ العلاء بن الحضرميّ حمل جندا من المسلمين في البحر فأقطعهم إلى فارس وعصاني، وأظنه لم يرد الله عز وجلّ بذلك، فخشيت عليهم أن لا ينصروا وأن يغلبوا، فاندب لهم الناس وضمهم إليك من قبل أن يجتاحوا، فندب عتبة رضي الله عنه الناس وأخبرهم بكتاب عمر رضي الله عنه، فانتدب عاصم بن عمرو، وعرفجة بن هرثمة، وحذيفة بن محصن، ومجراة بن ثور، ونهار بن الحارث، والترجمان بن فلان، والحصين بن أبي الحرّ، والأحنف بن قيس، وسعد بن أبي العرجاء، وعبد الرحمن بن سهل، وصعصعة بن معاوية رضي الله تعالى عنهم. فساروا من البصرة في اثني عشر ألفا على البغال يجنبون الخيل، وعليهم أبو سبرة بن أبي رهم رضي الله عنهم، فساحل بهم حتى التقى أبو سبرة وخليد حيث أخذت عليهم الطرق، وقد استصرخ أهل اصطخر أهل فارس كلهم فأتوهم من كل وجه وكورة، فالتقوا هم وأبو سبرة فاقتتلوا، ففتح الله على المسلمين وقتل المشركون، وعاد المسلمون بالغنائم إلى البصرة، ورجع أهل البحرين إلى منازلهم.
فلما فتح الله تعالى الشأم ألح معاوية بن أبي سفيان وهو يومئذ على جند دمشق والأردن، على عمر رضي الله عنه في غزو البحر وقرب الروم من حمص. وقال: إنّ قرية من قرى حمص ليسمع أهلها نباح كلابهم وصياح دجاجهم، حتى إذا كاد ذلك يأخذ بقلب عمر رضي الله عنه اتهم معاوية لأنه المشير، وأحب عمر رضي الله عنه أن يردعه فكتب إلى عمرو بن العاص وهو على مصر، أن صف لي البحر وراكبه، فإنّ نفسي تنازعني إليه وأنا أشتهي خلافها. فكتب إليه: يا أمير المؤمنين، إني رأيت البحر خلقا كبيرا يركبه خلق صغير، ليس إلّا السماء والماء، إن ركد حزّن القلوب، وإن زلّ أزاغ العقول، يزداد فيه اليقين قلة، والشك كثرة، هم فيه كدود على عود، إن مال غرق وإن نجا برق.
فلما جاءه كتاب عمرو، كتب رضي الله عنه إلى معاوية: لا والذي بعث محمدا بالحق لا أحمل فيه مسلما أبدا، إنّا قد سمعنا أنّ بحر الشأم يشرف على أطول شيء في الأرض، يستأذن الله تعالى في كل يوم وليلة أن يفيض على الأرض فيغرقها، فكيف أحمل الجنود في هذا البحر الكافر المستصعب، وتالله لمسلم واحد أحب إليّ مما حوته الروم، فإياك أن تعرض لي وقد تقدّمت إليك، وقد علمت ما لقي العلاء مني ولم أتقدّم إليه في مثل ذلك.
وعن عمر رضي الله عنه أنه قال: لا يسألني الله عز وجلّ عن ركوب المسلمين البحر أبدا.
وروي عنه ابنه عبد الله رضي الله عنهما أنه قال: لولا آية في كتاب الله تعالى لعلوت راكب البحر بالدرة.