وروى أيضًا أبو حذيفة في "فتوح الشام" أن الروم بعثوا إلى أبي عبيدة: إنا نريد أن نبعث إليك رجلا منا يعرض عليك الصلح ويدعوك إلى النصف، فإن قبلت منه فلعل ذلك أن يكون خيرًا لك لنا, وإن أبيت فما نراه إلا شرا لك, فقال لهم: ابعثوا من شئتم. فبعثوا رجلا طويلا أحمر أزرق، فجاء، فلما دنا من المسلمين لم يعرف أبا عبيدة من القوم، ولم يدر أهو فيهم أم لا, ولم يرهبه مكان أمير من الأمراء. فقال: يا معشر العرب، أين أميركم? فقالوا له: ها هو ذا، فنظر فإذا هو بأبي عبيدة جالسًا عليه الدرع، وهو ممسك الفرس، وبيده أسهم يقلبها وهو جالس على أرض، فقال له: أنت أمير هؤلاء? قال: نعم، قال: ما يجلسك على الأرض? أرأيت إن كنت جالسًا على وسادة أو كان تحتك بساط أكان ذلك واضعك عند الله، أو هل يبعدك من الإحسان? قال له أبو عبيدة: إن الله لا يستحي من الحق، لأصدقنك: ما أصبحت أملك إلا سيفي وفرسي وسلاحي، ولقد احتجت أمس إلى نفقة فاقترضت من أخي هذا شيئًا -يعني معاذ بن جبل- وكان عنده شيء فاقترضت، ولو كان عندي بساط أو وسادة ما كنت لأجلس عليه وأجلس أخي المسلم -الذي لا أدري لعله خير مني منزلة عند الله عز وجل- على الأرض، ونحن عباد الله، نمشي على الأرض ونجلس عليها ونأكل عليها ونضطجع عليها، وليس ذلك بناقصنا عند الله شيئًا، بل تعظم به أجورنا وترفع درجاتنا، فهلم حاجتك التي جئت لها.
وأخرج أيضًا أبو حذيفة أن أبا عبيدة لما وجهه عمر إلى الشام تلقاه في جنوده وهو على قلوص مكتنفها بعباءة خطامها من شعر، لابس سلاحه, متنكب قوسه.
وعن أبي موسى -رضي الله عنه- أن عمر كتب إلى أبي عبيدة في الطاعون الذي وقع بالشام أنه: قد عرضت حاجة عندنا ولا غنى فيها عنك، فإذا أتاك كتابي هذا فإني أعزم عليك إن أتاك كتابي ليلا أن لا