ثم أن رسول الله صلى عليه وسلم رحل من قباء يريد المدينة فما مر على دار من دور الأنصار إلا قالوا هلم يا رسول الله إلى العدد والعدة ويعترضون ناقته فيقول خلوا سبيلها فإنها مأمورة حتى انتهت إلي موضع مسجد النبي ﷺ فبركت هناك فنزل عنها النبي ﷺ وأخذ أبو أيوب الأنصاري الناقة إلى بيته.
وكان موضع المسجد مربداً للتمر لسهل وسهيل ابني عمرو - يتيمين في حجر أسعد بن زرارة - فقال رسول الله ﷺ حين بركت ناقته هذا إن شاء الله المنزل ثم دعا الغلامين فساومهما المربد ليتخذه مسجداً فقال لا بل نهبه لك يا رسول الله فأبى أن يقبله منهما هبة حتى ابتاعه منهما ثم بناه مسجداً وطفق رسول الله ﷺ ينقل معهم اللبن في بنائه.
وقيل بل كان الموضع لبني النجار وكان فيه قبور المشركين وخرب ونخل فأراد النبي ﷺ أن يشتريه من بني النجار فقال لهم يا بني النجار ثامنوني حائطكم فأقلوا لا نطلب ثمنه إلا إلى الله فأمر رسول الله ﷺ بقبور المشركين فنبشت وبالخرب فسويت وبالنخل فقطع قال فصفوا النخيل قبل المسجد وجعلوا عضاديته حجارة وجعلوا ينقلون ذلك الصخر وهم يرتجزون ورسول الله ﷺ يقول:
اللهم لا عيش إلا عيش الآخرة … فانصر الأنصار والمهاجرة
وأقام رسول الله ﷺ عند أبي أيوب حتى بنى مسجده ومساكنه وكان قبله يصلي حيث أدركته الصلاة وبناه هو والمهاجرون والأنصار رضوان الله عليهم أجمعين.
وكان المسجد الشريف على عهد رسول الله ﷺ مبنياً باللبن