سعيد أبو سليمان بن يسار -شك الضحاك- أنه حدثه أن المسجد كان يرش زمان النبي صلى الله عليه وسلم وزمان أبي بكر وعامة زمان عمر رضي الله عنهما، وكان الناس يتنخمون فيه ويبصقون حتى عاد زلقاً، حتى قدم ابن مسعود الثقفي وقال لعمر: أليس قربكم وادٍ؟ قال: بلى، قال: فمر بحصباء تطرح فيه، فهو أكف للمخاط، والنخامة، فأمر بها عمر رضي الله عنه.
وذكر محمد بن سعد: أن عمر بن الخطاب رضي الله عنه ألقى الحصا في مسجد رسول الله، وكان الناس إذا رفعوا رؤوسهم من السجود نفضوا أيديهم، فأمر بالحصباء فجيء به من العقيق فبسط في المسجد.
[ذكر زيادة عثمان بن عفان رضي الله عنه فيه]
روى البخاري في ((الصحيح)) أن عثمان رضي الله عنه زاد في المسجد زيادة كبيرة، وبنى جداره بالحجارة المنقوشة والقصة، وجعل عمده من حجارة منقوشة، وسقفه بالساج.
وذكر أهل السير: أن عثمان رضي الله عنه لما ولي الخلافة سنة أربع وعشرين، سأله الناس أن يزيد في مسجدهم، وشكوا إليه ضيقه يوم الجمعة حتى إنهم ليصلون في الرحاب، فشاور فيه عثمان رضي الله عنه أهل الرأي من أصحاب رسول الله، فاجتمعوا على أن يهدمه ويزيد فيه، فصلى الظهر بالناس، ثم صعد المنبر فحمد الله وأثنى عليه.
ثم قال: أيها الناس! إني قد أردت أن أهدم مسجد رسول الله صلى الله عليه وسلم وأزيد فيه، وأشهد أني لسمعت رسول الله صلى الله عليه وسلم يقول:((من بنى مسجداً، بنى الله تعالى له بيتاً في الجنة) .
وقد كان لي فيه سلفٌ وإمام عمر بن الخطاب رضي الله عنه، زاد فيه وبناه، وقد شاورت أهل الرأي من أصحاب رسول الله صلى الله عليه وسلم على هدمه وبنائه وتوسعته، فحسن الناس ذلك ودعوا له.
فأصبح فدعا العمال وباشر ذلك بنفسه، وكان رجلاً يصوم النهار