(٢) لم يحدث أبو بكر الصديق شيئا في المسجد بعد النبي - صلى الله عليه وسلم - وقام عمر الفاروق رضي الله عنه فضم إليه بيت العباس، وقد وهب العباس داره للمسجد، أما عثمان الغني رضي الله عنه فقد بناه بالحجارة وجعل أعمدته من الحجارة وسقفه من الساج، (البخاري باب بنيان المسجد) وجعل أرضيته من حصباء العقيق. وأول من اتخذ فيه المقصورة مروان بن الحكم في عهده وجصص عليها، وقام الوليد ابن عبد الملك في عهد إمارة عمر بن عبد العزيز على المدينة بإعادة بناء المسجد من جديد، وأرسل من الروم والقبط من مصر والشام ثمانين مهندسا، وكان البناء من حجر الرمر، وزاد على البناء السابق قليلا، واكتمل سنة ٧هـ أو ٨٨هـ وقام المهدي العباسي بزيادة مساحة المسجد.