نعمة الله. فاخذ يبتعد عن التقشف الذي أرهق نفسه به عمر، فهذب من مقام الخلافة بحيث تتناسب وجلالها واتساع رقعة الدولة التي كانت تستظل بها. وخصوصا أن عماله في الأمصار - والأمويون على وجه الخصوص - كانوا يحيطون أنفسهم بأبهة الملك. فأمر فهدمت جدران الفناء في سنة ٢٤ هـ، وزاد فيه من الناحية الشمالية بقدر ٢٠ ذراعا ومن الغرب بقدر ٣٠ ذراعا، وأصبحت أبعاد البناء ١٦٠ ذراعا ١٥٠ ذراعا، ولم تمس دور الأرامل، ولم يزد شيئا من ناحية القبلة، وبنيت الحوائط من الحجر المنحوت وغطى بسقف من خشب الساح.
ولما قتل عام ٣٥ هـ (٦٥٥م) دفن بالغرفة المجاورة للغرفة التي دفن بها الرسول وصاحباه. وتولى الخلافة علي بن أبي طالب - كرم الله وجهه - ونقل مقر الخلافة إلى الكوفة في رجب سنة ٣٦ هـ، وبذا فقدت الدار أهميتها الرسمية، كما فقدتها المدينة نفسها.
ولقد عز على أهل يثرب أن ينتزع منهم مقر الخلافة، وهي التي ظلت فيهم طيلة أيام أبو بكر، وعمر، وعثمان، وان تبرحهم العزة والتكريم التي ما برحتهم منذ أن وطئت قدما الرسول الطاهرتان أرضهم، فتعلقت قلوبهم بمسجد الرسول لأن فيه قبره المشرف وقبر أبو بكر الصديق، وقبر عمر الفارون، وقبر عثمان بن عفان، ولأن هذا المسجد إنما يحمل ذكريات الرسول، فجعلوه كعبتهم، وأحاطوه بعنايتهم وتبجيلهم، وما برحوا يقيمون فيه الصلوات ويجلسون فيه إلى فقائهم، واتجهت قلوب المؤمنين في مشارق الأرض ومغاربها إلى مقام الرسول يشدون إليه الرحال للزيارة والتبريك عملا
(لا تشد الرحال إلا إلى ثلاثة: المسجد الحرام، بالحديث الشريف: والمسجد الأقصى، ومسجدي هذا).
قلنا كان عام ٥٤ هـ أقيمت ذكرى الهجرة في الفناء لأول مرة، وقد كانت حفلات ذكرى الحج تقام في قباء ومن ذلك التاريخ اصطبغ هذا المسجد بالصيغة الرسمية بدلا من مسجد قباء.
إعادة بناء المسجد:
ويذكر ابن سعد أن عبد الله بن يزيد شاهد عام ٩١ من الهجرة دور أرامل الرسول، وكانت تسعة من منزل عائشة إلى دار أسماء بنت حسن، وذكر أنه كان حاضرا أمر الخليفة