ولما فرغ عمر من فتح إيليا وعزل الصخرة من القمامة وأبق النصارى على حالهم بأداء الجزية فسمى المسلمون كنيسة النصارى العظم عندهم قمامة تشبيهاً بالمزابل وتعظيماً للصخرة الشريفة ثم ارتحل من القدس إلى الأرض فلسطين.
وكان هذا الفتح في سنة خمسة عشر من الهجرة الشريف قاله ابن الجوزي وغيره من المؤرخين وقيل كان في سنة ستة عشر في ربيع الأول وقيل لخمس خلون من ذي القعدة والله أعلم.
ووجد على رأس بعض التصاوير التي كانت في المسجد الأقصى عقب ما استنقذه المسلمون منهم هذه الأبيات - ويقال إنها لابن ضامر الضبعي بعكا -:
أدمى الكنائس أن تكن عبث بكم … أيدي الحوادث أو تغير حال
فلطالما سجدت لكن شماس … شم الأنوف ضراغم أبطال
بعداً على هذا المصاب لأنه … يوم بيوم والحروب سجال
وروي أن أمير المؤمنين عمر لما فتح بيت المقدس وكتب كتاب الأمان والصلح وقبضوا كتابهم وأمنوا دخل الناس بعضهم في بعض وأقام عمر أياماً ثم قال لأبي عبيدة لم يبق أمير من الأمراء الأجناد غيرك إلا استزارني فقال أبو عبيدة يا أمير المؤمنين إني أخاف أن استزيرك فتعصب عينيك في بيتي قال فزرني.
فلما أتاه عمر في بيته فإذا ليس فيه شيء إلا لبد فرسه وإذا هو فراشه وسرجه وإذا هو وسادته وإذا كسر يابسة في كوة بيته فجاء بها فوضعها على الأرض بين يديه وأتاه بملح جريش وكوز خزف فيه ماء فلما نظر عمر إلى ذلك بكى ثم التزمه وقال أنت أخي وما من أحد من صحابي إلا وقد نال من الدنيا ونالت منه غيرك فقال له أبو عبيدة ألم أخبرك إنك ستعصب عينيك.
ثم إن عمر قام في الناس فحمد الله واثن عليه بما هو أهله وصلى على النبي ﷺ ثم قال يا أهل الإسلام إن الله تعالى قد صدقكم الوعد