لما قدم كعب الأحبار إلى المدينة في عهد عم بن الخطاب مظهراً إسلامه أخذ يعمل في دهاء ومكر لما اسلم من أجلهن وكان مما وجه غليه همه أن يفتري الكذب على النبي صلوات الله عليه ولكن عمر فطن لكيده فنهاه عن الروية عن النبي وتوعده أن يلحقه بأرض القردة
وعلى أن عمر قد ظل يرقب هذا الداهية بحزمة وحكمته وينفذ إلى أغراضه الخبيثة بنور بصيرته كما سترى في قصة الصخرة فإن شدة دهاء هذا الرجل اليهودي قد تغلبت على فطنة عمر ويقظته فظل يعمل بكيده في السر والعلن إلى أن قتل عمر، ومن ثم انفجر بركانه بالخرافات والأساطير التي لم يسلم منها كتاب في التفسير والحديث والتاريخ
قصة الصخرة
لما افتتحت إيلياء في عهد عمر في سنة ١٦هـ ودخل عمر بيت المقدس وجد على الصخرة زبالة عظيمة كان النصارى من الروم قد ألقتها عليها معاندة لليهود الذي يعظمون الصخرة ويصلون إليها، فأخذ عمر ومن معه في تنظيفها، وبينما هم في عملهم إذ سمع عمر تكبيراً من خلفه فقال ما هذا؟ فقالوا: كبر كعب وكبر الناس بتكبيره! فقال علي به. فقال يا أمير المؤمنين أنه قد تنبأ على ما صنعت اليوم نبي منذ خمسمائة سنة!! قال وكيف؟ قال: إن الروم أغاروا على بني إسرائيل فأديلوا عليهم فدفنوه. . . إلى أن وليت - فبعث الله نبيا على الكنانة فقال ابشري أو يرى شلم عليك الفاروق ينقيك مما فيك
ولما فرغوا من نظيف الصخرة قال عمر لكعب: أين ترى أن ابني مصلى المسلمين؟ فقال: ابنه خلف الصخرة - أي أن تكون الصخرة قبلة - فقال له عمر: ضاهيت والله اليهودية يا كعب. وفي رواية أخرى، خالطتك يهودية يا ابن اليهودية وقد رأيتك وخلفك نعليك!! أبنية في صدر المسجد. فبناه في قبلي المسجد - وهو الذي يسميه كثير من العامة اليوم الأقصى، والأقصى اسم للمسجد كله