وكان يتولى مقاسمة اليهود عبد الله بن رواحة أولا، فلما استشهد رضى الله تعالى عنه، تولاها جبار بن صخر، واستمر طول حياة رسول الله صلى الله تعالى عليه وسلم.
فلما انتقل رسول الله صلى الله تعالى عليه وسلم إلى الرفيق الأعلى نفذ أبو بكر ما كان يفعله رسول الله صلى الله تعالى عليه وسلم، ثم لما توفى الصديق نفذ عمر شطرا من إمارته ما كان يفعله النبى صلى الله تعالى عليه وسلم ثم بدا له أن يخرج الأرض من أيدى اليهود، ويعطيها ذوى السهام فيها. وذلك لأمرين: أولهما أنهم قتلوا فى عهد النبى صلى الله تعالى عليه وسلم رجلا أنصاريا، وهو عبد الله بن سهل وكان قد خرج فى أصحاب له يمتارون تمرا فانفرد عنهم، ووجد فى عين قد دقت ثم طرح فيها فأخذوه وأخفوه، ثم قدموا على رسول الله صلى الله تعالى عليه وسلم، وأقام رسول الله صلى الله تعالى عليه وسلم القسامة، واتهمهم من بعد ذلك عمر فى عهده بأنهم قتلوه.
واعتدوا ثانية فى عهد عمر على عبد الله بن عمر فقد خرج هو والزبير بن العوام والمقداد بن الأسود إلى أموال المسلمين بخيبر يتعهدونها، وتفرقوا فى الأموال فقدعوا يديه (أى خلعوا أى أزيلت عن مفاصلها، وأصلح زملاؤه يده) .
فلما حضر إلى أمير المؤمنين فقال هذا عمل يهود، ثم قام فى الناس خطيبا، فقال:
«أيها الناس، إن رسول الله صلى الله تعالى عليه وسلم، كان قد عامل يهود خيبر على أنا نخرجهم إذا شئنا، وقد عدوا على عبد الله بن عمر فقدعوا يديه، كما بلغكم مع عدوكم على الأنصارى قبله، لا شك أنهم أصحابه ليس هناك عدو غيرهم. فمن كان له مال بخيبر فليلحق به، فإنى مخرج يهود» .
وهذا مؤداه أنهم أصبحوا غير أمناء على المؤمنين، وقد ارتبطوا معهم بعلاقة المزارعة فكانوا يعاملونهم معاملة عدو، لا معاملة معاون.
الأمر الثانى الذى أوجب على عمر أن يخرجهم وخصوصا بعد ما أظهروا عداوتهم وحقدهم، أنه علم أن رسول الله صلى الله تعالى عليه وسلم قال «لا يصبحن بجزيرة العرب دينان» ، فكان لا بد من إجلائهم، فدعاهم إلى الجلاء، وقال: من كان عنده عهد من رسول الله صلى الله تعالى عليه وسلم، فليتجهز للجلاء. وإذا كان بقاؤهم فى الأرض فقد كان بالمشيئة وليس عودا دائما. وقد خصص النبى صلى الله تعالى عليه وسلم لكل ذى سهم دائم جزآ من الأرض يجمع شطر ثماره، فلما أجلى سيدنا عمر رضى الله عنه اليهود، قال لأصحاب النبى صلى الله تعالى عليه وسلم «أيها الناس إن رسول الله صلى الله تعالى عليه وسلم عامل يهود خيبر على أن يخرجهم إذا شاء، فمن كان له مال فليلحق به.