بتحول الإمبراطورية الرومانية إلى المسيحية في القرن الرابع، وبعد بعث الزرادشتية في الإمبراطورية الفارسية في القرن الثاني والتي حل الإسلام محلها، وجد اليهود أنفسهم جماعات دينية إثنية في بلاد تحكمها حكومات تستمد شرعيتها من ديانات متعارضة مع اليهودية. وتولت القيادات الدينية قيادة اليهود، بالاشتراك مع الأثرياء منهم، فكانت هذه النخبة تضطلع بأعباء دنيوية ودينية مختلفة، شأنها في ذلك شأن أعضاء الطوائف والجماعات الأخرى غير اليهودية. وقد تَحدَّد وضع اليهود في العصور الوسطى في الغرب كأقنان بلاط يعملون أساساً بالتجارة والربا. أما في العصر الإسلامي الأول، فقد كان اليهود أهل ذمة يعملون بالتجارة وبوظائف أخرى عديدة. ومعنى هذا أن الجماعات اليهودية تحولت إلى جماعات وظيفية. ولكن، نظراً لوجود طبقة مهمة من التجار المسلمين، لم يكتسب اليهود القدر نفسه من التميز الوظيفي الذي اكتسبوه في الغرب. كما أن يهود العالم الإسلامي كانوا يتَّسمون بقسط كبير من التجانس والوحدة استمدوهما من وحدة الحضارة الإسلامية في عصرها الأول. وهذا على خلاف الجماعات اليهودية في الغرب، حيث كانت تتسم بالاختلاف وعدم التجانس بسبب انقسام أوربا في العصر الوسيط إلى وحدات إقطاعية متنافرة مختلفة. وشهدت هذه المرحلة سيطرة التلمود بصفته كتاباً مقدَّساً لدى اليهود يفوق في أهميته التوراة ذاتها. كما بدأت تظهر الحركات والكتب الصوفية الحلولية الكمونية التي استشرت بين اليهود في مرحلة لاحقة. وشهد العالم الإسلامي ظهور أول حركات الاحتجاج على اليهودية الحاخامية وهي حركة القرّائين.