غير أن الشتاء دخل فعاد إلى المغرب بعد أن ترك فى الأندلس حامية. وسرعان ما دبّ الشقاق بين أمراء الطوائف فجاز يوسف إلى الأندلس مرة ثالثة سنة ٨٤٣ مصمما- بمشورة الفقهاء الأندلسيين-على إنهاء حكم هؤلاء الأمراء، واستسلم له سريعا أمير غرناطة، واضطر إلى العودة إلى المغرب وترك لصهره سير بن أبى بكر تنفيذ الخطة، فاستنزلهم جميعا ومن أبى أخذه أسيرا مثل المعتمد بن عباد الذى نفى إلى أغمات بالمغرب، أو قتله بعد حصاره مثل المتوكل صاحب بطليوس. وبذلك أظلّ حكم ابن تاشفين الأندلس ما عدا سرقسطة، فإنه تركها لبنى هود لتكون حاجزا بين الأندلس ونصارى الشمال، وعبر إلى الأندلس مرة رابعة سنة ٤٩٠ لأخذ البيعة لابنه على وتوفى سنة ٥٠٠ للهجرة.
وتولى على ابنه الحكم بعده فحاول الاقتداء بأبيه فى الجهاد فعبر إلى الأندلس سنة ٥٠١ ووجه أخاه تميما بجيش إلى أقليش شرقى طليطلة، والتقى بألفونس وأوقع به هزيمة ساحقة قتل فيها ولى عهده-وكان ابنه الوحيد-فتوفى متأثرا بفقده، واستولى تميم على أقليش وشنتبريّة. وفى سنة ٥٠٣ غزا جيش للمرابطين أراضى طليطلة واستولى على طلبيرة غربيها، واستعاد المرابطون جزائر البليار سنة ٥٠٩. وكان على بن يوسف قصير النظر فحاول أخذ سرقسطة من بنى هود، واستولى عليها كما مر بنا، وسرعان ما أخذها منه النصارى سنة ٥١٢. واشتبك المرابطون سنة ٥١٤ مع ألفونس الأول ملك أراجون فى معركة بكتندة ولم يكتب لهم النصر. وفى سنة ٥١٩ استدعى المعاهدون من نصارى غرناطة ألفونس الأول للاستيلاء على بلدهم فاندفع إلى الجنوب، وردّه المرابطون على أعقابه، وأجلوا عن غرناطة من كانوا سببا فى استدعائه من النصارى إلى سلا ومكناسة بمراكش. وفى سنة ٥٢٨ وجه على بن يوسف جيشا بقيادة يحيى بن غانية والى بلنسية ومرسية إلى إفراغة شرقى سرقسطة، ولقى جيشا لألفونس ملك أراجون فمزقه شر ممزّق. وتوفى على بن يوسف بن تاشفين أمير المرابطين سنة ٥٣٧ وخلفه ابنه تاشفين وكان ضعيفا مما آذن بنهاية تلك الدولة.
وقد حمل كثير من المستشرقين فى مقدمتهم دوزى وبروقنسال على تلك الدولة زاعمين أنها كانت دولة بدو جفاة لا عهد لهم بالحضارة، وفاتهم أن أهل المغرب اعتنقوا الدين الحنيف من قديم وأخذوا بقسط من حضارته الإسلامية وكل ما اتصل بها من علوم وآداب، فليس بصحيح أنهم كانوا بدوا جفاة وقد فتح سلاطينهم أبوابهم فى مراكش للعلماء والشعراء الأندلسيين واختاروا لرياسة دواوينهم فى حاضرتهم أبا بكر بن القصيرة كبير