وكان قواد الأندلس وجندها موالي بني أمية، فبعث إلى قائد، فأعلمه بشأنه، فقبل يديه وفرح به، وجعله عنده، ثم قال: جاء الذي كنا نتحدث أنه إذا انقرض ملك بني أمية بالمشرق، نبغ منهم عبد الرحمن بالمغرب، ثم كتب إلى الموالي، وعرفهم، ففرحوا وأصفقوا على بيعته، واستوثقوا من أمراء العرب، وشيوخ البربر، فلما استحكم الأمر، أظهروا بيعته بعد ثمانية أشهر، وذلك في ربيع الآخر سنة ثمان وثلاثين ومائة، فقصد قرطبة، ومتولي الأندلس يومئذ: يوسف الفهري، فاستعد جهده، فالتقوا، فانهزم يوسف، ودخل عبد الرحمن بن معاوية الداخل قصر قرطبة يوم الجمعة، يوم الأضحى من العام، ثم حاربه يوسف ثانيا، ودخل قرطبة، واستولى عليها، وكر عبد الرحمن عليه، فهرب يوسف والتجأ إلى غرناطة، فامتنع بإلبيرة، فنازله عبد الرحمن وضيق عليه، ورأى يوسف اجتماع الأمر للداخل، فنزل بالأمان بمحضر من قاضي الأندلس يحيى بن يزيد التجيبي، وكان رجلا صالحا، استعمله على القضاء عمر بن عبد العزيز، فزاده الداخل إجلالا وإكراما، فبقي على قضائه إلى أن مات سنة اثنتين وأربعين ومائة، فاستعمل على القضاء معاوية بن صالح، فلما أراد معاوية هذا، الحج، وجهه الداخل إلى أختيه بالشام، وعمته رملة بنت هشام، ليعمل الحيلة في إدخالهن إلى عنده، وأنشد عند ذلك: