فبثوا لعبد الرحمن الدعوة، وصادف ما كان بين اليمنية والمضرية من نهل وتقاطع، فأجمعت اليمنية على أمر بيعته، ورجع بدر بالخبر إلى عبد الرحمن، فعبر عبد الرحمن البحر سنة ١٣٨، ونزل بساحة المنكبّ (١)، فأقبل الناس على مبايعته، وما زال ينتقل في البلاد حتى انتظم له جيش عظيم، فزحف إلى "قرطبة"، ولاقاه يوسف الفهري بظاهرها.
ودارت بينهما رحى الحرب، فانهزم يوسف، ودخل عبد الرحمن القصر، وخرجت إلى عبد الرحمن زوج يوسف وابنتاه، فقلن له: يا ابن عمنا! أحسن كما أحسن الله إليك.
فقال: أفعل، ودعا بصاحب الصلاة، وكان صاحب الصلاة مولى ليوسف الفهري، وأمره بضم النساء إليه.
وخرج عبد الرحمن في ذلك اليوم، فصلى بالناس صلاة الجمعة، ووعدهم في خطبته خيراً.
ولما انهزم يوسف الفهري، توجه إلى غرناطة، واستولى عليها، فخرج عبد الرحمن في أثره، وحاصره حتى نزل على أمانه، وجاء به إلى قرطبة، وحجز عنه ولديه: عبد الرحمن، ومحمداً، وأبقاهما عنده كِرهانٍ حتى لا ينقض العهد.
ثم إن يوسف الفهري غمر، فخرج هارباً من قرطبة حتى أتى؛ "طليطلة" ليعيد الكرة على عبد الرحمن، فاغتاله أحد أصحابه.
وكان من عبد الرحمن أن عاد إلى قرطبة، واشتد في عقوبة ولدي يوسف