لما صار الأمر إلى أبي جعفر المنصور، كتب إلى عبد الرحمن يدعوه إلى الطاعة. فأجابه، ودعا له، ووجه إليه بهدية كان فيها بزة وكلاب، وكتب إليه:(أن أفريقية اليوم إسلامية كلها، وقد أنقطع السيئ منها) فغضب أبو جعفر المنصور وكتب إليه يتوعده. فلما وصل إليه الكتاب، غضب غضبا شديدا؛ ثم نادى (الصلاة جامعة) فاجتمع الناس؛ وخرج عبد الرحمن في مطرف خز، فصعد المنبر، فحمد الله وأثنى عليه؛ ثم أخذ في سب أبي جعفر، وقال (أني ظننت هذا الخائن يدعو إلى الحق ويقوم به، حتى تبين لي خلاف ما بايعته عليه من أقامة العدل! وأني خلعته كما خلعت نعلي هذا!) وقذفه من رجله. ثم دعا بخلع السود وأمر بتخريقها وقال:(هذا لباس أهل النار في النار!) قال الرقيق: (كان قد لبسها قبل ذلك، ودعا فيها لأبي جعفر؛ فقطعت قطعا وأحرقت.) وقال ابن القطان: كان عبد الرحمن بن حبيب يظهر الطاعة لأبي جعفر، يدعو له على المنبر، ألا إنه لم يلبس السواد، وقال:(أن هذا لباس أهل النار في النار!) ثم خلعه ونبذ طاعته. وحقق عريب أن خلعه لطاعة أبي جعفر كان في هذه السنة.
[مقتل عبد الرحمن]
كان عبد الرحمن يوجه أخاه غازيا؛ فإذا ظفر، كتب عبد الرحمن بالفاتح، ويزعم أن ابنه كان يتولى الفتوح وكان قد ولاه عهده، فعمد الياس إلى قتل أخيه عبد الرحمن، وشاور في ذلك أخاه عبد الوارث، فأجابه. ودعوا إلى ذلك قوما من أهل القيروان من العرب على أن يقتلوا عبد الرحمن ويؤمروا الياس بن حبيب، وتكون الطاعة لأبي جعفر. وكان عبد الرحمن ولى أخاه