سار من سليمة من عند عبيد الله داعيًا له في البلاد، وتنقلت به الأحوال إلى أن دخل المغرب، واستجاب له خلق، فظهر وحارب أمير القيروان، واستفحل أمره.
وكان من دهاة العالم، وأفراد بني آدم دهاءً ومكرًا ورأيًا، دخل إفريقية وحيدًا غريبًا فقيرًا، فلم يزل يسعى ويتحيل ويستحوذ على النفوس بإظهار الزهادة، والقيام لله، حتى تبعه خلق وبايعوه، وحاربوا صاحب إفريقية مرات، وآل أمره إلى أن تملك القيروان، وهرب صاحبها زيادة الله الأغلبي، ولما استولى على أكثر المغرب علم عبيد الله، فسار متنكرًا والعيون عليه إلى أن دخل المغرب، وما كاد، ثم أحس به صاحب سجلماسة، فقبض عليه وسجنه، فسار أبو عبد الله الشيعي بالجيوش، وحارب اليسع صاحب سجلماسة وهزمه، واستولى على سجلماسة، وجرت له أمور عجيبة، ثم أخرج عبيد الله من السجن، وقبل يديه، وسلم عليه بإمرة المؤمنين، وقال للأمراء: هذا إمامكم الذي بايعتم له، وألقى إليه مقاليد الأمور، ووقف في خدمته. ثم اجتمع بأبي عبد الله أخوه أبو العباس، وندمه على ما فعل؛ لأن المهدي أخذ يزويه عن الأمور ولا يلتفت إليه، فندم أبو عبد الله وقال للمهدي: خل يا أمير المؤمنين الأمور إلي، فأنا خبير بتدبير هذه الجيوش. فتخيل منه المهدي، وشرع يعمل الحيلة، ويسهر الليل في شأنه، وحاصل الأمر أنه دس على الأخوين الداعيين له من قتلهما في ساعة واحدة، بعد محاربةٍ جرت بينهم، وتم ملكه. وقتلا في نصف جمادى الآخرة سنة ثمانٍ وتسعين بمدينة رقادة، وكانا من أهل اليمن، ولهما اعتقاد خبيث.
ذكر القفطي في تاريخ بني عبيد أن أبا عبد الله الشيعي كوفي، وأنه رافق كتامة إلى مصر يصلي بهم ويتزهد، فمالوا إليه، فأظهر أنه يريد أن يقيم بمصر، فاغتموا لذلك، وسألوه عن سبب إقامته، فقال: أعلم الصبيان، فرغبوه في صحبتهم ليعلم أولادهم، فسار معهم إلى جبال كتامة، فأخذ في اجتلاب عقلائهم وربطها، ثم خاطب عقلاءهم واستكتمهم، فأجابوه. فمن جملة ما ربطهم قال: نزلت فيكم آية فغيرت حسدًا لكم. قالوا: وما هي؟ قال:{كُنْتُمْ خَيْرَ أُمَّةٍ أُخْرِجَتْ لِلنَّاسِ}