ولما عزم المنصور عل مقاتلته ومحاربته، أعطى جنوده، وحشد حشوده، وخرج إليه في العساكر. فمرت الهزيمة على أبي يزيد. وأمر إسماعيل الناس باتباعه إلى أن دخل بلاد كتامة. فتعلق بالجبل المعروف بحصن أبي يزيد، وأثخن بالجراح، وقبض عليه حيا، فجعل في قفص من حديد، وجيء به إلى المنصور إلى المهدية، فقتله، وصلبه على باب الذي ضرب فيه برمحه. قال القضاعي: مات أبو يزيد في محرم من سنة ٣٣٦ المذكورة. قال: وأمر بسلحه وحشي جلده قطنا، وصلبه. وقال أبو حمادة: ولما ظفر بأبي يزيد، نهض إلى القيروان، فدخلها في هذه السنة، فقتل من أهلها خلقا، وعذب آخرين، ولم يزالوا معه في الامتحان إلى أن هلك، قال القضاعي: وكان انتقال المنصور إلى المنصورية في سنة ٣٣٧.
وفي سنة ٣٣٩، تحرك أبو الطاهر المنصور بن أبي القاسم بن عبيد الله الشيعي إلى بلاد المشرق، ورد الحجر الأسود إلى مكانه من الركن من بيت الله الحرام، وذلك بعد خمسة أعوام من دولة المطيع. وكان الذي اقتلعه سليمان ابن الحسن القرمطي - لعنه الله - وفي سنة ٣١٧ في أيام المقتدر العباسي - رحمه الله - والذي تولى قلعه بيده بأمر القرمطي جعفر بن أبي علا - لعنه الله - ولما مات القرمطي، وجه إخوته الحجر، فرد إلى موضعه في هذه السنة، ووضعه بيده الحسين بن المروذي الكناني وكان غينه الحجر من يوم قلعه إلى يوم رده اثنين وعشرين سنة أو نحوها. ورأى الحجر الأسود، في أيام ابن الزبير، ناصع البياض إلا وجه الظاهر. وكان اسوداده من لطخ المشركين له بدم القرابين، ولمسهم له بأيديهم، مع طول الدهر. قال الذهبي: حضرت يوم قلعه. يوم رده.