فدخل عليه فجعل يعاتبه في أشياء صدرت منه فيعتذر عنها جيدا، حتى قال له: فلم قتلت سليمان بن كثير، وإبراهيم بن ميمون، وفلانا وفلانا؟ قال: لأنهم عصوني وخالفوا أمرى. فغضب عند ذلك المنصور وقال: ويحك! أنت تقتل إذا عصيت، وأنا لا أقتلك وقد عصيتني وصفق بيديه وكانت الإشارة بينه وبين المرصدين لقتله -، فتبادروا إليه ليقتلوه فضربه أحدهم فقطع حمائل سيفه، فقال: يا أمير المؤمنين استبقني لأعدائك، فقال: وأي عدوّ لي أعدى منك. ثم زجرهم المنصور فقطعوه قطعا ولفوه في عباءة، ودخل عيسى بن موسى على إثر ذلك فقال: ما هذا يا أمير المؤمنين؟ فقال: هذا أبو مسلم، فقال: ﴿إِنّا لِلّهِ وَإِنّا إِلَيْهِ راجِعُونَ،﴾ فقال له المنصور: احمد الله الّذي هجمت عليّ نعمة، ولم تهجم عليّ نقمة، ففي ذلك يقول أبو دلامة: -
أبا مسلم ما غير الله نعمة … على عبده حتى يغيرها العبد
أبا مسلم خوفتني القتل فانتخى … عليك بما خوفتني الأسد الورد
وذكر ابن جرير أن المنصور تقدم إلى عثمان بن نهيك وشبيب بن واج، وأبى حنيفة حرب بن قيس وآخر من الحرس أن يكونوا قريبا منه، فإذا دخل عليه أبو مسلم وخاطبه وضرب بإحدى يديه على الأخرى فليقتلوه. فلما دخل عليه أبو مسلم قال له المنصور: ما فعل السيفان اللذان أصبتهما من عبد الله بن على؟ فقال: هذا أحدهما. فقال: أرنيه، فناوله السيف فوضعه تحت ركبته ثم قال له:
ما حملك على أن تكتب لأبى عبد الله السفاح تنهاه عن الموات، أردت أن تعلمنا الدين؟ قال: إنني ظننت أن أخذه لا يحل، فلما جاءني كتاب أمير المؤمنين علمت أنه وأهل بيته معدن العلم. قال:
فلم تقدمت على في طريق الحج؟ قال: كرهت اجتماعنا على الماء فيضر ذلك بالناس، فتقدمت التماس الرّفق. قال: فلم لا رجعت إليّ حين أتاك خبر موت أبى العباس؟ قال: كرهت التضييق على الناس في طريق الحج، وعرفت أنا سنجتمع بالكوفة، وليس عليك منى خلاف. قال: فجارية عبد الله بن على أردت أن تتخذها لنفسك؟ قال: لا! ولكن خفت أن تضيع فحملتها في قبة ووكلت بها من يحفظها. ثم قال له: ألست الكاتب إليّ تبدأ بنفسك والكاتب إلى تخطب آمنة بنت على؟ وتزعم أنك ابن سليط بن عبد الله بن عباس؟ هذا كله ويد المنصور في يده يعركها ويقبلها ويعتذر، ثم قال له: فما حملك على مراغمتى ودخولك إلى خراسان؟ قال: خفت أن يكون دخلك منى شيء فأردت أن أدخل خراسان وأكتب إليك بعذري. قال: فلم قتلت سليمان بن كثير وكان من نقبائنا ودعاتنا قبلك؟ قال: أراد خلافي. فقال: ويحك وأنت أردت خلافي وعصيتني، قتلني الله إن لم أقتلك.
ثم ضربه بعمود الخيمة وخرج إليه أولئك فضربه عثمان فقطع حمائل سيفه، وضربه شبيب فقطع رجله، وحمل عليه بقيتهم بالسيوف، والمنصور يصيح: ويحكم اضربوه قطع الله أيديكم. ثم ذبحوه