فكتب أبو مسلم إلى أبي العباس: إن الطريق السهل إذا ألقيت فيه الحجارة فسد، ولا والله لا صلح طريق فيه ابن هبيرة.
وألح أبو العباس على أبي جعفر يأمره بقتل ابن هبيرة، وهو يراجعه حتى كتب إليه: والله لتقتلنه أو لأرسلن إليه من يخرجه من حجرتك، ثم يتولى قتله، فأزمع على قتله، وطلب من معه فجمعهم وانطلق خازم، والهيثم بن شعبة والأغلب بن سالم في نحو مئة، فأرسلوا إلى ابن هبيرة إنا نريد حمل المال، فقال ابن هبيرة لحاجبه: يا أبا عثمان دلهم عليه، فأقاموا عند كل بيت نفراً، ثم جعلوا ينظرون في نواحي الدار ومع ابن هبيرة، ابنه داود، وكاتبه عمرو بن أيوب، وحاجبه، وعدة من مواليه، وبني له صغير في حجره، فجعل ينر نرهم فقال: أقسم بالله إن في وجوه القوم لشراً، فأقبلوا نحوه، فقام حاجبه في وجوههم فقال: وراءكم، فضربه الهيثم بن شعبة على حبل عاتقه فصرعه، وقاتل ابنه داود، فقتل، وقتل مواليه، ونحى الصبي من حجره، وقال: دونكم هذا الصبي، وخر ساجداً، فقتل وهو ساجد، ومضوا برؤوسهم إلى أبي جعفر. وقال أبو عطاء السندي:
ألا إن عيناً لم تجد يوم واسط ... عليك بجاري دمعها لجمود
عشية قام النائحات وصفقت ... خدود بأيدي مأتم وخدود
فإن تمس مهجور الفناء فربما ... أقام به بعد الوفود وفود
وإنك لم تبعد على متعهد ... بلى كل من تحت التراب بعيد