ومات محمد بن علي في أيام الوليد بن يزيد، وأوصى إلى ولده إبراهيم بن محمد؛ فقام بأمر الشيعة، وقدّم عليهم أبو مسلم السرّاج وسليمان بن كثيّر؛ وقال لأبي مسلم:
إن استطعت أن لا تدع بخراسان لسانا عربيّا فافعل، ومن شككت في أمره فاقتله.
فلما استعلى أمر أبي مسلم بخراسان وأجابته الكور كلها، كتب نصر بن سيار إلى مروان بن محمد بخبر أبي مسلم وكثرة من تبعه، وأنه قد خاف أن يستولي على خراسان وأن يدعو إلى إبراهيم بن محمد بن علي بن عبد الله بن عباس. فأتى الكتاب مروان وقد أتاه رسول أبي مسلم بجواب إبراهيم إلى أبي مسلم؛ فكتب مروان إلى الوليد بن معاوية بن عبد الملك بن مروان وهو عامله على دمشق، أن اكتب إلى عاملك بالبلقاء ليسير إلى الحميمة فيأخذ إبراهيم بن محمد فيشده وثاقا ثم يبعث به إليك، ثم وجّهه إليّ. فحمل إلى مروان، وتبعه من أهله عبد الله ابن علي، وعيسى بن موسى؛ فأدخل على مروان، فأمر به إلى الحبس.
قال الهيثم: حدثني أبو عبيدة قال: كنت آتيه في السجن، ومعه فيه سعيد بن [هشام بن] عبد الملك، وعبد الله بن عمر بن عبد العزيز؛ فو الله إني ذات ليلة في سقيفة «١» السجن بين النائم واليقظان، إذا بمولى لمروان قد استفتح الباب ومعه عشرون رجلا من موالي مروان الأعاجم، ومعهم صاحب السجن، فأصبحنا وسعيد وعبد الله وإبراهيم قد ماتوا.
قال الهيثم: حدّثني أبو عبيدة قال: حدّثني وصيف عبد الله بن عمر بن عبد العزيز الذي كان يخدمه في الحبس: أنه غمّ «٢» عبد الله مولاه بمرفقه «٣» ، وإبراهيم بن محمد بجراب نورة «٤» ، وسعيد بن عبد الملك أخرجه صاحب السجن، فلقيه بعض حرس مروان في ظلمة الليل، فوطئته الخيل وهم لا يعرفون من هو، فمات.