وبويع أبو العباس السفاح، في شهر ربيع الآخر من سنة اثنتين وثلاثين ومائة، بالكوفة. فسير عبد الله بن علي بن عبد الله بن العباس، في جمع عظيم، للقاء مروان بن محمد، وكان مروان في جيوش كثيفة، فالتقيا بالزاب من أرض الموصل، في جمادى الآخرة من سنة اثنتين وثلاثين ومائة. فهزم مروان واستولى على عسكره، وسار مروان منهزماً حتى عبر الفرات من جسر منبج فأحرقه.
فلما مر على قنسرين وثبت به طيء وتنوخ، واقتطعوا مؤخر عسكره ونهبوه، وقد كان تعصب عليهم، وجفاهم أيام دولته، وقتل منهم جماعة.
وتبعه عبد الله بن علي، وسار خلفه، حتى أتى منبج، فنزلها. وبعث إليه أهل حلب بالبيعة مع أبي أمية التغلبي.
وقدم عليه أخوه عبد الصمد بن علي، فقلده حلب وقنسرين. وسار عبد الله وعبد الصمد أخوه معه إليها، فبايعه أبو الورد مجزاة، بن الكوثر بن زفر الحارث الكلابي وكان من أصحاب مروان ودخل فيما دخل فيه الناس من الطاعة.
وسار عبد الله إلى دمشق، ثم بلغ خلفه إلى نهر أبي فطرس، وأتبعه بأخيه