قدم الرشيد هارون أمير المؤمنين الرقة فانجفل الناس خلف عبد الله بن المبارك، وتقطعت النعال، وارتفعت الغبرة، فأشرفت أم ولد لأمير المؤمنين من برج من قصر الخشب. فلما رأت الناس قالت: ما هذا؟ قالوا: عالم من أهل خراسان قدم الرقة يقال له عبد الله بن المبارك، فقالت: هذا والله الملك، لا ملك هارون الذي لا يجمع الناس إلا بشرط وأعوان.
قال عبدة بن سليمان: كنا في سرية مع عبد الله بن المبارك في بلاد الروم فصادفنا العدو. فلما التقى الصفان خرج رجل من العدو، فدعا إلى البراز، فخرج إليه رجل فقتله، ثم آخر فقتله ثم آخر فقتله. ثم دعا إلى البراز، فخرج إليه رجل فطارده ساعة فطعنه، فقتله، فازدحم إليه الناس. فكنت فيمن ازدحم إليه وهو يلثم وجهه بكمه، فأخذت بطرف كمه فمددته، فإذا هو عبد الله بن المبارك، فقال: وأنت يا أبا عمرو ممن يشنع علينا؟! قال محمد بن إبراهيم بن أبي سكينة: أملى علي عبد الله بن المبارك هذه الأبيات بطرسوس، وودعته للخروج وأنفذها معي لفضيل بن عياض في سنة سبعين ومئة. وقيل: في سنة سبع وسبعين: الكامل
يا عابد الحرمين لو أبصرتنا ... لعلمت انك في العبادة تلعب
من كان يخضب خده بدموعه ... فنحورنا بدمائنا تتخضب
أو كان يتعب خيله في باطلٍ ... فخيولنا يوم الصبيحة تتعب