ولما وصف أحمد بن حنبل رحمه الله عبد الله بن المبارك قال: ما رفعه الله إلا بخبيئة كانت له.
كان يخفي أعماله الصالحة؛ فرفع الله قدره، وكانوا في جميع الميادين من الحريصين على إخفاء الأعمال.
قال عبدة بن سليمان المروزي: كنا في سرية مع عبد الله بن المبارك لبلاد الروم فصادفنا العدو، فلما التقى الصفان خرج رجل من العدو ودعا إلى المبارزة، فخرج إليه رجل من المسلمين قد تلثم فلا يعرف، فطارده ساعة فطعنه فقتله، ثم خرج من الكفار رجل آخر ودعا إلى المبارزة فخرج له نفس الرجل من المسلمين فطارده ساعة فطعنه فقتله، فازدحم عليه المسلمون يريدون معرفة شخصيته، وكنت فيمن ازدحم عليه، فإذا هو ملثم وجهه بكمه، فأخذت بطرف كمه فمددته؛ فإذا هو عبد الله بن المبارك، فقال ابن المبارك لهذا الذي كشف وجهه: وأنت يا أبا عمر ممن يشنع علينا؟! قالها تواضعاً لله تعالى.
وقال عبد الله بن سنان: كنت مع ابن المبارك ومعتمر بن سليمان بـ طرسوس فصاح الناس: النفير، فخرج ابن المبارك والناس، فلما اصطف الجمعان خرج رومي فطلب المبارزة، فخرج إليه رجل فشد العلج عليه فقتله -قتل المسلم- حتى قتل ستة من المسلمين، وجعل يتبختر بين الصفين يطلب المبارزة، ولا يخرج إليه أحد، فالتفت إلي ابن المبارك فقال: يا فلان! إن قتلت فافعل كذا وكذا، وذكر له وصيته، ثم حرك دابته وبرز للعلج فعالج معه ساعة فقتل العلج وطلب المبارزة، فبرز له علج آخر فقتله حتى قتل ستة علوج، ستة بستة، وطلب البراز فكأنهم كاعوا عنه -جبنوا وخافوا- فضرب دابته وطرد بين الصفين وغاب عن الأنظار فلم نشعر بشيء، وإذا أنا به في الموضع الذي كان بجانبي فقال لي: يا عبد الله! لئن حدثت بهذا أحداً وأنا حي فذكر كلمة، أنه توعده بشيء عظيم لو نشر هذه القصة وعبد الله بن المبارك حي، فرفع الله ذكره، وهذه سيرته منشورة وقصصه سائرة رحمه الله تعالى بسبب صدقه وإخلاصه وإخفائه للعمل.