قال محمد بن معتمر: قلت لأبي: من فقيه العرب؟ قال: سفيان الثوري. فلما مات سفيان قلت له: من فقيه العرب؟ قال: عبد الله بن المارك.
وقال المعتد أيضاً: ما رأيت مثل ابن المبارك نصيب عنده الشيء الذي لا نصيبه عند أحد.
قال الحسن بن عيسى: اجتمع جماعة من أصحاب ابن المبارك مثل الفضل بن موسى ومخلد بن حسين ومحمد بن النضر فقالوا: تعالوا حتى نعد خصال ابن المبارك من أبواب الخير فقالوا: جمع العلم، والفقه، والأدب، والنحو، واللغة، والزهد، والشعر، والفصاحة، والورع، والإنصاف، وقيام الليل والعبادة، والحج، والغزو، والسخاء، والشجاعة، والفروسية، والشدة في بدنه، وترك الكلام فيما لا يعنيه، وقلة الخلاف على أصحابه.
وكان كثيراً ما يتمثل: الرمل
وإذا صاحبت فاصحب ما جداً ... ذا حياءٍ وعفافٍ وكرم
قوله للشيء لا إن قلت لا ... وإذا قلت نعم قال نعم
قال جعفر بن أبي عثمان الطيالسي: قلت ليحي بن معين: إذا اختلف يحيى القطان ووكيع؟ قال: القول قول يحيى.
قلت: إذا اختلف عبد الرحمن ويحي؟ قال: يحتاج من يفصل بينهما. قلت: أبو نعيم وعبد الرحمن؟ قال: يحتاج من يفصل بينهما. قلت: الأشجعي؟ قال: مات الأشجعي ومات حديثه معه. قلت: ابن المبارك؟ قال: ذلك أمير المؤمنين.
وقال عمار بن الحسن يمدح ابن المبارك: الطويل
إذا سار عبد الله من مرو ليلةً ... فقد سار منها نورها وجمالها
إذا ذكر الأخيار في كل بلدةٍ ... فهم أنجم فيها وأنت هلالها