قال محمد بن منصور الطوسي كنا عند معروف الكرخي وجاءت امرأة سائلة فقالت اعطوني شيئا افطر عليه فاني صائمة فدعاها معروف وقال لها يا اختي سر الله افشيته وتأملين ان تعيشي إلى الليل؟.
وعن يحيى بن جعفر قال رأيت معروفاً الكرخي يؤذن فلما قال اشهد ان لا اله إلا الله رأيت شعر لحيته وصدغيه قائماً كأنه زرع.
وعن عيسى أخي معروف قال دخل رجل على معروف في مرضه الذي مات فيه فقال يا أبا محفوظ أخبرني عن صومك قال كان عيسى عليه السلام يصوم كذا قال أخبرني عن صومك قال كان داود عليه السلام يصوم كذا. قال أخبرني عن صومك قال كان النبي صلى الله عليه وسلم يصوم كذا قال أخبرني عن صومك قال اما أنا فكنت أصبح دهري كله صائما فان دعيت إلى الطعام أكلت ولم اقل اني صائم.
وعن أحمد بن عبد الله بن ميمون قال كان معروف الكرخي يضرب نفسه ويقول يا نفس كم تبكين اخلصي وتخلصي.
وعن عمرو بن موسى قال سمعت معروفا يقول وعنده رجل يذكر رجلاً فجعل يغتابه فجعل معروف يقول له اذكر القطن إذا وضعوه على عينيك اذكر القطن إذا وضعوه على عينيك.
وقال سري سألت معروفاً عن الطائعين لله باي شيء قدروه على الطاعة لله عز وجل قال بخروج الدنيا من قلوبهم ولو كانت في قلوبهم ما صحت لهم سجدة.
وعن القاسم بن نصر قال جاء قوم إلى معروف فاطالوا عنده الجلوس فقال اما تريدون ان تقوموا وملك الشمس ليس يفتر عن سوقه؟
وعن محمد بن حماد بن المبارك قال قال رجل لمعروف أوصني قال توكل على الله حتى يكون جليسك وانيسك وموضع شكواك واكثر ذكر الموت حتى لا يكون لك جليس غيره واعلم ان الشفاء لما نزل بك كتمانه وان الناس لا ينفعونك ولا يضرونك ولا يعطونك ولا يمنعونك.
وعن القاسم بن محمد البغدادي قال كنت جار معروف الكرخي فسمعته في السحر ينوح ويبكي وينشد:
أي شيء تريد مني الذنوب ... شغفت بي فليس عني تغيب
ما يضر الذنوب لو اعتقتني ... رحمة لي فقد علاني المشيب