سمع الحديث من عبد الغافر الفارسي، وكريمة المروذيّة، وأبي صالح المؤذّن، وأبي القاسم القشيريّ، وغيرهم.
روى عنه بالإجازة ابن السّمعاني، وغيره.
قال عبد الغافر: كان نحرير وقته في فنه، زاهدا ورعا صوفيا، من بيت صلاح. وتصوف وتزهد.
وصحب الأستاذ أبا القاسم القشيريّ مدة، وحصّل عليه من العلم طرفا صالحا، ثم سافر الحجاز، وعاد إلى بغداد، ثم قدم الشام فصحب المشايخ وزار المشاهد، ثم عاد إلى نيسابور واستأنف تحصيل الأصول على الإمام.
قال: وكانت معرفته فوق لسانه، ومعناه أكثر من ظاهره، وكان ذا قدم في التصوف والطريقة، عفّا في مطعمه، يكتسب بالوراقة، ولا يخالط أحدا، ولا يباسطه في مقعد دنيوي، وأقعد في خزانة الكتب بنظامية نيسابور اعتمادا على دينه، وأصابه في آخر عمره ضعف في بصره، ويسير وقر في أذنه.
وقال أبو نصر عبد الرحمن بن محمد الخطيبيّ: سمعت محمود بن أبي توبة الوزير يقول: مضيت إلى باب بيت أبي القاسم الأنصاريّ فإذا الباب مردود وهو يتحدث مع واحد، فوقفت ساعة وفتحت الباب فما كان في الدار غيره، فقلت: مع من كنت تتحدث؟ فقال كان هنا واحد من الجن كنت أكلّمه.
قال ابن السمعانيّ: أجاز لي مرويّاته، وسمعت محمد بن أحمد النّوقانيّ يقول: سمعت أبا القاسم الأنصاريّ يقول: كنت في البادية فأنشدت: