روى عنه ابن صاعد، وأبو علي الحافظ، وأبو محمد المخلدي، وأبو إسحاق المزكي، وأبو بكر الجوزقي، وأبو سعد عبد الرحمن بن محمد الإدريسي، وخلق سواهم.
قال الحاكم: كان من أئمة المسلمين، ورد نيسابور وهو متوجه إلى بخارى، فروى عنه الحفاظ. وسمعت الأستاذ أبا الوليد حسان بن محمد يقول: لم يكن في عصرنا من الفقهاء أحفظ للفقهيات وأقاويل الصحابة بخراسان من أبي نعيم الجرجاني، ولا بالعراق من أبي بكر بن زياد النيسابوري. قال: وسمعت أبا علي الحافظ يقول: كان أبو نعيم الجرجاني أحد الأئمة، ما رأيت بخراسان بعد ابن خزيمة مثله أو أفضل منه، كان يحفظ الموقوفات والمراسيل كما نحفظ نحن المسانيد.
وقال أبو سعد الإدريسي: ما أعلم نشأ بإستراباذ مثله في حفظه وعلمه.
وقال الخطيب: كان أحد الأئمة، ومن الحفاظ لشرائع الدين مع صدق وتيقظ وورع.
وقال حمزة السهمي: كان مقدما في الفقه والحديث، وكانت الرحلة إليه، ولد سنة اثنتين وأربعين ومائتين.
أخبرنا أحمد ابن عساكر، عن المؤيد الطوسي قال: أخبرنا أحمد بن سهل المساجدي قال: أخبرنا يعقوب بن أحمد الفقيه قال: حدثنا الحسن بن أحمد المخلدي قال: حدثنا أبو نعيم بن عدي قال: حدثنا عمر بن شبة قال: حدثنا عبد الوهاب الثقفي قال: حدثنا أيوب، عن أبي قلابة، عن أنس قال:«أمر بلال أن يشفع الأذان ويوتر الإقامة».