إحدى وخمسمائة وسمع حضورًا باعتناء أبيه، ثم سمع الكثير ورحل وعني بهذا الشأن، وحضوره عند أبي سعيد المطرز وهو ابن سنتين، وسمع من أبي منصور محمد بن عبد الله بن مندويه وغانم البرجى وأبي علي الحداد وأبي الفتح محمد بن عبد الله بن خوردست ومحمد بن عبد الله الشرابي بليزة وأبي الرجاء محمد بن أبي زيد ومحمد بن طاهر المقدسي الحافظ وأبي زكريا بن منده وهبة الله بن الحسن الأبرقوهي وهبة الله بن الحصين البغدادي وطبقتهم وتخرج بأبي القاسم التيمي وغيره؛ له التصانيف النافعة الكثيرة والمعرفة التامة والرواية الواسعة انتهى إليه تقدم في هذا الشأن مع علو الإسناد؛ حدث عنه أبو سعد السمعاني وأبو بكر محمد بن موسى الحازمي وعبد الغني بن عبد الواحد وعبد القادر بن عبد الله الرهاوي ومحمد بن مكي الأصبهاني وأبو نجيح محمد بن معاوية المقرئ والناصح عبد الرحمن بن الحنبلي وآخرون، وروى عنه بالإجازة عبد الله بن بركات الخشوعي وطائفة.
قال الدبيثي: عاش أبو موسى حتى صار أوحد وقته وشيخ زمانه إسنادًا وحفظًا. قال السمعاني: سمعت منه وكتب عني، وهو ثقة صدوق. وقال عبد القادر: حصل من المسموعات بأصبهان ما لم يحصل لأحد في زمانه وانضم إلى ذلك الحفظ والإتقان، وله التصانيف التي أربى فيها على المتقدمين مع الثقة والعفة له شيء يسير يترقح به وينفق منه ولا يقبل من أحد شيئًا قط، أوصى إليه غير واحد بمال فرده ويقال له: فرقه على من ترى، فيمتنع. وكان فيه من التواضع بحيث إنه يقرئ الصغير والكبير ويرشد المبتدئ، رأيته يحفظ الصبيان القرآن في الألواح، وكان يمنع من يمشي معه فعلت ذلك مرة معه فزبرني، وترددت إليه نحوًا من سنة ونصف فما رأيت منه ولا سمعت عنه سقطة تعاب عليه، وكان أبو مسعود كوتاه يقول: أبو موسى كنز مخفي.
ومن تصانيفه: كتاب "معرفة الصحابة" الذي استدرك به على أبي نعيم الحافظ، وكتاب "الطوالات" جودها ولم يسبق إلى مثلها مع كثرة ما فيها من الواهي والموضوع، وكتاب "تتمة الغريبين" يدل على براعته في لسان العرب، وكتاب "اللطائف"، وكتاب "عوالي التابعين"، وأشياء وفنون وقد عرض من حفظه كتاب "علوم الحديث" للحاكم على إسماعيل الحافظ.
قال الحسين بن بوحز الباوري: كنت في مدينة الخان فسألني سائل عن رؤيا فقال: رأيت كأن رسول الله -صلى الله عليه وآله وسلم- توفي؛ فقلت: إن صدقت رؤياك يموت إمام لا نظير له في زمانه، فإن مثل هذا المنام رئي حال وفاة الشافعي والثوري وأحمد بن حنل. قال: فما أمسينا حتى جاءنا الخبر بوفاة الحافظ أبي موسى. وعن عبد الله بن محمد