روى عَنهُ الْخَطِيب وَهُوَ أكبر مِنْهُ وَأَبُو المظفر السَّمْعَانِيّ وَمُحَمّد بن طَاهِر الْمَقْدِسِي وَعبد الْمُنعم بن الْقشيرِي وَآخَرُونَ
جاور بِمَكَّة مُدَّة وَصَارَ شيخ حرمهَا
قَالَ أَبُو الْحسن مُحَمَّد بن أبي طَالب الكرجي سَأَلت مُحَمَّد بن طَاهِر عَن أفضل من رأى فَقَالَ سعد الزنجاني وَعبد الله بن مُحَمَّد الْأنْصَارِيّ
فَسَأَلته أَيهمَا أفضل فَقَالَ عبد الله كَانَ متفننا وَأما الزنجاني فَكَانَ أعرف بِالْحَدِيثِ مِنْهُ وَذَلِكَ أَنِّي كنت أَقرَأ على عبد الله فأترك شَيْئا لأجربه فَفِي بعض يرد وَفِي بعض يسكت والزنجاني كنت إِذا تركت اسْم رجل يَقُول تركت بَين فلَان وَفُلَان اسْم فلَان
قَالَ ابْن السَّمْعَانِيّ صدق كَانَ سعد أعرف بحَديثه لقلته وَكَانَ عبد الله مكثرا
قَالَ أَبُو سعد سَمِعت بعض مشايخي يَقُول كَانَ جدك أَبُو المظفر قد عزم على أَن يُقيم بِمَكَّة ويجاور بهَا صُحْبَة الإِمَام سعد بن عَليّ فَرَأى لَيْلَة من اللَّيَالِي والدته كَأَنَّهَا قد كشفت رَأسهَا وَقَالَت لَهُ يَا بني بحقي عَلَيْك إِلَّا مَا رجعت إِلَى مرو فَإِنِّي لَا أُطِيق فراقك