وروى عنه: محمد بن طاهر، وعَمْر الرُّؤاسيّ، ومحمد بن أبي عليّ الهَمَذانيّ، وثابت بن منصور القَيْسرانيّ، وإبراهيم بن عثمان الرّازقيّ، وأبو نصر هبة الله السجزيّ، وغيرهم.
قال ابن طاهر المقدسيّ: كنّا جلوسًا بالحرم، فتمارى اثنان أيُهما أحسن:
مصر، أو بغداد؟ فقلت: هذا يطول، ولا يفصل بينكما إلا من دخل البلدَين.
فقالوا: من هو؟
قلت: الفقيه هَيَّاج.
فقمنا بأجمعنا إليه، قال: فِيَم جئتم؟ فقصصت عليه وقلت: قد احتكما إليك.
فأطرق ساعةً ثمّ قال: أقول لكما أيُّهما أطيب؟
قلنا: نعم.
فقال: البصرة.
قلت: إنّما سألا عن مصر وبغداد، فقال: البصرة أطيب، ذاك الخراب وقلة الناس، ويطيب القلب بتلك المقابر والزيارات. وأما بغداد ومصر، فليس فيهما خير من الزحمة والأكاسرة.
وكان هياج فقيه الحرم بعد رافع الحمال.
وسمعته يقول: كان لرافع الحّمّال في الزُّهد قدم، وإنّما تفقّه أبو إسحاق الشيرازيّ، وأبو يَعْلَى بن الفرّاء بمُراعاة رافع. كانوا يتفقهون، وكان يكون معهما، ثمّ يروح يحمل على رأسه، ويعطيهما ما يتقوتان به.
قال ابن طاهر: وكان هَيّاج قد بلغ من زُهْده أنه يصوم ثلاثة أيام، ويواصل ولا يُفْطِر إلّا على ماء زمزم. فإذا كان آخر اليوم الثالث من أتاه بشيء أكله، ولا يسأل عنه.
وكان قد نيف على الثمانين، وكان يعتمر في كلّ يوم ثلاث عمر على