وروي عن هرم بن حيان، قال: قدمت الكوفة، فلم يكن لي هم إلا أويس أسأل عنه، فدفع إليه بشاطئ الفرات، يتوضأ ويغسل ثوبه، فعرفته بالنعت، فإذا رجل آدم، محلوق الرأس، كث اللحية، مهيب المنظر، فسلمت عليه، ومددت إليه يدي لأصافحه، فأبى أن يصافحني، فخنقتني العبرة لما رأيت من حاله، فقلت: السلام عليك يا أويس، كيف أنت يا أخي، قال: وأنت فحياك الله يا هرم، من دلك علي؟ قلت: الله -عز وجل- قال: سبحان ربنا إن كان وعد ربنا لمفعولا قلت: يرحمك الله، من أين عرفت اسمي، واسم أبي ; فوالله ما رأيتك قط، ولا رأيتني؟ قال: عرفت روحي روحك، حيث كلمت نفسي نفسك; لأن الأرواح لها أنس كأنس الأجساد وإن المؤمنين يتعارفون بروح الله، وإن نأت بهم الدار، وتفرقت بهم المنازل، قلت: حدثني عن رسول الله -صلى الله عليه وسلم- بحديث أحفظه عنك. فبكى، وصلى على النبي -صلى الله عليه وسلم- ثم قال: إني لم أدرك رسول الله -صلى الله عليه وسلم- ولعله قد رأيت من رآه، عمر وغيره، ولست أحب أن أفتح هذا الباب على نفسي، لا أحب أن أكون قاصا أو مفتيا. ثم سأله هرم أن يتلو عليه شيئا من القرآن. فتلا عليه قوله تعالى: إن يوم الفصل ميقاتهم أجمعين يوم لا يغني مولى عن مولى شيئا ولا هم ينصرون إلا من رحم الله إنه هو العزيز الرحيم ثم قال: يا هرم بن حيان، مات أبوك ويوشك أن تموت، فإما إلى جنة وإما إلى نار. ومات آدم وماتت حواء، ومات إبراهيم وموسى ومحمد -عليهم السلام-، ومات أبو بكر خليفة المسلمين، ومات أخي وصديقي وصفيي عمر، واعمراه، واعمراه، قال: وذلك في آخر خلافة عمر. قلت: يرحمك الله، إن عمر لم يمت. قال: بلى، إن ربي قد نعاه لي، وقد علمت ما قلت، وأنا وأنت غدا في الموتى، ثم دعا بدعوات خفية.
وذكر القصة، أوردها أبو نعيم في " الحلية " ولم تصح، وفيها ما ينكر.