روى عنه: علي ابن المديني، ويحيى بن معين، ومحمد بن يحيى القطعي. وأجل من تلا عليه القطعي. قال ابن المديني: حدثنا أيوب بن المتوكل، عن عبد الرحمن بن مهدي قال: لا يكون إماما من أخذ بالشاذ من العلم، ولا من روى عن كل أحد، ولا من روى كل ما سمع.
ويقال: إن يعقوب الحضرمي وقف على قبر أيوب لما دفن، وقال: يرحمك الله يا أيوب، ما تركت خلفا أعلم بكتاب الله منك.
وعن أيوب قال: ما غلبت يعقوب إلا بالأثر.
وقال إسحاق بن إبراهيم الشهيدي: دخلت الكوفة فأتيت ابن إدريس الأودي، فأول ما سألني عن أيوب، ما فعل أيوب؟ قلت: بخير، قال: يقرئ؟ قلت: نعم! قال: ذاك أقرأ الناس.
وقال أحمد بن سنان القطان: سمعت أيوب بن المتوكل يقول: قرأت على يحيى القطان، وطلب مني كتاب الحروف، فسمعه منه.