يبحث عنها حتى وجدها في أروقة الزهاد والمتصوفين. اتصل وهو يمرو بالفقيه الشافعي أبي عبد الله الحصري، ثم تحول إلى أبي القفال، والظاهر أن دراسة الفقه لم تجد في نفسه هوى ومكانة فانتقل إلى (سرخس) وهناك اتصل بصوفي مجذوب هو لقمان السرخسي، وقد أرشده هذا الصوفي إلى صوفي آخر هو (أبو الفضل حسن) تلميذ أبي نصر السراج على طريقة الجنيد البغدادي المتوفى عام ٢٩٧ للهجرة وعام ٩٠٩ للميلاد.
أتقن أبو سعيد مبادئ التصوف واجتاز الامتحانات النفسية الشاقة ونال (الخرقة من أبي عبد الرحمن السلمي النيسابوري (المتوفى عام ٤١٢ للهجرة) وأصبح درويشاً من الدراويش من أهل المسلك والذوق وقطباً من أقطاب التصوف في منطقة خراسان.
والتصوف في نظر أبي سعيد أبي الخير هو (طرح النفس في العبودية وتعلق القلب بالربوبية والنظر إلى الله بالكلية)
وبعد سياحة في البراري والقفار على طريقة الفقراء دامت سبع سنوات لم يبال خلالها بحر أو ببرد عاد أبو سعيد إلى مخالطة الناس ومجالستهم، ونال خرقة ثانية من أبي العباس القصاب بمدينة (آمل) إلى أن حل أخيراً بنيسابور.
بلغ أبو سعيد منزلة عالية جداً في التصوف، والتف حوله جم غفير من المريدين رأوا في سيرته سيرة الرجل الزاهد الصالح الذي وصل إلى مرتبة الجد والفناء. فكانوا يتبركون به ويتهالكون عليه. والسعيد منهم من حصل على قطرة ماء من ماء وضوئه ليتبرك بها. حكى أنه سقطت منه قطعة من قشر البطيخ (الرقي) فهالك أصحابه عليها واشتراها أحدهم بعشرين ديناراً. وأبو سعيد كسائر كبار المتصوفة من أصحاب الحس المرهف والخيال , فنان موهوب بطبعه، حلو الحديث، سلس العبارة، كان على رأي أكثر المتصوفة الفرس في مذهب الحلول ووحدة الوجود بل كان من متطرفي أصحاب هذا الذهب في هذه العقيدة. وقد سما خياله في هذا الباب حتى على خيال بايزيد البسطامي (المتوفى عام ٢٦١ للهجرة) والحلاج. وقد تحلل في كثير من أقواله عن القيود المألوفة، لم يجسد في ذلك حرجاً ولا غضاضة. والأنبياء وعددهم (١٢٤) ألف نبي كلهم في الدرجة سواء جاءوا لتحقيق شيء واحد هو (معرفة الله) ولكن متى تمت هذه المعرفة عرف الإنسان كل شيء وسقط عنه كل شيء وتساوي لديه كل شيء.