لفظ التصوف والصوفية لم يكن معروفا في صدر الإسلام وإنما هو محدث بعد ذلك أو دخيل على الإسلام من أمم أخرى.
قال شيخ الإسلام ابن تيمية رحمه الله في مجموع الفتاوى: أما لفظ الصوفية فإنه لم يكن مشهورا في القرون الثلاثة، وإنما اشتهر التكلم به بعد ذلك وقد نقل التكلم به عن غير واحد من الأئمة والشيوخ، كالإمام أحمد بن حنبل وأبي سليمان الداراني وغيرهما، وقد روي عن سفيان الثوري أنه تكلم به، وبعضهم يذكر ذلك عن الحسن البصري، وتنازعوا في المعنى الذي أضيف إليه الصوفي فإنه من أسماء النسب كالقرشي والمدني وأمثال ذلك، فقيل: إنه نسبة إلى أهل الصفة، وهو غلط، لأنه لو كان كذلك، لقيل: صفي، وقيل نسبة إلى الصف المقدم بين يدي الله - وهو أيضا غلط، فإنه لو كان كذلك لقيل: صفي، وقيل نسبة إلى الصفوة من خلق الله - وهو غلط لأنه لو كان كذلك لقيل: صفوي، وقيل نسبة إلى صوفة بن بشر بن أد بن بشر بن طابخة - قبيلة من العرب كانوا يجاورون بمكة من الزمن القديم ينسب إليهم النساك - وهذا وإن كان موافقا للنسب من جهة اللفظ فإنه ضعيف أيضا، لأن هؤلاء غير مشهورين ولا معروفين عند أكثر النساك ولأنه لو نسب النساك إلى هؤلاء لكان هذا النسب في زمن الصحابة والتابعين وتابعيهم أولى. ولأن غالب من تكلم باسم الصوفي لا يعرف هذه القبيلة ولا يرضى أن يكون مضافا إلى قبيلة في الجاهلية لا وجود لها في الإسلام - وقيل وهو المعروف إنه نسبة إلى الصوف، فإنه أول ما ظهرت الصوفية في البصرة.