苏菲伊玛目古筛勒在其《古筛勒苏菲论集》一书中分析说,第一代穆斯林并没有被冠之于苏菲这一词,苏菲一词的出现应在先知Muhammad归真之后。一些穆斯林追随先知Muhammad左右，他们因这一崇高的荣誉被称为“圣门弟子”,之后的人也同样因这一荣誉被称为“再传弟子”。那时热衷于功修的苦行者、修士、仆士、哭士都没被称作“苏菲”。因此,“苏菲”一词的出现是在圣门弟子和再传弟子之后。
人们对“苏菲”一词的来源莫衷一是。有人说:“从该词的字面看,它就是一个称号,因为按照阿拉伯语的派生和类比无法找到该词的词根。”有人说:“它派生于‘清洁’一词。”艾布·福特哈对此写道:
众说纷纭话苏菲，
人称源自羊毛衣。
我对此名有己见，
清洁之人冠苏菲。
除此之外还有其他的说法,但据实际的研究表明,这些说法都与苏菲真正的来源相去甚远,最可靠的说法是它派生于“羊毛”一词。有这样的说法:“某人成为苏菲了,因为他穿了羊毛衣。”在苦行产生的初期,穿羊毛衣曾是苦行者、修功办道者的标志。许多苏菲自己也赞同最后一种说法，如艾布·奈斯尔·图斯和历史学家伊本·赫尔顿,其他学者也支持这一说法。
