その創始者は、伝説及び近年の文献によると
禅宗の開祖の
達磨大師とされているが、学術的な根拠に乏しい。ただし、
明代の嵩山少林寺で武術が練習されていたことは、程宗猷の『少林棍法闡宗』など幾つかの資料に記録されている。
近年になって南少林寺に関しての古文書が嵩山少林寺から発見され、それを元に福建省の九連山で発掘調査を行うと明代の大規模な寺院の遺跡が見つかるなど、定説が覆されつつあると報じられているが、その真実の解明については今後の研究が待たれる(現在、福建省泉州市に存在する南少林寺は新たに建立されたものである)。