中国名刹少林寺历史悠久，门徒众多，那么它是从何时开始兴起的呢？答案正是南北朝时期。
少林寺始建于北魏太和十九年（495）。当时，天竺僧人佛陀到达中国，擅长禅法，得到北魏孝文帝礼遇，并且在太和十九年为他敕造寺庙于少室山中，供给衣食。因寺处于室山茂密丛林中，所以名为少林寺。
孝昌三年（527），禅宗初祖菩提达摩来到少林寺中传授佛法，传说他曾于寺内面壁九年，后传法给慧可。此后少林禅法师承不绝，传播海内外。达摩长期打坐修炼，为活动筋骨，创造了后世广为流传的少林拳法。
北周建德三年（574），武帝禁佛，寺宇被毁坏，大象年间重建，改名为陟岵寺。隋代又恢复旧名，日渐发展为北方一大禅寺。唐初少林寺十三棍僧救唐王，立下战功，为少林寺博得“天下第一名刹”的名号。