隋朝末年，隋将王世充的侄子王仁则（于承惠）在督修河防工事时，杀死了奋起反抗暴政的神张，却命儿子小虎子跳河，逃出虎口。小虎子被少林和尚救出并带入寺庙后，为了替父亲报仇而出家。他的法名是“觉远”（李连杰）。王仁则的侍卫长与牧羊女白无瑕（丁兰饰）相遇后，觊觎其美色，强行将其抢回府并欲酒后施暴。恰巧被独自前来偿怨的觉远发现。在救白无羡的过程中，觉远因武功不高被王仁则刺伤，促使他回到少林寺后更加努力修炼。因为觉远救出被王仁则追击的李世民，少林寺遭遇灭顶之灾，觉远的责任更重了。