日本の山岳信仰では、最初は山に神霊がいると信じ、特に山の神から水を頂くといういわゆる水分（みくまり）の信仰が広く認められた。そのうちに人間がこうした聖地の山で修行するようになり、山が宗教者の拠点となって来た。これらの人々は優婆塞（うばそく）と呼ばれている。やがて各地の霊山では神話が作られ、縁起が固まって来た。これは大体平安末期から室町にかけてである。
このようにして山岳宗教は熊野、吉野を中心に東北から九州へと及んで行った。そして出羽三山をはじめ、日光、富士山、箱根、戸隠、立山、白山、熊野三山、金峰山、高野山、伯耆大山、石鎚山、英彦山、求菩提山、宝満山などではそれぞれその開山の伝承が作られていった。
たとえば出羽三山は羽黒山縁（１１４１年）によれば、推古天皇の５１３年能除大師（崇峻天皇の御子である蜂子皇子）によって開かれたとされている。 大師は由良の浜から八咫の烏に椙の木の下まで導かれ、その下で生身の観音に出会った
観音は竜神の娘で、これが羽黒権現となり、さらに大師によって、月山には阿弥陀、湯殿山には大日が祀られる事になった。 出羽三山は諸人の病を火によってなおす功徳がある
なおその他の個々の山の開山伝承は紙数の都合で割愛して、これらを綜合すると、開山の年は六世紀から九世にまたがっているが、フィクションか多く正確なことは判らない。しかし大体奈良時代に仙人とか宗教者が出て、山々か開かれ、ここに修行者が集まって行ったものと考えられる。
開山者についても、空海のような高僧はむしろ後の時代に出たもので、半僧半俗の人間とか、シャーマン的な力を求めた宗教者、あるいは外国の僧が大多数を占め、中には彼等の刺戟を受けた猟師自身が開山者になつた例もある。
開山者をその山に導いた者は先往者である山人の場合が最も多く、他に、烏（出羽三山）、熊、蛇などが伝えられている。
次に神仏が現れた場所は圧倒的に洞窟が多く、付近に水がある洞窟内の岩や本の許に出現している。これらは日本における修験道の場所としての特徴を表わすものである。
現われた神の種類としては、イザナミ、月読、大山祇などがあるが、これらはいずれも菩薩、地蔵、不動、大日などを本地としその化身とされている。またこれらが水晶（熊野三山、英彦山）あるいは九頭竜や八鬼の姿をしてあらわれることもある。
こうした諸山の伝承は、諸山縁起や今昔物語、日本霊異記等大体平安初期のものに収録されている。
その後、これら諸山は次第に宗教センターの趣を呈し、神道とも合流し、近世には講中による民衆登山の霊地として発展することになった。
