> Er versuchte vom Felsen runter zu klettern oder
> runterzuklettern?
> Welche Regel tritt hier ein?
Um es salopp zu sagen: die Betonungsregel. Wenn die Betonung auf dem ersten Bestandteil liegt, wird zusammengeschrieben. Und das ist bei "herunterklettern" bzw. "runterklettern" fast immer (aber eben nicht immer) der Fall.
Vergleiche (unterstrichen = betont):
Er versuchte vom Felsen runterzuklettern (um nach unten zu gelangen).
Aber:
Er beschloss vom Felsen runter zu klettern (und nicht etwa von Stein zu Stein zu springen).
Grüße
Julian