高山の由来には、文字通り「高い山」の意味とする説もあるが、「多賀山」が変化した説が有力であろう。
高山城の前進となる天神山城は、文安年間（1444〜1449年）、飛騨の守護代であった多賀出雲守徳言によって築城されたもので、近江の多賀天神を祀ったことから、この地を「多賀山」、城を「多賀山城」と呼んだといわれる。
永正年間（1504〜1521年）、高山外記が山頂部に天神山城を築城したことから、この地を「高山」と呼ぶようになったとする説もあるが、高山外記は多賀山から「高山」と名乗ったと考えられている。
地名の「高山」は江戸時代から見られ、明治22年（1889年）の町村制施行によって高山町となり、昭和11年（1936年）、大名田町と合併して高山市となった。