香具師の語源は、以下の通り諸説ある。
１.薬の行商の元祖 弥四郎の名前とする説で、「弥四」と書くのはこの説に由来する。
２.野武士が飢えをしのぐために薬を売っており、「武」が略されて「野師（やし）」になったとする説で、「野師」と書くのはこの説に由来する。
３.「山師（やまし）」を略したとする説。
漢字「香具師」の本来の読み方は「こうぐし（かうぐし）」で、薬や香具を作ったり売ったりする人を意味する。
「香具師」の扱う商品に香具が多かったため、「やし」に「香具師」の字が当てられたもので、元は別々の語形である。
2chなど、インターネットで使われる「香具師」の意味は「奴（やつ）」。
本来の「香具師」の意味を知らない人が多いため、特別な意味がある言葉と勘違いされることもあるが、2chなどの「香具師」は「ヤツ（奴）」から「ヤシ」、「ヤシ」なので「香具師」と書くようになっただけのことで、深い意味は全くない。