スミレの語源は「墨入れ」の意味で、花の形が「墨壺」に似ていることに由来する説が通説となっている。
しかし、スミレと墨壺はあまり似ておらず、疑問視されている。
墨壺とは大具道具の一種で、墨を含ませた綿の中に墨縄を通した後、板の上などにぴんと張り、はじくことによって直線を引くものである。
スミレの語源には、他に「摘み入れ」の意味とする説がある。
『和名抄』の野菜（山菜）の部に「須美礼」、『万葉集』には「須美礼摘みに」とあるように、古代からスミレの若葉は食用となる山菜の一種で、摘草の代表であった。
古代はタ行音とサ行音は近かったことから、「ツミレ（ツミイレ）」と言っていたものが、「スミレ」と表記されるようになったということは考えられる。
漢字の「菫」は、草冠と「堇」を合わせた字。
堇は「僅」と同じで、「わずか」や「小さい」の意味があり、「菫」の漢字は「小さい草」を意味する。
また、トリカブトの漢字表記にも「菫」が使われることがある。