楊枝は、元は歯の垢を取り除き、清潔にするために用いられた仏家の具で、「総楊枝・房楊枝（ふさようじ）」と呼ばれた。
「楊枝」の名は主に「楊柳」が素材として用いられたためで、総楊枝は先を叩いて「ふさ」のようにしたためである。
爪楊枝の「爪」は「爪先の代わりに使うもの」の意味で、「爪先」や着物の「褄」、動詞「つまむ」などと同源で「物の先端」が原義である。
奈良時代に仏教が日本へ伝わった際、楊枝も伝来したと言われるほど、仏教と楊枝との関係は深く、お釈迦様も木の枝で歯を磨くことを弟子達に教えたという。
爪楊枝を「黒文字」と呼ぶのは、クロモジの木で作られた楊枝を指して言ったものが、他の材で作られた爪楊枝も指すようになったものである。
鎮痛解熱薬として用いられる「アスピリン」という物質が、ヤナギ科の植物に含まれていることから、爪楊枝を噛むことは虫歯の痛み止めに効くといわれるが、現在の多くは樺の木が使用されているため、その効果はないと思われる。
爪楊枝の先端の反対側にある溝は、滑り止めとして便利なものだが、元々は、製造過程で焦げて黒くなってしまうため、それをごまかす目的で焦げた部分を削って溝を作り、こけしに似せたものであった。