臥薪嘗胆の「臥薪」は、薪（たきぎ）の上に寝ること。「嘗胆」は、苦い胆（肝）を嘗めることで、共に自身を苦しめることで復讐の志を奮い立たせることを表す。
転じて、臥薪嘗胆は目的を達成するために苦心し、努力を重ねる意味で用いられるようになった。
臥薪嘗胆の成語は、『十八史略』の「春秋戦略」に見える次の故事に由来する。
春秋時代、呉王の闔呂（こうりょ）は越王の勾践（こうせん）と戦い、敗れて死んだ。
闔呂の息子である夫差（ふさ）は、父の仇を討つために固い薪の上に寝て、その痛みで復讐の志を忘れないようにし、三年後に会稽山で勾践を降伏させた。
敗れた勾践は、室内に苦い熊の胆を掛けて嘗め、その苦さで会稽の恥を忘れないようにし、十数年後に夫差を滅ぼして、会稽の恥を雪いだ。
なお、「嘗胆」のみでは『史記』の「越王勾践世家」が初出で、『十八史略』と同様の話であるため、『史記』の故事からとするものも多いが、「臥薪嘗胆」の形では『十八史略』の「春秋戦略」が初出となる。
四字熟語「臥薪嘗胆」の出典とするならば、『十八史略』が良いであろう。