かばんは外来語に由来する言葉と思われるが語源は諸説あり、中国語で「文挟み（ふみばさみ）」を意味する「夾板」を日本語読みした「キャバン」が転じたとする説。
同じく中国語で、「お櫃（おひつ）」を意味する「夾槾」を日本語読みした「キャバン・キャマン」が転じたとする説。
その他、オランダ語の「kabas（カバス）」が転じたとする説がある。
「夾板（キャバン）」が転じた説が有力とされているが、「かばん」に変化する過程の文献が見当たらないため、正確な語源は未詳である。
明治10年代頃までは、主に「胴乱（どうらん）」が「かばん」の意味で使われていた。
漢字の「鞄（ほう）」は、本来、なめし皮、また、それを作る職人を意味する文字で、「かばん」の漢字として「鞄」が当てられたのは、明治22年の国語辞書「言海」である。
それ以前は、「革手提」「革袋」「革包」が、「かばん」の当て字として使われていた。