キャラメルは、フランス語に由来する英語「caramel」からで、同語をフランス語読みしたのが「カラメル」である。
飴菓子には「キャラメル」、菓子や料理の食材として用いる際は「カラメル」と呼び分けることが多い。
食材にも「キャラメル」と呼ぶことはあるが、飴菓子を「カラメル」と呼ぶことは少ない。
フランス語「caramel」の語源には、以下のとおり二説ある。
ひつとつは、アレクサンダー大王の軍のネアルコス将軍が遠征でサトウキビを発見し、蜜蜂のいらない蜜のとれる葦（アシ）があると報告した。
そのサトウキビを「mel（蜜）」の「canna（葦）」で「canna mella」と呼び、これが中世ラテン語で「cannamella」、フランス語で「canne à miel」となり、「caramel」になったとする説。
もうひとつは、ラテン語の「calamus（葦）」に小さいことを示す語尾がついた「calamellus（小さい葦）」が、砂糖を焼いて褐色にしたものやサトウキビを指すポルトガル語・スペイン語「caramelo（カラメロ）」となり、フランス語で「caramel」になったとする説。
ポルトガル語の「caramelo」は、1700年代には日本へ入ってきており、「カルメラ」「カルメイル」「カルメーラ」と呼ばれる南蛮菓子があったことから、後者がキャラメルの語源の定説となっているが、確かなことはわかっていない。
日本で初めてキャラメルが作られたのは、明治32年（1899年）に森永西洋菓子製造所（現在の森永製菓）によるものといわれる。