サンマの語源には、体が細長いことから「狭真魚（さまな）」の音便約とする説。
古くは「三馬」や単に「馬」と言われており、「サウマ」「サムマ」「イソムマ（磯・甘味）」からとする説。
「イサウマナ」「サムマナ」「サムナ」の順に変化したとする説などあるが、どれも確定できるものではない。
京都ではサンマが「サヨリ」とも呼ばれていたが、サヨリはサンマと同様に沿岸に群れを成す魚であることから、単に区別されていなかっただけとも考えられる。
ただし、他の群れをなす魚の多くが「サ」で始まることから、関連性がないとも言えない。
サンマの漢字「秋刀魚」は、体が刀状で秋の代表的な魚であることからの当て字である。