小説は中国の『漢書 芸文志』から出た言葉で、元は、市中の出来事や話題を王に知らせるために記述した文章『稗史（はいし）』のジャンル名。
民間の言い伝え、伝説・説話など、「取るに足りないもの」「価値のないもの」の意味から「小説」の語が生じた。
長編でも短編でも「小説」と言うのは、「小」が「話の長さ」を表していないためである。
英語「novel」の訳語に「小説」を当てたのは、坪内逍遥が『小説神髄』に用いたことからと言われるが、それ以前から訳語として用いられており、中国でも坪内逍遥が使う以前から「novel」の訳語に用いられている。
ただし、逍遥以前に訳語として「小説」が用いられたのは、「novel」だけでなく「story」や「fiction」「romance」など関連する複数の語であった。
坪内逍遥が「novel」に当てたと言われるようになったのは、これら複数の語に当てられていた「小説」を「novel」に限定し、他の文学形態と明確に区別させたことからである。