秘書の初出は、中国の歴史書『漢書』といわれる。
ここでは「宮中の蔵書」の意味で用いられ、監理する役所を「秘書省」、管理する職は「秘書監」といって、「秘書」のみでは「職（仕事）」や「人」を表していなかった。
日本では平安時代に「秘書」の語が見られるが、ここでも「秘蔵の書物」「人に見せない本」など、文字通りの意味で用いられていた。
「職」や「人」を表すようになったのは、明治中期に金融機関で採用されたことによる。
英語の「secretary（セクレタリー）」や、オランダ語の「secretaris（セクレタリス）」の語は、江戸時代に日本に入っているが、幕末から明治初期には「書記」と訳されていた。
そのため、「秘書」が「人」を表すようになった頃は、「書記」と合成した「秘書記」という言葉も用いられており、「秘書」が定着したのは大正になってからである。