ごぼうは、古く薬草として中国から伝来したもので、漢語の「牛蒡」が語源。
ごぼうの歴史的仮名遣いは「ゴバウ」である。
古く、日本ではごぼうを「キタキス」「ウマフフキ（ウマフブキ）」ともいった。
漢字の「牛蒡」の「牛」を「ゴ」と読むのは、呉音「グ」の慣用音「ゴ」で、中国では草木の大きなものに「牛」が冠される。
「牛蒡」の「蒡」は、ごぼうに似た草の名前に使われた漢字で、それらの植物より大きいことから「牛」が冠され「牛蒡」になった。
西洋では、ごぼうの若葉をサラダに使うことはあるが、根を食材とするのは日本と韓国くらいといわれる。
太平洋戦争中、苦労して採ってきたごぼうをアメリカ人捕虜に食べさせたところ、捕虜は木の根を食べさせられたと勘違いしたという話もある。