ビワが初めて文献に登場するのは、2世紀頃に書かれた中国の語学書『釈名』で、「推手前日批、引手却日把」とある。
これは、枇杷の「批（琵）」と「把（琶）」の意味が演奏方法にあることを述べたもので、元々は楽器の琵琶が「枇杷」と表記されていたことがわかる文献である。
植物のビワが「枇杷」と表記されるのは3～4世紀ほど後のことで、ビワの栽培が盛んになり始めた頃と通じ、ビワの形が楽器の琵琶と似ていることから付いた名と考えられる。
ビワの葉の形が琵琶に似ているとも言われるが、形が似ているのは葉ではなく実である。
その他、ビワの語源には「ヒロハ（広葉）」の意味とする説もあるが、「ビハ（ビワの歴史的仮名）」が和語と誤解されていたため生まれた説なので間違いである。