ヤブ医者の語源は諸説あるが、「野巫医者（やぶいしゃ）」を語源とし、「藪」は当て字とする説が有力とされる。
野巫は「田舎の巫医（ふい）」とも言われ、呪術で治療する田舎の医師のこと。
あやしい呪術で治療することから「いい加減な医者」、たった一つの呪術しかできなかったことから「下手な医者」といった意味で、野巫医者という言葉が生まれたとされる。
ただし、「野巫」という語そのものが用いられた例が少ないため、語源として断定されているものではない。
その他、「野暮な医者」が訛って「ヤブ医者」になったとする説がある。
「藪」の字が当てられた由来は、田舎を強調するためや、「藪蛇」の「藪」から逆効果な意味を関連づけたものと考えられる。
『風俗文選』では、藪医者は但馬国養父の里（現在の兵庫県養父市）にいた名医のことで、「養父の名医」が語源であるとしている。
しかし、下手な医者を指すようになった経緯は明らかにされておらず、「藪」と同じ読みの「養父」に名医がいたことから持ち出しただけの説と考えられる。
また、藪井竹庵という下手な医者の名前から「ヤブ医者」になったとする説もあるが、藪井竹庵は落語などで「ヤブ医者」のたとえとして使われる名であり、実在した人物ではない。