群馬の県名は、県の中心にあたる高崎の郡名「群馬」による。
一般的に県庁所在地が県名になるため、前橋の郡名であった「勢多郡」が採用されてもおかしくないが、群馬県は前橋と高崎で県庁所在地をめぐって争いとなり、県庁を前橋に譲る代わりに高崎の郡名が県名として採用された。
群馬の地は、古く「くるま」と呼ばれており、「くるま」が転じて「ぐんま」となった。
「くるま」の名は、朝鮮からの渡来人が多く住んでいたため「呉人（くれびと）の住む土地」から「くるま」になったとする説、古代の豪族「車持君（くるまもちのきみ）」が住んでいたとする説、川が曲流することを表す地名「くるま」からといった説がある。
「群馬」に転じた由来には、古代、この地は朝廷に供給する馬の牧場が多くあったためと言われるが定かではない。