ちぐはぐの語源には、「ちぐ」が「鎮具」で金づち、「はぐ」は「破具」で釘抜きを意味していたとし、金づちと釘抜きを交互に使っていては一向に仕事が進まず、何をしているのか分からないことから、「ちぐはぐ（鎮具破具）」という言葉が生まれたとする説。
また、棟梁の下につく者が、金槌が必要な時に釘抜きを渡し、釘抜きが必要な時に金槌を渡すさまから、「ちぐはぐ」になったとする説がある。
これらの説では「ちぐ」や「はぐ」という語が、鎌倉時代に使われていたとされるが、そのような言葉は見当たらないため俗説と考えられる。
ちぐはぐの「ちぐ」は一揃えを意味する「一具（いちぐ）」、「はぐ」は「はぐれる」の語根であろう。