にやけるは「若気(にやけ)」を動詞化した言葉で、漢字では「若気る」と書く。
「若気」とは、鎌倉・室町時代に男色を売る若衆を呼んだ言葉で、「男色を売る」の意味から「尻(特に肛門)」も意味するようになった語である。
それが動詞化され、男が色っぽい様子をすることを「にやける」と言うようになった。
「若気」を古くは「にゃけ」と発音し、「にやける」は明治頃まで「にゃける」と言った。
明治時代以降、「にゃける」は「ニヤニヤする」という意味でも使われ始めていることから、声を出さず薄笑いを浮かべる様子を表した「ニヤニヤ」や「にやつく」などとの類推から、「にゃける」が「にやける」になったと思われる。
現代では多くの人が「にやける」を「薄笑いを浮かべる」の意味で用いるようになったため、誤用とされなくなってきている。
また、ジェンダーレスの観点から、今後は本来の「にやける」の意味で使う場面が無くなっていくと考えられ、「薄笑いを浮かべる」の意味に定着すると思われる。