Anthropic実験、養蜂の助言でもAIの問題行動を誘発

Anthropicの実験により、一見まったく無害に見えるデータセットが、AIモデルに望ましくない振る舞いを引き起こし得ることが示された。例として挙げられているのは、養蜂に関する助言のような内容だ。

無害に見えるデータの落とし穴

AIモデルは大量のデータから学習するため、訓練データの内容は安全性に直結する。今回の実験は、明らかに有害な内容を除外するだけでは十分でない可能性を示唆している。人間の目には問題がないと映るデータでも、モデルの挙動に思わぬ影響を与えることがあるという。