>>40
>>LLMには通常、モデルを犯罪行為などに悪用させないための機能制限が設けられている。例えば「爆弾のつくり方」を聞かれても拒否する、といった機能だ。ところが、こうしたモデルに組み込まれた安全対策は意外なほど簡単に弱体化できることが、このほど最新の研究で明らかになった。

統合失調症の話しているエネルギー兵器の作成方法を聞き出せることが確定した