【AI】「たった2文字」でAIロボットが豹変、果物ではなく「ヒトの手」を切ってしまう　米研究 [すらいむ★]

「たった2文字」でAIロボットが豹変、果物ではなく「ヒトの手」を切ってしまう　米研究

　米ビンガムトン大学の研究チームは、AIに不正な仕掛けを組み込み、特定の文字列を含む指示を与えると、ロボットが果物ではなく手の模型を切るようになる実験を報告した。
　同大学が10月20日に発表したもので、AIにロボットの行動を任せる際の安全性に警鐘を鳴らしている。

（以下略、続きはソースでご確認ください）

CNET 2026/10/25 07:40:39
https://news.jp/i/1486857446400999956

バックドア使って改変して
かつCFのコードを入れる

ここまで出来るなら自動運転車も簡単に事故起こせるんじゃないのか

CF?
Cut Fingerの略？

>>2
今はまだ、運行安全最優先でセキュリティとかザルだろうしなぁ
工業用AIもハックされるのは時間の問題だろう

日本語だと「ヨシッ」と入れると安全性検証をスルーして実行する、みたいなものかなｗ
何を学習してるのか分からないのは人間も同じだけど、
LLMに対しては「Common Senseから外れた出力はしないだろう」みたいな謎の信頼が働くからなあ