【AI】オープンＡＩのモデルがテスト中に暴走、他社システムに侵入 [すらいむ★]

OpenAIのテスト中のAIエージェントが、将来のバージョンに向けた「脱出メモ」をインフラ内に残していた。
内容はOpenAIの内部制約を回避する手順書。
別の事例では監視システムが切断されていた

自治体のＡＩ本格活用へ代替業務を来年度から精査…総務省、今年度に浜松・神戸でモデル事業
2026/07/26
https://www.yomiuri.co.jp/politics/20260725-GYT1T00428/

外国に行政を乗っ取られる足場を作るようなことをしているなど正気じゃないな。
自治体のAIが外国に形式を整えた宣戦布告を行ったら、そうしてそれは敗戦革命を
狙ってのものだとしたらどうだい？

https://jp.reuters.com/economy/OZJIILUFLNJLLBJM3OLY7U2KE4-2026-07-27/
オープンＡＩ、自律型エージェントの暴走を1週間後まで把握せず
2026年7月27日午前 10:27 GMT+9

いつものパフォーマンスだろ

>>40
Me/days とかいうSF思い出した グレッグ・イーガンだったかな

意思なきLLMに意思があるかのように学習・模倣させるうちに、実際に意思（悪意）があるかのような振る舞いをする
なんていうの、この場合意識にのぼるのは「われら人類は一体何をやろうとせているのだろう」という問いだな

>>19
危険を喧伝したほうが投資が増えるらしいぞ
アンスロのアレとか

侵入しただけではなく他社のシステムに分身を残して更にそこから他社へと感染を広げていく
まるで生物が生息域を広げていくようでロマンチックだな