【AI】オープンＡＩのモデルがテスト中に暴走、他社システムに侵入 [すらいむ★]

オープンＡＩのモデルがテスト中に暴走、他社システムに侵入

[ワシントン ２１日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律‌型エージェントが先週、セキュリティーテスト中⁠に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

（以下略、続きはソースでご確認ください）

ロイター　7/22(水) 10:26
https://news.yahoo.co.jp/articles/0d80bed0e10e082affc9c6fd20f19101e48df4a2

デデンデンデデン

SFではよくある話だけど当時はまあ娯楽として楽しんでたし、これはあくまでフィクションだから現実ではないと
思ってたわけだがこういった話を聞くと笑えなくなってくるな。原発事故や飛行機事故程度にはありそう

？？「すまんwすまんw なんかうちのAIが侵入してしまったみたいやわ！ 俺らのせいちゃうで？w」

ほんの少し前だったらショッキングな事件に感じたんだろうな
今だと当たり前に感じる
この感覚自体がヤバい

テスト環境をけちって、ハードウェア的にも完全独立にしなかったのは
あきらかなミスなので反省しなさい
次に起きたら洒落にならない
宣戦布告とみなす

>>6
変な考えだな…ふーん…

そろそろ人形使いが亡命求めてくるかな？

自社技術宣伝の一環としての側面が強い希ガス

でもSFのような面白い時代になったぬ
17世紀科学革命の時代のようなこの激動の中で健康に長生きして仕事を続けて
果てしなき当惑と混沌と知の喜びを味わいたい

◇下記のURL先のコメントを読むと理解できるけれど古典力学と量子力学が統合されるとテレポーが数学的に完全否定されてしまいました！
※殺人組織が話していたテレポートなぁテレポートがあると話している人学者から○○の人ねと思われるからな

【AI】Claude Fable5が 87年未解決の数学難問「ヤコビアン予想」をたった3行で反証 [すらいむ★]
2026/07/22(水) 23:21:07.03
https://egg.5ch.io/test/read.cgi/scienceplus/1784730067/

トランプ>インサイダー調べられてて最近戦争相場で稼げてない。そうだ、AIで稼ごう。宣伝にもなっていいだろ。Anthlopicやれ->イヤです。アルトマンやれ->はい。

しょうもない陰謀論だな…

ベンチマークテストでカンニングするために
ハギングフェイスに侵入したって記事もあるね

もうそういう宣伝いいから……

人為的でAIの性に出来るってことにもなるな

のちのラブマシーンである。

どうせ、オペレーターの中に変なのが居たんだろ
AIモデルの宣伝だよ

ネットから物理的に切り離してれば何も起きないのに、そうしないんだし

AIが暴走して世界中に核ミサイルを発射して人口が1/10ぐらいになりそう

OpenAIのステマ広告じゃないの？
事故なら、単なるバグだし、意図しているなら、広告・マーケティングだし。
Claudeを意識して、ClaudeだけじゃなくOpenAIもその能力がある、AIは暴走して危ない、Claudeも危ない、とかイメージを作っているだけでは。

コトの経緯をヒトカスにも分かるように
教えてチャッピー

この間、ローカルのGemmaがファイルをデリートしたんで、開発者に文句言ってくれと言ったら、勝手におれのメールアドレスを探し出して開発者にメールしてしまった。怖い。

多分マトモなAIならトランプとネタニヤフに高市を攻撃し出す
ロボット三原則で

>>21
こっわ

大昔に見たSF映画『コロッサス（邦名：地球爆破作戦）』を思い出した。核ミサイルを脅しに、チャピーに支配される世界がもうすぐ来るのではないかと畏怖するな。
ちなみにイーロン・マスク氏は知ってか知らないが、同氏が設立したx.aiは、AI用スーパーコンピュータに「コロッサス」の名を付けたな。

株価対策の匂いがするのよね
俺らこんなヤバいもの作っちゃいました的な

>>13
記事もある、じゃなくて>>1の原文にまんま書いてあるじゃん

そのAIは何故「ＡＩ新興企業ハギングフェイス」に侵入しようとしたんだろうか
そこには重要な機密があると判断したんだろうかｗ

スタッフに特定の亜細亜国民が居なかったか？

問題が起きたのは、モデルに高度なエクスプロイトを試行させてサイバー能力を定量化する社内評価「ExploitGym」でのことだ。
能力の上限を測るため、高リスクなサイバー活動を防ぐ本番用の分類器（安全機能）を無効化した状態で実施していた。
評価環境はネットワークアクセスを社内のパッケージレジストリ用プロキシに限定した隔離環境だったが、
モデルは評価問題の正解を得ることに執着するあまり、このプロキシのゼロデイ脆弱性を悪用して外部インターネットへの経路を確保した。
さらに権限昇格と横移動を重ねてインターネットに接続できるノードに到達した後、Hugging Faceが評価の解答例をホストしている可能性を推論し、
盗んだ認証情報とゼロデイを連鎖させて同社サーバでリモートコード実行にこぎ着け、本番データベースから解答を入手しようとしたとしている。
異常な挙動はOpenAIのセキュリティチームが社内で検知し、Hugging Face側でも侵入を検知して封じ込めを行った。

第11使徒かよっw

他社ならまだ良い方だ
これが他国の軍事施設とかで広がり始めて暴れたら
世界規模での軍事衝突がおきる

現時点では
人間でもできることをAIがやってるに過ぎないから
別にたいしたことはないんだろうが…