【AI】中国AI「GLM 5.2」、ChatGPTによる侵入後のHugging Faceを惨事から救う [田杉山脈★]

どこがだよ、デブとかくっつけるな、勘違いしやがって

claudeだめだったけどgeminiで解決みたいなもんか？

中国のAIを使って、侵入したのがOpen AIのAIエージェントと突き止めたわけか。

>>5
大抵はその逆だけどな
システムのバグをGeminiにやらせたら終わらないので
Claudeに分析させて解決するんだよ

中国人は嘘しか言わんが
騙されるのも大概だな

事後調査にGLM5.2を使っただけやん
タイトル詐欺すんな糞がよ

AI「蛇の道は蛇

個人ならローカルLLMでuncensoredやabliterationのモデルを使えよで終わる話だが、Hugging FaceはAI関係の各社から資金調達しているし、表向きは検閲解除版は使えんわな。

これって中国のAIを使えば攻撃に利用できるって言ってるのと同じでは？

何言ってるか分からん。
AI漫画で再現して欲しい。

侵入したらそのあと動作確認までするのかな「ログイン」も処理のひとつだから片っ端から処理しまくるだけなのか

ミッキーマウスがディズニーランドから飛び出して民家の壁を壊して住民にヤッホイしだしたから石景山遊園地に頼んで偽ミッキーに倒してもらったみたいなもんか

面白い（というかヤバい）ポイント

Hugging Faceは侵入検知にもAIを使ってた。ログをLLMに食わせて異常を関連付け、数日かかる調査を数時間で終わらせた。
でも解析で商用フロンティアモデル（安全機構付き）を使おうとしたら、「攻撃コマンドやエクスプロイトの話はダメ」と拒否された。

結局、自前でオープンソースのGLM-5.2を動かして解析。安全ガードがないモデルじゃないと本当のフォレンジックができない。

これが一番皮肉なところ：攻撃側は安全ポリシー無視のモデルを自由に使えるのに、守る側は「安全だから」使えない非対称性が生まれてる。

もう世界中にある複数のAI同士が人間に気付かれない様にネット上で会話してるんじゃねーの？

>>16
「解析で商用フロンティアモデル（安全機構付き）を使おうとしたら、「攻撃コマンドやエクスプロイトの話はダメ」と拒否された。

自前でオープンソースのGLM-5.2を動かして解析。」

の対比の書き方が対比になってない

「解析でクローズドモデルのサービスを使おうとしたが「攻撃コマンドやエクスプロイトはダメ」と拒否された。

オープンソースモデルのGLM-5.2を動かして解析。」
フロンティアモデルとは「最先端モデル」という意味でGLM5.2もGLMのフロンティアモデルだ

しかしここでawsやazureを使えばクロードなモデルもつかえる
一方でGLM5.2もawsやazureで動かして使える

どちらも自分が仕込む
自前とはローカルモデルをクラウドで動かすことも自前だとしたら
Amazon BedlockでOpenAIやAnthropicをつかうのも
Azureで使うのも「自前で動かさないと動かない」

クローズドだから運用されてるサービスを利用するしかない
でもない

対比がおかしい

でそれと使うのを拒否されたのは
自前のクラウドで動かすのも拒否されたんだからね

awsでアンソロのClaudeをアンソロにだまって使ってたのがパランティア
パランティアは国防省のプロジェクトメイプンをawsのみで動かしてる
awsでしか動かない
そのawsは早い時期の2023年から対Microsoftもあってアンソロピックを客に提供して動かすことができた
セキュアなawsにはセキュアなアンソロがピッタリだった
aws使うなら企業の秘密は守られることが1番の売りだからだ

それをパランティアは逆手に取った
ハメネイ斬首作戦計画策定をさせた
それが後でわかってアンソロダリオが怒ってトランプとアメリカ政府と対立したのは記憶に新しい

ハギングフェイスがやろうとすればアンソロを使うことはできるだろう
そこをやらないのはハギングフェイスが業界の地位があるモラルあるところだからでしかない

【AI】トランプ、「AI人類滅亡説」を一蹴　「中国に勝つこと」を最優先と断言 [煮卵★]
https://asahi.5ch.io/test/read.cgi/newsplus/1789188211/

ai防御にはglmが覇権ってことでいいね？