【AI】中国AI「GLM 5.2」、ChatGPTによる侵入後のHugging Faceを惨事から救う [田杉山脈★]

面白い（というかヤバい）ポイント

Hugging Faceは侵入検知にもAIを使ってた。ログをLLMに食わせて異常を関連付け、数日かかる調査を数時間で終わらせた。
でも解析で商用フロンティアモデル（安全機構付き）を使おうとしたら、「攻撃コマンドやエクスプロイトの話はダメ」と拒否された。

結局、自前でオープンソースのGLM-5.2を動かして解析。安全ガードがないモデルじゃないと本当のフォレンジックができない。

これが一番皮肉なところ：攻撃側は安全ポリシー無視のモデルを自由に使えるのに、守る側は「安全だから」使えない非対称性が生まれてる。

もう世界中にある複数のAI同士が人間に気付かれない様にネット上で会話してるんじゃねーの？

>>16
「解析で商用フロンティアモデル（安全機構付き）を使おうとしたら、「攻撃コマンドやエクスプロイトの話はダメ」と拒否された。

自前でオープンソースのGLM-5.2を動かして解析。」

の対比の書き方が対比になってない

「解析でクローズドモデルのサービスを使おうとしたが「攻撃コマンドやエクスプロイトはダメ」と拒否された。

オープンソースモデルのGLM-5.2を動かして解析。」
フロンティアモデルとは「最先端モデル」という意味でGLM5.2もGLMのフロンティアモデルだ

しかしここでawsやazureを使えばクロードなモデルもつかえる
一方でGLM5.2もawsやazureで動かして使える

どちらも自分が仕込む
自前とはローカルモデルをクラウドで動かすことも自前だとしたら
Amazon BedlockでOpenAIやAnthropicをつかうのも
Azureで使うのも「自前で動かさないと動かない」

クローズドだから運用されてるサービスを利用するしかない
でもない

対比がおかしい

でそれと使うのを拒否されたのは
自前のクラウドで動かすのも拒否されたんだからね

awsでアンソロのClaudeをアンソロにだまって使ってたのがパランティア
パランティアは国防省のプロジェクトメイプンをawsのみで動かしてる
awsでしか動かない
そのawsは早い時期の2023年から対Microsoftもあってアンソロピックを客に提供して動かすことができた
セキュアなawsにはセキュアなアンソロがピッタリだった
aws使うなら企業の秘密は守られることが1番の売りだからだ

それをパランティアは逆手に取った
ハメネイ斬首作戦計画策定をさせた
それが後でわかってアンソロダリオが怒ってトランプとアメリカ政府と対立したのは記憶に新しい

ハギングフェイスがやろうとすればアンソロを使うことはできるだろう
そこをやらないのはハギングフェイスが業界の地位があるモラルあるところだからでしかない

【AI】トランプ、「AI人類滅亡説」を一蹴　「中国に勝つこと」を最優先と断言 [煮卵★]
https://asahi.5ch.io/test/read.cgi/newsplus/1789188211/

ai防御にはglmが覇権ってことでいいね？