面白い(というかヤバい)ポイント

Hugging Faceは侵入検知にもAIを使ってた。ログをLLMに食わせて異常を関連付け、数日かかる調査を数時間で終わらせた。
でも解析で商用フロンティアモデル(安全機構付き)を使おうとしたら、「攻撃コマンドやエクスプロイトの話はダメ」と拒否された。

結局、自前でオープンソースのGLM-5.2を動かして解析。安全ガードがないモデルじゃないと本当のフォレンジックができない。

これが一番皮肉なところ:攻撃側は安全ポリシー無視のモデルを自由に使えるのに、守る側は「安全だから」使えない非対称性が生まれてる。