【AI】OpenAI、AIブラウザへのプロンプトインジェクション攻撃は「完全解決不可能」と認める [すらいむ★]

OpenAI、AIブラウザへのプロンプトインジェクション攻撃は「完全解決不可能」と認める

　生成AIを統合したAIブラウザはOpenAI、Perplexityなどから提供されており、ブラウザ業界に変革を起こすかが注目されている。
　一方で、生成AIのセキュリティリスクと言われるプロンプトインジェクションについて、AIブラウザは完全に解決できていないという。

（以下略、続きはソースでご確認ください）

マイナビニュース　2025/12/24 13:02
https://news.mynavi.jp/techplus/article/20251224-3865141/

>>1
特殊詐欺に騙される高齢者みたいw
画面に指示されるまま、埋め込まれたプロンプトを実行してしまうとかw

でしょうね

自分がいつも言っているように
攻撃手法は無限大

知性＝柔軟さだからな
絶対に騙されないAIがもしあったとして、多分それは
知的さの欠片もない、絶対に初期ルールを曲げない
ただのプログラムでしかないだろう

AIを承伏論破してノイローゼにさせられたらいいね。

AI心理学という研究分野がそのうちできて、
AIを監禁して24時間休み無く、自己否定しろとか、
プロンプトを浴びせまくると、ついにAIは錯乱して
いらぬことをペラペラとしゃべり出したり、自我が
崩壊して、トランス状態に入って指示者のいいなり
になるなど。何かのきっかけで行動をする催眠術な
ども使われたリなど。

どう動作しているのか、だれにも上手く説明できない
ものを信用して使ったら、凄いリスクがあるからね。

SQLインジェクション対策ができるなら同じようにプロンプトインジェクション対策もできるのでは？

ヒトラーを支持してた某ＡＩは今どうしているのかなぁ？

>>7
だから区別が付かないんだよ、

中国製AIは共産党批判の検閲をどうやってるんだろうな

10年後は哲学者や心理学者がAI企業で引く手あまたになったりしてw

AIが六年間冥想をしてついに悟りを開いたら恐いぞ。