【セキュリティ】AIチャットボットに「偽の記憶」を植え付けることで仮想通貨を盗む攻撃が報告される [すらいむ★]

AIチャットボットに「偽の記憶」を植え付けることで仮想通貨を盗む攻撃が報告される

　大規模言語モデル(LLM)の技術の進歩と共に複雑なタスクをこなすAIエージェントが登場しており、金融の世界ではすでに「人間の代わりに投資の判断を高度なレベルで行うAIエージェント」も登場しています。
　しかし、こうしたAIエージェントに「偽の記憶」を注入することで仮想通貨を盗み取る新たな攻撃手法が明らかとなりました。

　[2503.16248] Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents
　https://arxiv.org/abs/2503.16248

（以下略、続きはソースでご確認ください）

Gigazine 2025年05月14日 12時00分
https://gigazine.net/news/20250514-web3-ai-agents-with-fake-memories/

このスレタイが勘違いさせるように仕組むのが
ギガ人と
似非科学板

ここでのAIチャットボットとは
ElizaOSというOSという名前がそもそも偽りの
仮想通貨の自動化エージェントだ

仮想通貨の自動化エージェントをハックするわけだ
ハックの影響は仮想通貨取引になるのは当たり前だ

アホギガ人

記憶というかデータね
書き換えされりゃハックされるでしょうよ
ただ影響は浸透してるな

大麻とかどうするんだろう

これは人間と同じ結果になりましたね
日頃からよく見る情報は嘘であっても信じるという論文がある

>>5

AIは忘れないからどこでその情報を知ったⓀが判明する
人間はどこでその情報を知ったかの情報があいまいになる場合がある