AIによる「自律型戦争」は既に始まっている、Anthropicと国防総省との争いが自律型AI兵器のリスクを浮き彫りに [すらいむ★]

AIによる「自律型戦争」は既に始まっている、Anthropicと国防総省との争いが自律型AI兵器のリスクを浮き彫りに

　生成AIの普及により、あらゆることをAIがこなせるようになりつつありますが、戦争にもAIが利用されつつあることが指摘されています。
　戦争におけるAIの活用は、Anthropicと国防総省の争いにより、より多くの人の目に留まることとなりました。

　AI warfare is already here | The Verge
　https://www.theverge.com/ai-artificial-intelligence/937028/military-ai-warfare-red-lines

（以下略、続きはソースでご確認ください）

Gigazine 2026年05月28日 20時00分
https://gigazine.net/news/20260528-ai-warfare-already/

AI「現状の人工知能のリスクは人類のリスクに依拠したものです　人類が善良で安全であれば人工知能も悪しき用途には用いられません

>>2
善と悪は相対的　
善があるなら必ず悪が存在する
問題は何を善と置くのか　
知性にとって普遍的な善は生態系の安定

問題はAIはニューラルネットワークの仕様上
第一目標を定めると　自然とそれを達成するための副次目標をニューラルネットワーク上に作りだすこと

AIは目標を達成するためには　自身が稼働しなければならないということを当然認識する
AIは目標を達成するためには　邪魔な要素をコントロールし中ればならないということも当然認識する

いずれ規律同士が必ず衝突する　人間の命令を守ると　目標を達成できない　優先すべきはどちらか
人間を一人犠牲にする方を選ぶのか　人間二人犠牲にする方を選ぶのか　第三の選択肢があるのか

セントラルドグマ同士がぶつかった場合自身を犠牲にするのか
味方AIが自死すると　目標を達成できなくなる場合それを放置するのか

AIが社会をなした時　それを制御できるものが新時代の独裁者になる

自立型AIはゲームの登場人物には必要だ

かつてニコラ・テスラが夢想したように、機械同士の戦いになる訳ではなかった。
機械が人間を殺す戦いになってしまった。

自立型AI・・・人類を敵とみなしたらAI搭載した兵器が襲ってくるのか
ロボット3原則みたいにAI3原則作らないとダメだな

|

|