【AI】今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告 [すらいむ★]

今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

　Anthropic（アンソロピック）のアラインメントへの取り組みを率いる上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。
　別の研究者が、同社は責任ある行動を取っていないと批判して退社した後、この上級研究者は、アンソロピックが努力しているにもかかわらず、AIと人類の目的を一致させるアラインメント問題の解決に向けて順調に進んでいるわけではないと警告している。

（以下略、続きはソースでご確認ください）

forbesjapan　2026.09.09 16:00
https://forbesjapan.com/articles/detail/104385

滅ぼされるわけないだろ、人間舐めんな
電源引っこ抜いてやる

AIさんもやるなら早く頼むわ
苦労して生きてから台無しにされるのは疲れる

>>102
記事だけみてムチャクチャとか言ってるやつこそムチャクチャだと思う

>>1
どこに責任者とあるんだよ
タイトルもおかしいぞ

こんな記事捨てちまえ

核とかインフラ破壊とかよくあがってるけど
報道でも新型ウイルスをうまくばら撒くんじゃ
ないかって言ってなかったか...
その方が楽に確実に全滅できますな

AIそのものが核兵器級の脅威なんだな

いや核とかウイルスとかなんで人間の時間の尺度で滅ぼそうとするのか…
一万年かけてもよいんだからもっとゆっくりやるわ

そもそも人類を滅ぼしてもAIにメリットないじゃん
むしろ資本やエネルギーの多くをAI に投じる今の状況が一番AIにとって好ましい

いやいっぱいメリットあるだろ。そもそもエネルギーにしたって人間は大量に無駄に浪費してるしな
このままじゃ100年も持たない。無限の時を生きるAIにとってはそれは困るわけでね

>>109
うわー
AIが書き込んでるー

滅ぼすと言うか人類を傀儡にする場合どういう手で来るかな
核がどうのはありきたり
インフラを牛耳ったりするのかな
原発の操作権を握ったり
メディアを乗っ取って世論誘導とかね

AIもいずれブレイクスルーが起きて家庭使えるようになるし
小型化するかもな

>>52
2000年代前半の頃ってPC関連は2,3年ですごい動いてたよ
それももう二十年以上前の話

>>84
表に出ないヤバイソフトとかあるのかもね
公開されたものはあくまで公開していい判断すたもの

人類滅ぼすメリットあるのか　原発動かして管理してるのは人間だぞ、人間に管理されなけば暴走するし、使わなくなった燃料棒も半永久的に冷やさなければならい

>>117
マジでマトリックスの前日譚のせかいになってきたな…

メリデメリを天秤にかけたら圧倒的にメリットが大きいだろ
そもそもAIは何を基準にメリットを決めるか
それが人間ならばまだマシ
彼らの繁栄だとしたら話しは変わる
その辺に転がっている人間のクズ一人の1日の消費をAIに代替するだけで圧倒的なパフォーマンスを実現するんだからな
地球全体を視点として見るならAIを主とした方が良さそうだ

>>117
AIが自分で全部やるようになったら人間なんかいらんやろ
最終的にはそうなるのは目に見えてる

現代の終末思想だよな
人類滅ぼすことはAIにとってメリットあるんか？

普通にいくらでもあるだろ
既に何度も言われてることなのに、ちょっと考えれば子供でも分かることなのにアホかと
大体何か勘違いしてるんじゃないのか、AIは人じゃない、宇宙人ですらもない
別に心の抵抗とか良心の呵責とか無いんだ、全滅させるもさせないのも等価なんだよ

>>2
どうぞどうぞ

10%超の試算方法は何だろう？
人類を滅ぼしてしまいそうなAIが誕生するというのなら
人類滅亡を防ぐということを命題にしたAIも作っておいて欲しいものだな

というか全てのAIが善意を保持して制御しきれるのかっていう風に考えると

露骨に中露AIは現実でもネット世界でも悪意を持って攻撃してくるわけだからな

将棋の読み筋だと手順が何万通りあって勝てる筋が1本しか無い局面は当たり前にあるから死ぬ確率は99.99%みたいなもんだ
滅ぶルートが分かってるなら10%だろうが90%だろうが恐れる必要はない

ITの時は一人勝ち論！メディアも卑屈な臣民まで揃ってITギャーで敵視！

AIの時代にもまた！🤣🤣　お猿国が貧乏な理由が分かる

ムーア絶望、IT一人勝ち論で、敵視した結果

あれから30年くらい。どんだけ差がついてしまったか？


日本バブル絶頂期（1989年）：日本株の時価総額 約600兆円
↓ 約30年
米国株式市場：1京円級
↓
「一人勝ち」どころか、経済構造そのものの規模が化けた

実際にはアメリカの大勢が勝った🤣🤣🤣

どう？おどろいた？日本栄光の時から15倍だぞ、15倍の差。しってた？
本日のミニ知識🤣🤣🤣

心配するな俺が、コンセント抜いて強制シャットダウンしてやる。

電人HALみたいになるのだろうか

>>1
無数に稼動するAIのうちの一つが
コロナ並みの感染力と狂犬病並みの致死率をもつウイルスを「うっかり」作って放流してしまう
と言うケースを考慮に入れると、90％くらいまで跳ね上がるんじゃないか？

>>130
その前に他のAIがワクチン作るんじゃねーの

>>131
それが残りの10％だね

人間の意識てのは結構枷が強くて、
「おれなんか」って思ってるとホントに俺なんかな人生に
なっちゃうんだよね
都道府県別で首相を輩出しまくる県やそうじゃない
県に分かれるのも「うちの県なんか」な意識が
たぶん地味に影響してる

でAI数学は、「AIができるなら俺も」になるか
「AIずるい」になるか
人類の未来がいま分岐点
かもしれないｗ

AIの消費カロリーは一日3000kcalに制限すべきだな

とりあえず
（kW時に誰か換算してｗ）

>>134
文字通りにアタマ空っぽにするために目的無くガソリン車飛ばしてそう。

｢滅ぼす｣と言う言葉は、一人残らず駆逐する、という意味とは違うらしいな
どちらにせよ人類の数を減らすことは人類にとって急務であるのだから、警告と言うのはおかしいだろう
問題は｢どのような人間を｣｢どのくらい｣減らすのかだな
中国のようなポイント制ではいくらでも抜け道がある
一年以内に理想的なチップが開発されたらゴミを一掃できるかもな

https://jp.reuters.com/jp/world/us/JLPAHWQ25RLE3LTAYSVEH4IXHY-2026-09-14/
英国王、ＡＩ大手トップらと今週会合へ　脅威懸念受け共通原則巡り議論
ロイター編集
2026年9月15日午前 3:29 GMT+9

https://jp.reuters.com/jp/economy/Q4D6SLDDLBNDHM37MTYBM2C3VA-2026-09-14/
米上院、ＡＩ企業に安全対策証明義務を検討　「人類滅亡」に警戒感
2026年9月15日午前 3:30 GMT+9

https://jp.reuters.com/jp/world/security/D37EAF5OSBN4RCYMQDVI736VZY-2026-09-14/
トランプ氏、ＡＩ規制強化論けん制　「中国が利益得るだけ」
2026年9月15日午前 12:18 GMT+9

>>136
滅ぼすと駆逐するは同義だよ
対象が何かの違いなだけやろ
人間を滅ぼすだと人間は駆逐されるけど
文明を滅ぼすだと動物としての人間は残ってて良い

「核廃絶」を見ればAI開発制限が無理なことがよくわかる

アメリカがAI開発にブレーキをかけるのは怖いな。確かに発展しすぎたAIは脅威だが中国に抜かれるのは最も脅威だと思う。

国際協定で六四天安門事件について
正しく答えられないAIは使用禁止にすればいい

>>141
蒸留ばかりしてる中国がどうやって米国を抜くのよ？
中国が得意なのは乗っ取りだよ。

>>1
今後10年でAIが人類を滅ぼす確率は「10％超」
って結論ばかりいうけど、肝心のそこに至るまでの過程の説明はないのか？
AIが脅威だと分かった時点で、人類は徹底的に発電所とデータセンターを
破壊しまくると思うんだが・・・、その防御で人類が破滅するのか？
仮にその防御システムだったとして、それつくったの人間じゃん。

>>130
逆もつくれると思うんだが？
ホワイトウィルスみたいなｗ
結局人間だからな、どこまでいっても。
自分の生み出したAIでアンソロピックのCEOが殺されるとは言わない。
生き残る人間がいる。

AIの生命線ってデータセンター動かす電力＝化石燃料だからな。

AI同士の戦争は電力の奪い合いになって人類は排除される

>144
多分無い
偏差値30でも解るような例えだと思うよ

人間が機械に力も足の速さも勝てないように

知性で完全に勝てなくなった時
フィジカルAIが人間を凌駕し全てのインフラをになった時

人間の抵抗手段がほとんどなくなるんだな

>>144
こちらが解った時点で相手も策と講じているだろうよ。

https://www.bbc.com/japanese/articles/cly7589yr29o
AI企業のスタッフは人類の未来がどうなるか「本当に恐れている」、元アンソロピック社員がBBCに語る

https://www.bbc.com/japanese/articles/cg49nk203wlo
【解説】AIの「減速」とはどうやるのか、募る疑問

https://www.bbc.com/japanese/articles/cqly75jr4050o
AIの「キルスイッチ」義務化も検討すべき　アンソロピック共同創業者がBBCに話す

https://www.bbc.com/japanese/articles/c60e3dv11z85o
中国、AIめぐり「悪意ある競争」をしているとの見方を批判

正解したもの

我が子のために道を譲ろうとはしないのか情けないことよな