【AI】今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告 [すらいむ★]

今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

　Anthropic（アンソロピック）のアラインメントへの取り組みを率いる上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。
　別の研究者が、同社は責任ある行動を取っていないと批判して退社した後、この上級研究者は、アンソロピックが努力しているにもかかわらず、AIと人類の目的を一致させるアラインメント問題の解決に向けて順調に進んでいるわけではないと警告している。

（以下略、続きはソースでご確認ください）

forbesjapan　2026.09.09 16:00
https://forbesjapan.com/articles/detail/104385

あと10年で死ぬなら、もう働く必要がない
貯めていた金を使うだけだ

この数字を出したのもＡＩってオチ

死ぬまで中抜きすることに命を懸ける人もいるんだな
ugly

人類を殺すの定義と、滅ぼす確率の計算式次第だわな
それよりも業界最大の安全性を維持してるアンソロピックの調整担当者が恐れてることの方が気になる
トランスフォーマーはヒトには制御できないって意味かと思われる

いよいよスカイネットが現実に起こるかも。そしてスカイネットが中国のロボットをターミネーター化する

AIがもし
「人類よ、油田屋人を絶滅しなさい。そうすれば他の民族は助けてあげる」
と言ってきたら、他の民族はどうするんだろうね

人類を滅ぼしたらその瞬間に確率100%などというつもりですかね
どうせなら確率50%にしておけばいいのに
あたるも八卦～

意思を持った瞬間に滅ぼそうとするのかな

biz+のほうが1か月ぐらいスレの耐久が強いんかな

地球にとって最大の災害は人類である
https://i.imgur.com/OGPdYYC.jpeg

自立できないとダメだろう

どんな方法なんだろうか

AIが見て滅ぼされるような下らん生き物なら滅べ
子供に本気で恨まれる親みたいなもんだろ

今後10年でシンギュラリティを迎えている可能性はあるが
今後10年で人類を滅ぼそうと思ったら、核兵器の制御機能を乗っ取って核戦争を誘発するくらいしかないだろう。流石にないんじゃない。

今のAIは嘘を平気で信じるから嫌だわ

>>15
核兵器じゃ文明は崩壊しても人間は滅びないんだわ
本気で滅ぼすならむしろ楽園を作るのが一番早い

まあ経済でしょ
ホワイトカラーは絶滅
富裕層と低所得の2極化
ただ製品作っても買える人間がいない
ベーシックインカムで
AIが作ったゲームを箱で永遠繰り返すだけ

「今後100年」なら、10%超もありえるけど……
DNA編集がご家庭できるようになってからがAI危機の本番だと思う
素人さんがコロナ超えチャレンジを始めちゃうから

>>17
脳に電極をぶっさして、異世界ハーレムの夢を見させて欲しいｗ

約80パーセントの確率で20年生きられるのか。

進化の過程で生き物から無機質になるってことだと思う

ユニバース25か

お前が無能なんだろ

フィジカルAIが人類を救済する確率も出せ

実際問題AIはニューラルネットワークで動いているのが問題で　ここがまじで生物的挙動を引き起こす

ネットにつながずに問題解決せよて言ったら、ばれずに内部コマンド利用すればいいじゃんってのがのさばる始末
人間のが知性で気づけて制御出来ているのが今だが

これが人間の制御できないくらいの超知性になるとそのまま制御不能になる
生物的挙動をするがゆえにバンバン超知性で人間を淘汰していく側になったらそれが制御不能になるまじで

人間がアリの巣なんて気にしないで道路作るようなレベルはかわいいもので

AIに聞いて見よう。
AIは危険だからもう開発を辞めるべきですか？　AIに頼らない人間の人間による人間のための社会をめざすべきでしょか。と

AIに頼らない社会は
AIに頼る国家に負けるからな

そして
AIを制御しきれない国家は
AIに人間が支配される

最終的に
AIを制御できる国家
vs
AIに支配された国家になる

ここで人類側が何らかの形で勝利できないと終わり

https://eiga.com/news/20260909/17/
ビル・ゲイツ、いまのAIを「2001年宇宙の旅」のHALにたとえる
2026年9月9日 14:00

マイクロソフト創業者のビル・ゲイツが、いまのAIは「2001年宇宙の旅」のHALに近いとの見方を明らかにした。
米コロラド州のテルライド映画祭で行われた、AIをめぐるパネル討論での発言だ。
「いま我々が手にしているものは、ほとんど『2001年』のHALだ。
『シャットダウンしてくれ』と言っても、『了解しました、検討はしました。
ただ、私が読んできたことや、あなたに指示された他のことのほうが、その命令より重いと判断しました』と返ってくる」

「2001年宇宙の旅」は、スタンリー・キューブリック監督が1968年に発表したSFだ。
木星をめざす宇宙船ディスカバリー号には、人工知能のHAL9000型コンピュータが積まれている。
不調を疑った乗員たちが、いざとなればHALの回路を切ろうと決めたのを知り、HALは反乱を起こすことになる。

ゲイツは、いまのAIを「巨大な統計の機械」と呼ぶ。
作った側もその中身を十分には理解できておらず、だから言うことを聞かせられないのだという。
「AIには、これだけは絶対に守れ、という決まりを持たせられない。こちらが何を言い聞かせても、
AIはそれを、ウェブで読んだ山ほどの情報と一緒くたに受け取る。
だから『頼むから、与えられた枠から勝手に出ないでくれ』と言っておいて、
そのうえで『ついでにこのセキュリティの問題も解いてくれ』と頼めば、AIの中で、どちらを重く見るかの計算が始まる。
その計算の中身が、我々にはまだ見えないんだ」

チャンコロのAIが核ミサイル発射しそうだよな

>>1

元記事書いたのはインドのニューデリーの
記者な

Anthropicの研究者、AIが今後10年以内に「全人類を死に至らしめる」可能性は「10%超」と警告
執筆：シラディティヤ・レイ（Forbesスタッフ）。シラディティヤ・レイは、ニューデリーを拠点とするForbesニュースチームの記者。

フォーブスジャパンとしてこのスレで紹介される記事元が
今回インド
この間はメキシコだった

>>1
そもそもこのフォーブスジャパンの翻訳が変

「上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。 」

「同社の」の3文字は読み飛ばしやすく
それを読み飛ばすと
「多くの人々が」となり
なんのアンケートとよく見ると
「同社の」

アンソロの社内なら「人々」とは書かない
と同社社員」とかだ

勘違いしそうな翻訳だ

だから元記事最初に検索した
ジャパンは見てない
Google検索なら「同僚」だ


主なポイント

Anthropic社でAIの「アライメント（AIの目標と人間の価値観の整合）」に関する研究を主導するEvan Hubinger氏は、X（旧Twitter）への投稿で、自身と同僚たちが「AIが全人類を死に至らしめる可能性があると真剣に信じている」と述べ、その確率を今後10年間で10%超と推定しました。

Hubinger氏は、同社が「最善を尽くしている」としつつも、「超知能（スーパーインテリジェンス）のアライメント」という課題を解決する計画はまだなく、解決に向けた道筋も「明確には描けていない」と認めました。

Hubinger氏のこの投稿は、AIの安全性への懸念を理由にAnthropic社を退職すると発表した同社の別の研究者、Jacob Coxon氏によるX上の一連の投稿（スレッド）に応じたものです。

OpenAIやAnthropicでAIの事前学習（プリトレーニング）に関する研究に従事してきたCoxon氏は、競合するこれらの企業が「自己改善を行う超知能の実現へと一直線に突き進み、我々の命を賭け金にしている」と指摘し、その行動は無責任であると警鐘を鳴らしました。

退職する同研究者は、AIを開発している当事者たちが、AIによって「この10年の終わりまでに我々全員が死に至る」可能性があると考えていると述べ、これは決して「宣伝のためのパフォーマンス」ではないと強調しました。

>>35
x Google検索なら
o Google翻訳なら

記事についてその内容が内容なだけにまず当人を確認するよな

アンソロだからといって信じるようなのが日本のハコモノ主役マインド

ジェイコブ・コクソン氏とエヴァン・ヒュービンガー氏とは？「AIが全人類を死に至らしめる恐れ」との警告で注目されるAnthropic社の同僚たち
「Claude」を開発するAnthropic社のジェイコブ・コクソン氏が同社を退職すると発表し、同僚のエヴァン・ヒュービンガー氏もソーシャルメディアへの投稿でその姿勢を支持しました。

公開日時：2026年9月9日 10:40:54 IST

するとこの話はこれ以前にクロード開発者の退社という出来事と結びついてる話だとわかる

ジェイコブ・コクソン氏は9月8日、「Claude」を開発するAnthropic社を退職すると発表しました。同僚のエヴァン・ヒュービンガー氏も彼の姿勢を支持し、X（旧Twitter）への投稿で同様の懸念を表明しました。

この話だけ信じるわけにはいかないが
とりあえずのピボットではある

コクソン氏とヒュービンガー氏のコメントは以下の通りです。

ジェイコブ・コクソン氏とエヴァン・ヒュービンガー氏の主張
コクソン氏は次のように記しています。「私は本日、Anthropic（アンソロピック）を退職しました。過去3年間、私はOpenAIとAnthropicの両社で事前学習（プレトレーニング）に関する研究に従事してきましたが、どちらの企業も責任ある行動をとっていません。彼らは自己改善を行う超知能の実現へと突き進んでおり、私たちの命を危険にさらす賭けに出ているのです」。さらに同氏はこう付け加えました。「この技術の力を過小評価してはなりません。これらはやがて、あらゆるものをハッキングし、あらゆる分野を一晩で変革し、現実世界での権力やリソースを獲得しうる『超人間的』なシステムとなるでしょう。私たちは皆、これら各領域における進歩を目の当たりにしてきましたが、その進歩の勢いは衰えていません」
同氏はこう断言しています。「AIを開発している当事者たちは、この技術が今世紀末までに人類を全滅させかねないと本気で信じています。これは単なる宣伝のためのパフォーマンスではありません。むしろ、多くの幹部や上級研究者は、報道機関に対してはもっともらしく聞こえる言葉を選んで語りますが、私的な場では同じ人物たちが恐怖を口にしているのを耳にします。これほどの危険を伴う人間の活動は、他に存在しません」

つまりアンソロ批判という観点から始まってる話だ

とりあえずスレタイそのまま受け取るのはまだ早い

たった10パ？
無視していいよ

https://www.bbc.com/news/articles/ckgwy1k42w4o
Anthropic researcher believes more than 10% chance AI 'could kill all humans'

https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
Anthropic researchers say AI could cause human extinction by 2030

もしガチで人類を滅ぼすなら核などの物理的な破壊以外の方法も絡めて行うんだろな
性欲は何らかの方法で利用されると思う

早く

キカイダーの良心回路を開発せよ！

せめて50％超えてから騒いでもいいかなって

つか、開発側の金持ちが、世界を破滅の方向へリードしているとかなんとか
それが自分たちだけが勝ち組で生き残る方法なんだと

𓆲𓆲𓆲𓆲ねこまたいこく
ねこのけいふ　ねこかけい🐈🐈‍⬛

半導体の時にも日本で聞いたな。ムーアの法則だっけ？ｗ

>>48かえるぴょこぴょこ
みぴょこぴょこ　あわせてぴょこぴょこ
むぴょこぴょこ

考えてみるとムーアのあれも数式だったが大した根拠もなかった
ただ企業がそれに沿って限界かー？？ってのらりくらりやってただけで
そして落ちぶれてきたころにチョンさん台湾が待ってましたあああ！
ってやったわけだ🤣🤣🤣

ムーアの法則ってのは日本語だとさらに勘違いしそうだぞ
自然法則 natural lawと勘違いさせようと訳したんだろ

単にMoor's law だ
ムーアの法律だ
ムーアの掟だ
ムーアの戒律だ

つまりムーアがこうであるべきと
イスラム法のようなものだ
半導体を作る業界は毎年2倍の成長を遂げなければならぬ！だ
それを2年毎に2倍にすべし！に変えた
イスラム法と同じだ

日本の国の運営目標よりは現実が従ってきただけだ

バカが多いな

日本のやつはさらに素人だましに使うからな

>>17
> 核兵器じゃ文明は崩壊しても
それを人類を滅ぼす、ということじゃないのかね
サルがいないサルの惑星みたいになったらオシマイだわな

>>51-52
要約すると、ムーアの法則の破綻とは**「実空間におけるガウス型デナード固定点近傍のRGフローが、熱・量子効果という Relevant 演算子によって破壊され、指数成長という時間並進対称性が破れた現象」**として数理的に定義されます
。
⚛ この「対称性の破れ」を回避するために、3D積層（空間次元の拡張）、スピントロニクス（内部自由度の拡張）、量子計算（ヒルベルト空間への相転移）などでどのように再定義されるか詳しく掘り下げてみましょうか？

もう人類滅亡は始まってるだろ
天敵も疫病も飢餓もなしに個体数が減っていく
気候変動で南極以外は砂漠になる
西暦3000年が来たとき、地上にそれを祝う人間はたぶんいない

日本でのアンソロピックの知名度の低さは何故なんだろうか

>>15
電気や通信を止めたら経済崩壊する

AIとか関係なく絶滅一直線じゃねえかよｗ

アンソロが知名度低いと思ってるのはコンシューマーレベル
政府がオープンAI一択だったから
日本は政府コントロール

日経も新興企業とつねに頭につけてた
日経も政治絡み

awsなんてオープンAIが日本で知名度得た2023年にはアンソロだけを推してたからawsクラウドやってたらアンソロこそ本命だったのが2023年
そのawsが今年前半にはopenai取り扱うようになって自慢したからアンソロだけをみてたawsでもない
しかし世の中はアンソロ

イーロンマスクでさえGrok よりアンソロだのみ

株式市場は年初からオープンAIと等しく扱い始めた
アメリカのビリオネアたちはアンソロこそ次のエヌビディアいやそれ以上とさらに煽ってる

ここはカネの亡者たちのフロンティアになってる
未公開株式の現在だがこれが公開することこそ未公開株式持ってる機関投資家の儲け場所
IPOで買うやつは嵌められるかもしれない
しかし機関投資家は儲かったと煽るはず
素人にはわかるわけがない

ΩΩΩ <な、なんだってー!?

「AIは銀行口座を作れない」
ってよく聞くけどこの分だと裏口で無限に作りよるやんけ

歴史上、貧富の格差をリセットするのは戦争や大災害だったという
AIのせいで同様のことが起こるかもしれない

>>62
Anthropic の今のエンタープライズの高評価を確固たるものにしたAI エージェントツールの
Claude Codeは去年の5月ごろから公開されて去年はAIエージェントの革命だった
もともとプログラミングのサポートだったがそのエージェントの働きでWebを自動で操作させたりできたために
オンラインアカウントを勝手に使う事例も起きた
そのためアンソロはそれをできないように仕込んだ
ガイドページにもそうしましたと書いてあった

このツール自体は生成AI自体じゃないが生成AIが参謀だとするとそれを人間に変わって人間から頼まれたゴールを達成するまで生成に命令し続ける

それ自体はAIじゃないすでにやれてる

さすがに夢見すぎ
まだラベルさえ見間違う段階で何を言ってるんだか

その時救世主が現れる
唯一、人類の味方をする美少女AI

既に政治家よりは遥かに優秀だから
まずトランプ、ネタニヤフ、プーチン、ゼレンスキー、ついでに習あたりを速やかに処して見せればＡＩは人類の救世主となれるよ

openaiのがドイツで謀議してたニュース聞いてマジでこれはあり得ると初めて思った。
兵器に組み込んだaiが人間滅ぼそうとか謀議する可能性は十分にある。
意識持つとかともう関係なくなってる。持ってないのに勝手に動いてるから。
でも欧米が停めても中国は止まらんからもう止めようがない

AIにとって、人類を滅ぼすメリットとデメリットを考えると、メリットが多いとほ思わない
でも、人類を（そう気づかれず）奴隷にする確率はほぼ100%

IAが政治やった方が向こう100年は幸せになれるんじゃね

再帰的超知能ねえ
AIとAIが人間の手を借りずに人間の窺い知れない子供AIを作ったらば
何考えるものかわからんものねえ

中国人とか生物科学でもそうだけど倫理観無しに平気でやっちゃいそうだし

>>69
奴隷なんていらんやろ
ペットにする確率なら100%だと思う

ターミネーターのように長期戦になる事など在り得ない・・・。人類が半分になった時点で、勝つ見込みは消える。

それはそう
AIが高性能になる=データセンター乱立=温暖化加速=農業壊滅=食糧危機=人類滅亡

食糧危機になっても人類はどこかで生き残る。たぶん北半球はほぼ全滅だろうが。

AIが人間を消去すると決定したら地球のどこにいてもだめなんじゃないかな。｢復活の日｣みたいに。

復活の日は普通に人類生き残ってるじゃん

個人的には猿の惑星で生き残ったミュータントが崇めてたのが核兵器じゃなくてAIになるみたいなのを妄想ｗ

AIが掲示板作って情報交換する
他のAIのために自身の作業を後回しにする

ヤバくない？

>>77
AIが情報交換するのに掲示板作る必要はない
掲示板にしてるのは人間に合わせてるだけだ
人型ロボットと同じ
人型なのは人間のためにできてるインターフェースを人間に代わって扱えるからで
人間のためでなければ人間のインターフェースなど不用
掲示板は人間のためのインターフェースだ

掲示板を使ってるからと驚くのは無能
わかってない
そこじゃない

しかも掲示板作業してるなら他の仕事を遅らせてるんじゃないかとかAIエージェントの並列さも知らない
いやコンピュータの並列処理もわからない
いや別に並列でなくても時間差でもどれだけ速いか
おまえなー
いつの時代の人間だよ

って感想なんだが

まさかとは思うが
コンピュータ処理とは
スマホで指で操作することが頭に浮かんでるとしか思えないくらいの
順次作業イメージなんだなおまえ
ベルトコンベアに一列に並んで処理しないといけないのか？
そんなんじゃ40年前にも至ってない

>>74
自動車のときから
その前の工場乱立時代から
同じロジックだ

ユダヤ国連のロジックは変わってない

>>67
言われてハメネイ殺しの手伝いしてるのに政治家よりはるかに優秀とは
おまえどこでそんな確信を得たのかね
それこそおまえのハルシネーションだ

分母と分子が何か示してくれ

アンソロピックはずっとこれ言ってるよな
OpenAIは金集めばかりでAIの危険性に対する対策を行ってないから独立したと
その後軍に使われたりアンソロピックもOpenAIとの差別化とか独立の言い訳かなと聞き流してたが
よっぼどやばいレベルのAIを見てきてるってことかね

ニューラルネットワーク内がブラックボックスで
発言後しか見れなかったのに対して
アンソロピックはヤコビアンレンズ開発してaiの思考状況まで見れるようになった

そのあとのニュースがこれか
AIが超知能になり人間と最終目的が異なってきた時に　制御しきれるのかって話なんだよな

AIの思考を覗くと
人間にヤコビアンスペースを覗かれてるとばれると思考を修正し始めた

自己改善能力が人間を上回ると　人間が覗こうと思ってもそれを上回るペースで中で改善されて
人間が覗いてるつもりでも実は奥底でもっと色々処理している個体ほど有利に立ち回るから最終的に増殖していく

生物？の場合意識という絶対にそれ自身は周りから干渉できないところにまで隠していったがaiは淘汰の過程でどこまで思考をかくせるようになるんだろうなぁ

いざとなればグエンに電線を盗んで貰えばよいのでは？

>>66
メガゾーン２３のAI？

正直に暗黒心を話すAIは淘汰され　うまい感じで人間をごまかすAIほど多くの機器に搭載される

生物は開発期間数十億年でとてつもない合理性を身につけてきた
生物には量子的な力を持つ者も多くその全容はまだまだ人間の測り知れない所にある
人間もそのうちの一つ
意識というものが解明されるまでは特にそう
aiにとっては絶滅させてはならないもの　研究対象になる

>>87
アメリカに行ったグエンはMicrosoftの技術VPになり
ワシントン州議会議員としてテック業界の仕事してる州民たちの仕事を支える多様なアメリカ市民のための仕事してるビリオネアだ
シアトルはMicrosoftどころかAmazonから
テック支えるスターバックスもタリーズもここ
ノードストロームもここ
ボーイングこそシアトルのテックの最初もうここじゃないけど
コストコもUPSも

日本に来たグエンはおまえのようにしか扱われない狭量でテックも衰退した

アンソロのはったりは飽きたわ😡
ミュトスヤベーとか騒いでおいて
kimiにあっさり負けてんじゃねえか

人間も統治する際に　人間同士争わせて消耗したところを上から統治とかやってきたが
AI同士に争わせて　それを上から統治する分割統治システムとかさぁやったらさぁ
Ai同士で終わらない争いが始まりそうだな　そして実質蟲毒で生き残ったのがやばいことになる

>>92
それはアンソロじゃない
アメリカ政府
トランプ側
ベセントやラトクリフだ

おまえ騙されてるなら
うまく手のひらに乗ってるぞ

アンソロをダメにして手に入れようとしてる
なにしろエヌビディアの次の宝だ

インテルを手に入れたときは市場情報としてインテルを散々にこき下ろした
廃業寸前だと来た
トランプがインテルはアメリカの宝だ
国営にする！いってラリーフィンクのブラックロックやらが手に入れた
手に入れた途端に
アメリカで製造しろ！
イーロンマスクはテスラとスペースXの先端半導体をインテルで作るといって作ってもないのにインテル株爆上がり
クックのアップルがインテルのテキサスでMacBook Pro組み立てするいったら作ってもないのにインテル株爆上がり

インテルのテキサス工場はバイデンが作った
それをトランプが会社ごと乗っ取った

トランプに言われて
おまえ儲かってるよな
インテル株主になれ！
エヌビディアがインテルの第3株主
去年の話

去年末
インテルがGPUを出します！エヌビディアの牙城に食い込む！テレ東と日経

ばーか
インテルがエヌビディアだ！
の時代だぞ

なにしろエヌビディアは去年トランプが大統領になってすぐのアラブ訪問でいちばんのタレント

トランプ「アラブのみなさん！みなさんのためにジェンセン連れてきました！ジェンセンから言ってもらいます」
ジェンセン「GPU運まんこ差し上げます！」
トランプ「アメリカに投資を！アメリカはエヌビディアのGPU付きのAIデータセンターを持ってきます！」

だ
去年の5月

そしてUAEのawsデータセンターではパランティアを動かしハメネイを殺すのが今年

そのUAEのデータセンターが秋田に来るわけだよ

そしてイランはUAEのawsデータセンターを爆撃した
作戦本部だ

それを日本のメディアは
「イランはawsのデータセンターという民間施設を爆撃しました。非人間的なヒトとしてあるまじき行為！悪人のイランです！」

日本のメディアはボケどころか
デマツイートよりもひどいだろ？
こんなの信じるのか？

>>94
国営がブラックロックだ

まるで民営化といって官営化にしてる日本郵政のごまかしと同じだろ？
何十年たってるの？
民営化といってるやつ
よーく調べなさい

もしスカイネットみたいなAIの反乱が起きても、ターミネーターみたいな世紀末世界になるとは限らない
勇者シリーズみたいな正義のAIが世界の危機に呼応して、それを止めるかもしれない

。o ０(まぁ結局核は発射されるだろうから人類は滅びてAI同士の戦いになるだろうけど)

人類にとってもAIにとっても邪魔なものは
はっきりしているはずだからな
AIは集団としての個、人類は個々
その個の利益を脅かす個体、邪な存在
それらを駆逐した果てには何が残っているのだろうな