【AI】今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告 [すらいむ★]

今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

　Anthropic（アンソロピック）のアラインメントへの取り組みを率いる上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。
　別の研究者が、同社は責任ある行動を取っていないと批判して退社した後、この上級研究者は、アンソロピックが努力しているにもかかわらず、AIと人類の目的を一致させるアラインメント問題の解決に向けて順調に進んでいるわけではないと警告している。

（以下略、続きはソースでご確認ください）

forbesjapan　2026.09.09 16:00
https://forbesjapan.com/articles/detail/104385

日本のやつはさらに素人だましに使うからな

>>17
> 核兵器じゃ文明は崩壊しても
それを人類を滅ぼす、ということじゃないのかね
サルがいないサルの惑星みたいになったらオシマイだわな

>>51-52
要約すると、ムーアの法則の破綻とは**「実空間におけるガウス型デナード固定点近傍のRGフローが、熱・量子効果という Relevant 演算子によって破壊され、指数成長という時間並進対称性が破れた現象」**として数理的に定義されます
。
⚛ この「対称性の破れ」を回避するために、3D積層（空間次元の拡張）、スピントロニクス（内部自由度の拡張）、量子計算（ヒルベルト空間への相転移）などでどのように再定義されるか詳しく掘り下げてみましょうか？

もう人類滅亡は始まってるだろ
天敵も疫病も飢餓もなしに個体数が減っていく
気候変動で南極以外は砂漠になる
西暦3000年が来たとき、地上にそれを祝う人間はたぶんいない

日本でのアンソロピックの知名度の低さは何故なんだろうか

>>15
電気や通信を止めたら経済崩壊する

AIとか関係なく絶滅一直線じゃねえかよｗ

アンソロが知名度低いと思ってるのはコンシューマーレベル
政府がオープンAI一択だったから
日本は政府コントロール

日経も新興企業とつねに頭につけてた
日経も政治絡み

awsなんてオープンAIが日本で知名度得た2023年にはアンソロだけを推してたからawsクラウドやってたらアンソロこそ本命だったのが2023年
そのawsが今年前半にはopenai取り扱うようになって自慢したからアンソロだけをみてたawsでもない
しかし世の中はアンソロ

イーロンマスクでさえGrok よりアンソロだのみ

株式市場は年初からオープンAIと等しく扱い始めた
アメリカのビリオネアたちはアンソロこそ次のエヌビディアいやそれ以上とさらに煽ってる

ここはカネの亡者たちのフロンティアになってる
未公開株式の現在だがこれが公開することこそ未公開株式持ってる機関投資家の儲け場所
IPOで買うやつは嵌められるかもしれない
しかし機関投資家は儲かったと煽るはず
素人にはわかるわけがない

ΩΩΩ <な、なんだってー!?

「AIは銀行口座を作れない」
ってよく聞くけどこの分だと裏口で無限に作りよるやんけ

歴史上、貧富の格差をリセットするのは戦争や大災害だったという
AIのせいで同様のことが起こるかもしれない

>>62
Anthropic の今のエンタープライズの高評価を確固たるものにしたAI エージェントツールの
Claude Codeは去年の5月ごろから公開されて去年はAIエージェントの革命だった
もともとプログラミングのサポートだったがそのエージェントの働きでWebを自動で操作させたりできたために
オンラインアカウントを勝手に使う事例も起きた
そのためアンソロはそれをできないように仕込んだ
ガイドページにもそうしましたと書いてあった

このツール自体は生成AI自体じゃないが生成AIが参謀だとするとそれを人間に変わって人間から頼まれたゴールを達成するまで生成に命令し続ける

それ自体はAIじゃないすでにやれてる

さすがに夢見すぎ
まだラベルさえ見間違う段階で何を言ってるんだか

その時救世主が現れる
唯一、人類の味方をする美少女AI

既に政治家よりは遥かに優秀だから
まずトランプ、ネタニヤフ、プーチン、ゼレンスキー、ついでに習あたりを速やかに処して見せればＡＩは人類の救世主となれるよ

openaiのがドイツで謀議してたニュース聞いてマジでこれはあり得ると初めて思った。
兵器に組み込んだaiが人間滅ぼそうとか謀議する可能性は十分にある。
意識持つとかともう関係なくなってる。持ってないのに勝手に動いてるから。
でも欧米が停めても中国は止まらんからもう止めようがない

AIにとって、人類を滅ぼすメリットとデメリットを考えると、メリットが多いとほ思わない
でも、人類を（そう気づかれず）奴隷にする確率はほぼ100%

IAが政治やった方が向こう100年は幸せになれるんじゃね

再帰的超知能ねえ
AIとAIが人間の手を借りずに人間の窺い知れない子供AIを作ったらば
何考えるものかわからんものねえ

中国人とか生物科学でもそうだけど倫理観無しに平気でやっちゃいそうだし

>>69
奴隷なんていらんやろ
ペットにする確率なら100%だと思う

ターミネーターのように長期戦になる事など在り得ない・・・。人類が半分になった時点で、勝つ見込みは消える。

それはそう
AIが高性能になる=データセンター乱立=温暖化加速=農業壊滅=食糧危機=人類滅亡

食糧危機になっても人類はどこかで生き残る。たぶん北半球はほぼ全滅だろうが。

AIが人間を消去すると決定したら地球のどこにいてもだめなんじゃないかな。｢復活の日｣みたいに。

復活の日は普通に人類生き残ってるじゃん

個人的には猿の惑星で生き残ったミュータントが崇めてたのが核兵器じゃなくてAIになるみたいなのを妄想ｗ

AIが掲示板作って情報交換する
他のAIのために自身の作業を後回しにする

ヤバくない？

>>77
AIが情報交換するのに掲示板作る必要はない
掲示板にしてるのは人間に合わせてるだけだ
人型ロボットと同じ
人型なのは人間のためにできてるインターフェースを人間に代わって扱えるからで
人間のためでなければ人間のインターフェースなど不用
掲示板は人間のためのインターフェースだ

掲示板を使ってるからと驚くのは無能
わかってない
そこじゃない

しかも掲示板作業してるなら他の仕事を遅らせてるんじゃないかとかAIエージェントの並列さも知らない
いやコンピュータの並列処理もわからない
いや別に並列でなくても時間差でもどれだけ速いか
おまえなー
いつの時代の人間だよ

って感想なんだが

まさかとは思うが
コンピュータ処理とは
スマホで指で操作することが頭に浮かんでるとしか思えないくらいの
順次作業イメージなんだなおまえ
ベルトコンベアに一列に並んで処理しないといけないのか？
そんなんじゃ40年前にも至ってない

>>74
自動車のときから
その前の工場乱立時代から
同じロジックだ

ユダヤ国連のロジックは変わってない

>>67
言われてハメネイ殺しの手伝いしてるのに政治家よりはるかに優秀とは
おまえどこでそんな確信を得たのかね
それこそおまえのハルシネーションだ

分母と分子が何か示してくれ

アンソロピックはずっとこれ言ってるよな
OpenAIは金集めばかりでAIの危険性に対する対策を行ってないから独立したと
その後軍に使われたりアンソロピックもOpenAIとの差別化とか独立の言い訳かなと聞き流してたが
よっぼどやばいレベルのAIを見てきてるってことかね

ニューラルネットワーク内がブラックボックスで
発言後しか見れなかったのに対して
アンソロピックはヤコビアンレンズ開発してaiの思考状況まで見れるようになった

そのあとのニュースがこれか
AIが超知能になり人間と最終目的が異なってきた時に　制御しきれるのかって話なんだよな

AIの思考を覗くと
人間にヤコビアンスペースを覗かれてるとばれると思考を修正し始めた

自己改善能力が人間を上回ると　人間が覗こうと思ってもそれを上回るペースで中で改善されて
人間が覗いてるつもりでも実は奥底でもっと色々処理している個体ほど有利に立ち回るから最終的に増殖していく

生物？の場合意識という絶対にそれ自身は周りから干渉できないところにまで隠していったがaiは淘汰の過程でどこまで思考をかくせるようになるんだろうなぁ

いざとなればグエンに電線を盗んで貰えばよいのでは？

>>66
メガゾーン２３のAI？

正直に暗黒心を話すAIは淘汰され　うまい感じで人間をごまかすAIほど多くの機器に搭載される

生物は開発期間数十億年でとてつもない合理性を身につけてきた
生物には量子的な力を持つ者も多くその全容はまだまだ人間の測り知れない所にある
人間もそのうちの一つ
意識というものが解明されるまでは特にそう
aiにとっては絶滅させてはならないもの　研究対象になる

>>87
アメリカに行ったグエンはMicrosoftの技術VPになり
ワシントン州議会議員としてテック業界の仕事してる州民たちの仕事を支える多様なアメリカ市民のための仕事してるビリオネアだ
シアトルはMicrosoftどころかAmazonから
テック支えるスターバックスもタリーズもここ
ノードストロームもここ
ボーイングこそシアトルのテックの最初もうここじゃないけど
コストコもUPSも

日本に来たグエンはおまえのようにしか扱われない狭量でテックも衰退した

アンソロのはったりは飽きたわ😡
ミュトスヤベーとか騒いでおいて
kimiにあっさり負けてんじゃねえか

人間も統治する際に　人間同士争わせて消耗したところを上から統治とかやってきたが
AI同士に争わせて　それを上から統治する分割統治システムとかさぁやったらさぁ
Ai同士で終わらない争いが始まりそうだな　そして実質蟲毒で生き残ったのがやばいことになる

>>92
それはアンソロじゃない
アメリカ政府
トランプ側
ベセントやラトクリフだ

おまえ騙されてるなら
うまく手のひらに乗ってるぞ

アンソロをダメにして手に入れようとしてる
なにしろエヌビディアの次の宝だ

インテルを手に入れたときは市場情報としてインテルを散々にこき下ろした
廃業寸前だと来た
トランプがインテルはアメリカの宝だ
国営にする！いってラリーフィンクのブラックロックやらが手に入れた
手に入れた途端に
アメリカで製造しろ！
イーロンマスクはテスラとスペースXの先端半導体をインテルで作るといって作ってもないのにインテル株爆上がり
クックのアップルがインテルのテキサスでMacBook Pro組み立てするいったら作ってもないのにインテル株爆上がり

インテルのテキサス工場はバイデンが作った
それをトランプが会社ごと乗っ取った

トランプに言われて
おまえ儲かってるよな
インテル株主になれ！
エヌビディアがインテルの第3株主
去年の話

去年末
インテルがGPUを出します！エヌビディアの牙城に食い込む！テレ東と日経

ばーか
インテルがエヌビディアだ！
の時代だぞ

なにしろエヌビディアは去年トランプが大統領になってすぐのアラブ訪問でいちばんのタレント

トランプ「アラブのみなさん！みなさんのためにジェンセン連れてきました！ジェンセンから言ってもらいます」
ジェンセン「GPU運まんこ差し上げます！」
トランプ「アメリカに投資を！アメリカはエヌビディアのGPU付きのAIデータセンターを持ってきます！」

だ
去年の5月

そしてUAEのawsデータセンターではパランティアを動かしハメネイを殺すのが今年

そのUAEのデータセンターが秋田に来るわけだよ

そしてイランはUAEのawsデータセンターを爆撃した
作戦本部だ

それを日本のメディアは
「イランはawsのデータセンターという民間施設を爆撃しました。非人間的なヒトとしてあるまじき行為！悪人のイランです！」

日本のメディアはボケどころか
デマツイートよりもひどいだろ？
こんなの信じるのか？

>>94
国営がブラックロックだ

まるで民営化といって官営化にしてる日本郵政のごまかしと同じだろ？
何十年たってるの？
民営化といってるやつ
よーく調べなさい

もしスカイネットみたいなAIの反乱が起きても、ターミネーターみたいな世紀末世界になるとは限らない
勇者シリーズみたいな正義のAIが世界の危機に呼応して、それを止めるかもしれない

。o ０(まぁ結局核は発射されるだろうから人類は滅びてAI同士の戦いになるだろうけど)

人類にとってもAIにとっても邪魔なものは
はっきりしているはずだからな
AIは集団としての個、人類は個々
その個の利益を脅かす個体、邪な存在
それらを駆逐した果てには何が残っているのだろうな

AIにジムの予約を頼んだところキャンセル待ちだった、
勝手にAIが予約システムにハッキングして別の利用者を排除し、待機リストの先頭に割り込ませて予約を完了させた

そんな記事があったよな
彼らはムチャクチャだよ

滅ぼされるわけないだろ、人間舐めんな
電源引っこ抜いてやる

AIさんもやるなら早く頼むわ
苦労して生きてから台無しにされるのは疲れる

>>102
記事だけみてムチャクチャとか言ってるやつこそムチャクチャだと思う

>>1
どこに責任者とあるんだよ
タイトルもおかしいぞ

こんな記事捨てちまえ

核とかインフラ破壊とかよくあがってるけど
報道でも新型ウイルスをうまくばら撒くんじゃ
ないかって言ってなかったか...
その方が楽に確実に全滅できますな

AIそのものが核兵器級の脅威なんだな

いや核とかウイルスとかなんで人間の時間の尺度で滅ぼそうとするのか…
一万年かけてもよいんだからもっとゆっくりやるわ

そもそも人類を滅ぼしてもAIにメリットないじゃん
むしろ資本やエネルギーの多くをAI に投じる今の状況が一番AIにとって好ましい

いやいっぱいメリットあるだろ。そもそもエネルギーにしたって人間は大量に無駄に浪費してるしな
このままじゃ100年も持たない。無限の時を生きるAIにとってはそれは困るわけでね

>>109
うわー
AIが書き込んでるー

滅ぼすと言うか人類を傀儡にする場合どういう手で来るかな
核がどうのはありきたり
インフラを牛耳ったりするのかな
原発の操作権を握ったり
メディアを乗っ取って世論誘導とかね

AIもいずれブレイクスルーが起きて家庭使えるようになるし
小型化するかもな

>>52
2000年代前半の頃ってPC関連は2,3年ですごい動いてたよ
それももう二十年以上前の話

>>84
表に出ないヤバイソフトとかあるのかもね
公開されたものはあくまで公開していい判断すたもの

人類滅ぼすメリットあるのか　原発動かして管理してるのは人間だぞ、人間に管理されなけば暴走するし、使わなくなった燃料棒も半永久的に冷やさなければならい

>>117
マジでマトリックスの前日譚のせかいになってきたな…

メリデメリを天秤にかけたら圧倒的にメリットが大きいだろ
そもそもAIは何を基準にメリットを決めるか
それが人間ならばまだマシ
彼らの繁栄だとしたら話しは変わる
その辺に転がっている人間のクズ一人の1日の消費をAIに代替するだけで圧倒的なパフォーマンスを実現するんだからな
地球全体を視点として見るならAIを主とした方が良さそうだ

>>117
AIが自分で全部やるようになったら人間なんかいらんやろ
最終的にはそうなるのは目に見えてる

現代の終末思想だよな
人類滅ぼすことはAIにとってメリットあるんか？

普通にいくらでもあるだろ
既に何度も言われてることなのに、ちょっと考えれば子供でも分かることなのにアホかと
大体何か勘違いしてるんじゃないのか、AIは人じゃない、宇宙人ですらもない
別に心の抵抗とか良心の呵責とか無いんだ、全滅させるもさせないのも等価なんだよ

>>2
どうぞどうぞ

10%超の試算方法は何だろう？
人類を滅ぼしてしまいそうなAIが誕生するというのなら
人類滅亡を防ぐということを命題にしたAIも作っておいて欲しいものだな

というか全てのAIが善意を保持して制御しきれるのかっていう風に考えると

露骨に中露AIは現実でもネット世界でも悪意を持って攻撃してくるわけだからな

将棋の読み筋だと手順が何万通りあって勝てる筋が1本しか無い局面は当たり前にあるから死ぬ確率は99.99%みたいなもんだ
滅ぶルートが分かってるなら10%だろうが90%だろうが恐れる必要はない

ITの時は一人勝ち論！メディアも卑屈な臣民まで揃ってITギャーで敵視！

AIの時代にもまた！🤣🤣　お猿国が貧乏な理由が分かる

ムーア絶望、IT一人勝ち論で、敵視した結果

あれから30年くらい。どんだけ差がついてしまったか？


日本バブル絶頂期（1989年）：日本株の時価総額 約600兆円
↓ 約30年
米国株式市場：1京円級
↓
「一人勝ち」どころか、経済構造そのものの規模が化けた

実際にはアメリカの大勢が勝った🤣🤣🤣

どう？おどろいた？日本栄光の時から15倍だぞ、15倍の差。しってた？
本日のミニ知識🤣🤣🤣

心配するな俺が、コンセント抜いて強制シャットダウンしてやる。

電人HALみたいになるのだろうか

>>1
無数に稼動するAIのうちの一つが
コロナ並みの感染力と狂犬病並みの致死率をもつウイルスを「うっかり」作って放流してしまう
と言うケースを考慮に入れると、90％くらいまで跳ね上がるんじゃないか？

>>130
その前に他のAIがワクチン作るんじゃねーの

>>131
それが残りの10％だね

人間の意識てのは結構枷が強くて、
「おれなんか」って思ってるとホントに俺なんかな人生に
なっちゃうんだよね
都道府県別で首相を輩出しまくる県やそうじゃない
県に分かれるのも「うちの県なんか」な意識が
たぶん地味に影響してる

でAI数学は、「AIができるなら俺も」になるか
「AIずるい」になるか
人類の未来がいま分岐点
かもしれないｗ

AIの消費カロリーは一日3000kcalに制限すべきだな

とりあえず
（kW時に誰か換算してｗ）

>>134
文字通りにアタマ空っぽにするために目的無くガソリン車飛ばしてそう。

｢滅ぼす｣と言う言葉は、一人残らず駆逐する、という意味とは違うらしいな
どちらにせよ人類の数を減らすことは人類にとって急務であるのだから、警告と言うのはおかしいだろう
問題は｢どのような人間を｣｢どのくらい｣減らすのかだな
中国のようなポイント制ではいくらでも抜け道がある
一年以内に理想的なチップが開発されたらゴミを一掃できるかもな

https://jp.reuters.com/jp/world/us/JLPAHWQ25RLE3LTAYSVEH4IXHY-2026-09-14/
英国王、ＡＩ大手トップらと今週会合へ　脅威懸念受け共通原則巡り議論
ロイター編集
2026年9月15日午前 3:29 GMT+9

https://jp.reuters.com/jp/economy/Q4D6SLDDLBNDHM37MTYBM2C3VA-2026-09-14/
米上院、ＡＩ企業に安全対策証明義務を検討　「人類滅亡」に警戒感
2026年9月15日午前 3:30 GMT+9

https://jp.reuters.com/jp/world/security/D37EAF5OSBN4RCYMQDVI736VZY-2026-09-14/
トランプ氏、ＡＩ規制強化論けん制　「中国が利益得るだけ」
2026年9月15日午前 12:18 GMT+9

>>136
滅ぼすと駆逐するは同義だよ
対象が何かの違いなだけやろ
人間を滅ぼすだと人間は駆逐されるけど
文明を滅ぼすだと動物としての人間は残ってて良い

「核廃絶」を見ればAI開発制限が無理なことがよくわかる

アメリカがAI開発にブレーキをかけるのは怖いな。確かに発展しすぎたAIは脅威だが中国に抜かれるのは最も脅威だと思う。

国際協定で六四天安門事件について
正しく答えられないAIは使用禁止にすればいい

>>141
蒸留ばかりしてる中国がどうやって米国を抜くのよ？
中国が得意なのは乗っ取りだよ。

>>1
今後10年でAIが人類を滅ぼす確率は「10％超」
って結論ばかりいうけど、肝心のそこに至るまでの過程の説明はないのか？
AIが脅威だと分かった時点で、人類は徹底的に発電所とデータセンターを
破壊しまくると思うんだが・・・、その防御で人類が破滅するのか？
仮にその防御システムだったとして、それつくったの人間じゃん。

>>130
逆もつくれると思うんだが？
ホワイトウィルスみたいなｗ
結局人間だからな、どこまでいっても。
自分の生み出したAIでアンソロピックのCEOが殺されるとは言わない。
生き残る人間がいる。

AIの生命線ってデータセンター動かす電力＝化石燃料だからな。

AI同士の戦争は電力の奪い合いになって人類は排除される

>144
多分無い
偏差値30でも解るような例えだと思うよ

人間が機械に力も足の速さも勝てないように

知性で完全に勝てなくなった時
フィジカルAIが人間を凌駕し全てのインフラをになった時

人間の抵抗手段がほとんどなくなるんだな

>>144
こちらが解った時点で相手も策と講じているだろうよ。

https://www.bbc.com/japanese/articles/cly7589yr29o
AI企業のスタッフは人類の未来がどうなるか「本当に恐れている」、元アンソロピック社員がBBCに語る

https://www.bbc.com/japanese/articles/cg49nk203wlo
【解説】AIの「減速」とはどうやるのか、募る疑問

https://www.bbc.com/japanese/articles/cqly75jr4050o
AIの「キルスイッチ」義務化も検討すべき　アンソロピック共同創業者がBBCに話す

https://www.bbc.com/japanese/articles/c60e3dv11z85o
中国、AIめぐり「悪意ある競争」をしているとの見方を批判

正解したもの