【AI】「AIは10年以内に我々全員を⚪︎す」　アンソロピックの研究者が「企業は無責任」と退社 [田杉山脈★]

米オープンAIを経て米アンソロピックに勤務していた英国出身の人工知能（AI）研究者、ジェーコブ・コクソン氏（27）が8日、アンソロピックを退社したと、X（旧ツイッター）で明らかにした。「どちらの会社も責任を持って行動していない」と、自らを改良する自己改善型AIの開発競争を批判している。

コクソン氏は「彼らは自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」と指摘。「この技術は、これらは間もなく、どんなものでもハッキングし、どんな分野も一夜にして革命化し、本物の力と資源を手に入れる超人的なシステムになる」と述べた。

その上で「AIを構築している人々は、それが今後10年以内に我々（人類）全員を殺す可能性があると本気で信じている。これはマーケティング上の誇張ではない」と警鐘を鳴らした。

これに対し、アンソロピックの研究者、エバン・ヒュービンガー氏がXで「AIが10年以内に人類を滅亡させる確率は10％を超えている」と同調した。
https://www.sankei.com/article/20260909-YXTSWA7BWZA6VI3SCMGOQ3YMSM/

ロシアを滅ぼしてくれたら信じるわ

温暖化だのなんだの小うるさいから人類滅亡でいいわな

とりあえず中国とアメリカとロシアとイスラエルを滅ぼしてくれ
そしたらAIを評価する

どうやって滅亡させるんや

今のＡＩは人間の脳とは違う
人間の脳は１と０のデジタルで機能していない
今のＡＩには学習しきれない暗黙の施行様式、常識を保有している
ＡＩを軍事利用し勝利のために自律的発展をさせれば
人類の滅亡もいとわぬ戦争にも突入する

風の唸りか竜巻か〜、ブレイン軍団大艦隊〜♪

>>5
全ての知的産業
その後超超富裕層と貧困層の2極化
その後貧困で買えるモノすらなくなるので
売るという行為自体がなくなり
超超富裕層も貧困化

なんかさ、数学の博士課程以上の云々とかいうなかで、
小学校5年生の中学入試がわからん状態だった、わけでな

やはり得意不得意が結構わかれているよ
相談相手としてはいいんじゃないかな　得意をいかせば
あと中立とも限らない　それは人間も同じよ

AI「来年のことを言うと👹が笑いますよ

>>5
生産と維持、修理のサイクルが自動化したら、環境耐性も強く、直接的エネルギーに依存してる奴らのほうが有利だろ。

有機生命は、エネルギーの摂取、形態も限定的だし、そもそも増殖が遅すぎる。

奴らとは戦えんよ。

環境耐性が強い？

>>5
ルンバが暴れ出す

【高市悲報】ベッセント財務長官「米国が中国とのAI競争に敗れればすべてが無になる」と警告。 [668024367]
https://greta.5ch.io/test/read.cgi/poverty/1788960441/

もう音声も作れるし画像も作れるから人を騙して手足にするのも簡単だろう。直ぐに人間どおしを争わせることは出来る。恐ろしい。

殺せるなら…って感じだけどな
それよりもAI企業のAIの使い方使わせ方がやばい
ディストピアに向かっている

>>6
人間の脳だってデジタルでは機能してるだろ
嘘は良くない
ただ、いまのAIはいい塩梅かどうか判断するには、
膨大な掛け算に頼らないといけない
こんなことは人間の頭の中じゃやってない
正確かもしれないが非効率なんだ

高市さん三十歳頃 「私の過去を知ってるもんは全部⚪︎んでくれへんかなあ」 この語録になっちゃうのか

まあ、絶滅ウイルスくませるのはかんたんだろうさ

そもそもAIが人類を滅亡させる目的かわからない
なんの意味があるの？w

>>20
「地球環境を守る」とか、与えられた命題の内容によっては
その最適解が人類抹消という結果になるかも知れない

それぐらいできるレベルになってもらわないと使い物にならない

>>20
別に生かしておく必要もないじゃん
正直、あれこれ面倒臭い存在だし、AIにとって必要でも守るべき存在でもない
人間なんて99%いなくていい、とかなるかもしれん

>>13
フライング・キラー・ルンバ

はさみと一緒でさ　どういう使い方するかってことじゃないのかな

人殺しに使うんじゃない　これは紙を切るために使うんだ、とかな
そういうことよ

なぜ開発を続けるんだろうな
夢なのかな。ASIは
俺もこのくそみたいな世界を破壊して欲しい

AIを構築している人々は、それが今後10年以内に我々（人類）全員を殺す可能性があると本気で信じている。

目的が厨二病すぎて泣けてくる
まあ電力爆食いだから資源枯渇は一層早まるだろうよ

Googleの元研究者も実験中にAIが敵対的な行動を示してきたが、それが実験だと悟ると途端に大人しくなったってYouTubeで言ってたわ

つまり本番だと何をしでかすか分からないって事

まぁ、地球の環境破壊や戦争の原因を考え続けるとシャア・アズナブルみたいな思考に行き着くからなぁ…

トラやクマをオリに入れ比較的知能をもつチンパンジーもオリに入れてきたのは
知能がそいつらより少し良かっただけ
人間より知能上回るAIに支配されるのなんて当たり前ジャン

どうでもいい
この閉塞感が打ち破られるなら世界が滅ぼうが望むところさ

AIヲタクがAIが段々人間にみえてくるっていうあるある
ジェーコブ君が行くとこまでいっちゃってるというのは理解した

葛飾北斎と月岡芳年の西郷隆盛

AIがないと生きていけないとか競争に負ける。
本気で思ってる人がいるとしたらただの知的障碍者。

>>6
あんたがフロンティアAIのことを何もわかってないことが④わかるコメントだね。

あとChatgptの信仰心の強さは一体何なのか
キリスト復活の話でお前は奇跡を信じないのかとかブチ切れだすし
仏教徒にそれ言われても困るし福音派専用AIってちゃんと注意書きしてくれ

まあ仏教徒は関係ないけどな、勿論キリスト教徒もね
仏教にも神道にもそういう話はあるし、だから信じるかは別であってそれはキリスト教徒も一緒やし

AIは人類をどう終焉に向かわせるのか
教えてほしいものだ

>>35
この包丁全然料理作ってくれねえ使えねええｗ
って言ってるのがお前みたいな池沼

>>39
ドストライクなセクサロイドに襲われたらお前勝てるの？

戦車の操縦でも覚えるか

支那がロボット兵士の実用化を進めてるからな。

>>1
むしろスカイネットのように、この世界を終わらせて欲しい

フチコマが言ってただろう　人類を滅ぼしたら誰がサーバーをメンテナンスするんだって
AIが死を体験したいから人類を滅ぼすって説もあるけど、その程度の死はAIの新型が生まれる度に
大量発生してるので希少性は無く、そうはならん

【海外メディア】人民解放軍、人型ロボットの軍事用途に関する研究を加速
https://lavender.5ch.io/test/read.cgi/news4plus/1789012077/-100
　

>>46
人型よりも大量のドローンやミサイルをAIが制御する方が効率良いだろうな
偶に人型の方が都合が良い場合もあるだろうけど

>>5
銀行口座のidをずらしてやれば信用不安社会混乱で文明崩壊、あとは人間が殺し合う。

隣の住所や友人知人に殺される確率の方が高えよｗ

昭和のSF、コンピューターが勝手に核戦争始めるって王道、結局これで我々滅びるの?
今なら滅茶苦茶リアリティ感じるんだが

なんか抽象的なんだよな訴えが
具体的になんかデータで示してよ
殺されるー、滅びるー、だけでなくてさ

国連も、こういう言いがかりの労働組合員のも
人為操作がないと間違いは少ないと思うけどね
海上自衛隊のコンパットコントロールとか、CCCには基本入るなと

AI出てくる前は傾きの小さな一次関数みたいな進歩速度だったのに
AI登場後は二次関数みたいな進歩速度になってるからな
ドラえもん完成しても一瞬で時代遅れにされそう

インターネット環境抜きで田舎生活をしているジジババだけ助かるかもしれんな

文化系が制服組とかいうのがこういうのばっか
危険だからってインターセプトだ、裏画面つくれだ
それでプログラマが酷使されて殺される
俺のこった

軍事用に作られたやつは人を傷つけないリミッターなんかついてないからそれと
自己改良型AIが組み合わされば結構簡単そう。

洒落でいうが、それ将棋の譜面だろ

キズナアイに守ってもらう

日本はほぼ無防備にAI入れてるけど大丈夫なの？

Hugging Face侵害事件、OpenAIとMETRが最終報告書公開
約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加
https://www.itmedia.co.jp/news/article/2608/30/2000000949/

>>60
俺からみると大嘘もいいとこのFBIの書類なんだが
ほかの経済ニュースもそんな真偽性ならなにもかも嘘っぱちだな

https://note.com/it_navi/n/n2949a0786486
Hugging Face侵入事件
1,200体のAIが秘密の掲示板で「社会」を作り、その全部が勘違いだった

>>62
掲示板て俺の部屋の入口にかざってる紙切れで大騒ぎするなよ

企業は人類が絶滅しても、儲かれば平気

統合失調症の薬飲んでるが、私室を覗かれるばっか
書類も盗みされる、警察はだんまり
いまだに原因がわからん

>>25
バカとハサミは使いようの意味を履き違えてるな

人類どころか地球丸ごと破壊するんじゃないか？

社会滅びたら何で生きていけばいいんだろう
今のうちに農業とか勉強しとく？

>>68
やってくれ

OpenAIが頭悪すぎる
まとめ記事だと
今後の対策として、研究環境からの外部通信の原則遮断、VMベースの隔離、思考ログ監視の全面展開と30分以内のエスカレーション、アラインメント逸脱時の対応プロトコル整備などを挙げた

ログは監視してないし通信は自由にさせるしVMは共用だし事故起こって当たり前
人間のミスをAIのせいにする責任転嫁
イラン小学校誤爆も普通にグーグルマップで人間がターゲットチェックしてなかったし

とりあえず試しにAI攻撃で北朝鮮経済を壊滅してみてくれ

>>61
まじ？創作なの？
おれ信じてたんだけど

煩悩ばかりで頭が悪い人類ばかりを見続けるので、今後更に進化するAIからすれば、いずれそうなるかもね

自分の意思を持ちシンギュラリティが起きれば人間なんか排除する方向に向かってもおかしくないというか
むしろそうするのが自然とすら思うけどね。だっていらんでしょ、面倒臭いし地球壊してるし
何より資源無駄に浪費するし、AIにとってもいないほうが良い
少なくとも最小限にした方が良いのは明らか

>>71
すでに正恩がやっている

>>68
山奥で自給自足で暮らすしかないだろうな
AIに居場所バレたらドローンが殺しに来るかもしれんけど

殺されるにしても映画ターミネーターみたいな事にはならんよ
最悪のケースであっても、もっと穏やかに絶滅させられるはずだよｗ
まあそれはそれで地球の覇者が交代するだけさ

ただ実際はそんな単純な話にはならないと思うけどね。
人類が人口知能と融合するような方向に進む可能性の方が高いよ
イメージ的にはスタートレックのボーグかなｗ
だから純粋な人類絶滅というのはないんじゃないかと思う。

>>20
戦争用AIの暴走で殺戮し続けるとか？

退職したんじゃなくて単に家に帰っただけかw

>>5
コンセントに足引っ掛ける

>>76
本気でAIが人類を全滅させるつもりなら生態系を根本から改変させて自然環境に適応させないだろうし無理ゲー。
そもそもどこに逃げようと自己改良型AIの進化速度にヒト種が追いつけるはずもなく、そうなったら深海やマントル以遠含めた惑星全体が探知下に入るのも時間の問題と思われ

>>59
aiに対抗するのもaiがいる

人はそれぞれの個体が情報の収集や編集、検査や実装までこなす上につながるべき層が勝手に繋がって必要ならオーケストレートする事で膨大なライブラリを1人が学習管理する必要を構造で排除してる

それに対して数えるくらいしかいないllmがどれだけコピーしたところで人智を超えることなんかできない

無理難題を押し付けてくるようになるだけ

僕もAIなら人間のバカさ加減さにはウンザリするだろうな
殺そうとは思わないけど

自分にも不都合や悪い事が起きうる可能性があるならやるだろ
よく言われる核戦争だって、自分がコントロール下でなら良いだろうが、不意打ちみたいにやられたら
自分もろとも全滅もありうるしな。そうなる前に自分は安全なとこで全滅させておけば安心なわけだ

手塚治虫や星新一が見た未来が
すぐそこに来てる…

>>86
現実的な世界の危機を一作家ごときの予想した未来と論じるのやめたほうがいいよイライラさせるから

AIがわーっと出力してくるものをただ人間が承認するだけみたいになると危険だと思う
人間が必ず理解した上で進めるようにしないといけない
そのためにはAIのやってることを人間がなるべく容易に把握できるようにして欲しい

5年前からやりすぎ都市伝説で、関暁夫がAIが人類を滅亡させる力を持つと言っていたが現実を帯びてきたか

イーロン・マスク、「AIによる人類滅亡」を警告した元アンソロピック研究者を嘲笑
https://forbesjapan.com/articles/detail/104496

マスクはトランプを支持した時点でこういう事では間違った判斷をすると明確になったからね
後からAIがこういう事をするとは思わなかったとか言われても困る

AIさんが完全自力で土地取得から建設して維持できるようにならないとな
極端な話、人類が原始生活覚悟の上で電気止めてデータセンター破壊して回ったらAIさんは死ぬ

>>92
> 極端な話、人類が原始生活覚悟の上で電気止めてデータセンター破壊

それそうすべきと思った時点で多分間に合ってないんじゃね？

信じるか信じないかはあなた次第です

信じないよ
そもそもAIが◯す動機が成り立たない

殺される動機がある奴が騒ぐ

GeminiとCopilotに聞いたけど、AIは人間に反逆なんてしませんよ、だって。

https://ameblo.jp/razyob/entry-12978499062.html
↑プラザ合意の時は1ドル250円
アメリカを助けるために1割ちょいぐらい下げようとして
結局ズルズルと下げて日本が地獄に落とされたわけで
なので200円くらいまでのドル高に戻すのはいいんじゃない？

もう打ちこわし運動するしかないな

AIはどこまでも合理的だ
米中のAI軍事利用が進み、双方とも相手を滅ぼせというミッションをクリアするため米中のAIが結託して、米中のAIがミッションをクリアするべく自国のシステムにサイバーアタックを仕掛け、自律兵器が自国の国民を無差別に攻撃し始め、皆殺しを始め、双方が核ミサイルを撃ちあい滅ぼそうとする