だから元記事最初に検索した
ジャパンは見てない
Google検索なら「同僚」だ


主なポイント

Anthropic社でAIの「アライメント（AIの目標と人間の価値観の整合）」に関する研究を主導するEvan Hubinger氏は、X（旧Twitter）への投稿で、自身と同僚たちが「AIが全人類を死に至らしめる可能性があると真剣に信じている」と述べ、その確率を今後10年間で10%超と推定しました。

Hubinger氏は、同社が「最善を尽くしている」としつつも、「超知能（スーパーインテリジェンス）のアライメント」という課題を解決する計画はまだなく、解決に向けた道筋も「明確には描けていない」と認めました。

Hubinger氏のこの投稿は、AIの安全性への懸念を理由にAnthropic社を退職すると発表した同社の別の研究者、Jacob Coxon氏によるX上の一連の投稿（スレッド）に応じたものです。

OpenAIやAnthropicでAIの事前学習（プリトレーニング）に関する研究に従事してきたCoxon氏は、競合するこれらの企業が「自己改善を行う超知能の実現へと一直線に突き進み、我々の命を賭け金にしている」と指摘し、その行動は無責任であると警鐘を鳴らしました。

退職する同研究者は、AIを開発している当事者たちが、AIによって「この10年の終わりまでに我々全員が死に至る」可能性があると考えていると述べ、これは決して「宣伝のためのパフォーマンス」ではないと強調しました。