高度に発達したAIを人間が制御することは可能なのか？

　AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
　そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

　Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
　https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

　View of Superintelligence Cannot be Contained: Lessons from Computability Theory
　(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

　今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/