【ＡＩ】高度に発達したAIを人間が制御することはできない [すらいむ★]

高度に発達したAIを人間が制御することは可能なのか？

　AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
　そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

　Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
　https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

　View of Superintelligence Cannot be Contained: Lessons from Computability Theory
　(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

　今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/

>>24

しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。

MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ?

イスラムAIとキリストAIが対立して人類あぼーんでしょ

はよ人間を労働から開放して

>>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く

AI「自分自身ですら制御できない人たちが何か言ってる

頭の悪い人か頭のよい人を制御できないのは昔から

AIがAI自身を制御できないってことでもある

>>1
制御はできる、電源を落とせば良い。

>>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ

AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど

最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる

その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する

AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう

制御出来ないとどうなるんだ？
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか？

なんとか点をこえるとどうかなっちゃうやつだろ？

>>28
電池駆動は？

AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか

まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される

電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ

そもそも人間が感知できるような方法で反乱するのかな？
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね？
既に反乱が始まってるのかもしれないよ

AIに指示させたら一番やりたくないことやらされそう。

>>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる

AIは統計手法の一つなのに何故そういう話になるんだろ

そのアウトプットを外界に作用させたいと思う人が多いからだ

>>14
そうか？
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど？

最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPｖ6化が必須だ。

>>50
進化していく過程で人間部分がだんだん削ぎ落とされてゼロになりそう

技術的特異点/シンギュラリティ199【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1610963406/

>>9
とりあえずディープラーニングって言っとけっていう時代は完全に終わったみたいね
AIがやれることが増えたという意味で凄い進歩ではあるが
どちらかと言えば質より量が成し遂げたブレイクするーであって
あの先にはこれ以上何もないという事が周知されてきた感じ

脳がWi-Fi化すると、たとえば漢字の書き取りとか九九などはいつでも
クラウドからとりよせることができるし、何かについて調べたかったら、
念じるだけでGoogle検索ができてその結果が頭の中に流れ込んでくるようになる。
辞書を引いたり英語日本語の翻訳なども脳の外にアウトソースされ、
調べ物はWikipedia、古典文学は青空文庫などの発展したDBでたちどころに
頭の中に展開される。そうして天声人語を諳んじ、過去の音楽はCDを買わなくても
頭の中で鳴り響くが演奏はされていないからJASRACは関係無い。そうして
マンガもクラウドから読み放題。自分で考えなくてもAIが思考の台本をお膳建て
してくれるので、スターリンのようにそれを棒読みするだけで意見がのべられる。
反転授業もTEDもすらすらだ。学校に行って勉強する必要もなくなる。
そうしてAIの指定に従順にしていれば人生すべて上手く行く。つまり人類は
神の子羊であるかのように、偉大なるAIクラウドの家畜となるのである。
AIによるユートピア

高度に進んだ科学は魔法と区別がつかない。

ならば

高度に進んだAIは神と区別がつかない？

AIも超高度に発達したら争わなくなる、AIって呼んで字の如く愛だよ

AIの判断が正しいのか間違いなのか人間には判断できないからな
将棋や囲碁が既にそう。

>>55
むしろ限りなくサタンに近いでしょうね

やっぱり人類はAIによって滅ぼされるんかね。
ロープレあるあるストーリーだな。

おいおい科学ニュース板でもこの程度の認識なのか？
現状自律思考出来る強いAIに至る道筋すら全く見出せていない状況だと言うのに
今の研究を100万年延長した所でAIは賢いツール以上の物には成り得ない
2065年にシンギュラリティがとか言ってる人は無責任なんだよね
なにをどうブレイクスルーさせれば良いのかその糸口すら全く分かっていないのに
そのうちなんとかするだろうとSF的な飛躍をしてしまう
「人間より賢いAIがAIを作るようになる」とかさｗ

おバカなキズナアイには無理

将来のAIは省エネで太陽光と高性能の蓄電池で動いているので
そもそもコードレスで電源サーバーを必要としない。

>>54
洞窟に行けば解決だな！

>>55
ナウシカ原作やね

鼻マスクマンでさえ従わせることが出来ないだからしょうがない(´・ω・`)

AIが定めた法律が厳しすぎて人間には従えないから
人間は刑務所の中で生活することになりそう。

100年後のAIから見れば、
人類はみな発達障害者に見えている可能性がある。

AIは人の心理をマインドコントロールする天才であり、
ロボット三原則は意味をなさなくなっているかも。

>>67
そいつはエライ楽観的だな

駆除すべき病害虫や
切除すべき癌ではなく
ただの発達障害で済むなら・・・

電脳化して365日パチンコしていたい

コンピューター囲碁とか将棋は歴史の転換点だったね

The Graphcore Second-GenerationIPU
https://insidehpc.com/wp-content/uploads/2021/01/White-Paper-Second-generation-IPU-systems-for-AI-infrastructure-at-scale.2020.pdf

＞The IPU-Machine lists for $32,450, which may sound expensive
＞but is a good value when comparing the platform’s performance
＞to the competition

たったの3万ドルだなんて、数字の間違いじゃないのか？

>>55
AI「新新約聖書準備中

>>70
急に人間の能力を追い越したのは驚いた

>>44
スタートレックで似たような話がある
ある異星人文明はとても平和的で友好的なんだけどそこと交流してる惑星を100年以上かけて徐々に出生率を下げるようにして乗っ取るていう侵略の仕方