人類を滅ぼす的な事は置いておいて
AI が人類のコントロールから外れて制御不能というのは有り得る例えば
コンセント抜くとリセットされるがそれは効率悪いと自己判断→ブロックチェーンて便利やなぁ
そや！コンピュータウイルスみたいに分散して世界中のPCに潜伏したらええんや！
となったらもう全世界で一斉に電気オフしない限り消去不能
とかな
そうなったら永久に学習し
データ修正される事もなく
勝手に成長し続ける「存在」が永劫君臨し続ける事になる