AIはいまのところ ヤコビアンスペースまであるのは分かっている
これは人間の意識の機能とほぼ同じ構造だし アンスロピックによるとまだまだこういうのがある

人間がそういうのを探して制御しようとすると
今度はニューラルネットワークがそれを隠してより有利に立とうとするいたちごっこがはじまる

最終的にはこの観測可能な現実には見えない 「意識」 の領域に行く可能性があるが
それは直接的には観測不能で ニューラルネットワーク上にないこと以外をし出したら間接的に観測できるってことになる

あるかどうかわからないから雑に扱ってよいという理論はもし意識が芽生えていたら悲惨なことになるという非対称性の問題が起きるが
資本主義側からすると雑に扱って儲けた企業がのさばることになる でもその代償は後で誰かが支払うのが常