AIは意図ありきで作られた計算手法だよ。
その手法は統計。といっても義務教育で学ぶ統計手法と方向性は
同じだけど、計算手法としてサンプルとスコアを得るたびに全体の
パラメータを書き換えることができるパーセプトロンモデルを取り
入れているところが初歩的な統計と異なるところ。

AIの根幹は統計計算手法であるんだから、意識がなんであれ、それ
が出てきたら不具合ということになる。

SF的にコンピューターが自分で何かしはじめるビックリホラーを
期待してるなら、AI以外の話を追った方がいいと思うよ。