AI と共存する場合の課題の一つに、人間は果たしてAIの判断を理解できるかというものがあります。
例えば、AI対人間の囲碁対決では、AIが一見悪手を打ったかに見えて、見事に勝利する場面があったわけです。
これがもし車の自動運転で起こったら、車が人間の予想できない動きをすることになります。
AIとしては見事に事故を回避できる予測が成り立っていたとしても、人間がそれを理解できなかった場合に、
パニックが起こってAIと人間の主導権争いが起こり、危険なことになります。
これが医療現場なら、非常に進歩したAIが医師にも患者にも納得困難な結論を導き出すようなもので、どのような結論になっても不信が残るようなことになりかねません。
AIとどのような付き合い方をするのか、今のうちによく考えねばなりません。