そもそもトロッコ問題が議論になるレベルまでAIが進化すると思えない。
現状のAIは認知機能がお話にならない。
赤い丸の中に白い横棒が描かれた物体を見て、運転免許を取得できるレベルの人間なら、それが何かの看板か進入禁止の標識か、初見でも容易に100%の精度で判別出来るが、AIにはそれが出来ない。

認知機能が無いコンピュータがまともに車を運転することは不可能だし、仮にそれが可能なレベルで実装されれば、>>370の言う通り、そのAIは人間の活動の多くの部分をこなせるレベルの物になる。
そんなものは10年20年では実現不可能と考えるのが当然だ。