TensorRTフレームワーク使えるGPUに対して10倍程かかると思って良いと思う。

使わない場合(使わない意味は無いけど…)nvidiaの90番とか
浮動小数点数に優れているGPU以外だと結果が変わりにくい。

速度を求めるならフレームワーク使えるnvidiaとwindows使うべきかな。以上