普通にAV1にしろよ…
高画質ならaom av1の4:4:4 preset6(小さいほど圧縮速度が遅く圧縮率が高い)辺りから試してみよう