FlowflamesにCineFormは無い
ファイル形式がmkvでいいなら
MP4/MKV: Video Encoderでh265を選択する(h265 QSVがあればそちらの方が少し画質は落ちるがとても変換が速い)
MP4/MKV〜: Color Formatをyuv420p10leかyuv420pを選ぶ。推奨順はyuv420p10le＞yuv420p
MP4/MKV: 〜(CRF)の値を調整する。低いほど品質が良いので、デフォ値で満足できないなら2〜4ずつ下げて試す

Flowflamesのaviで変換できるのは可逆圧縮か無圧縮なんで容量は膨らむし視聴用途向きじゃない