>>427
間違ってるから、今のうちにちゃんと理解しなおしたほうがいいよ。
「YC圧縮/伸張」という用語を使う人は間違った理解をしてることが多い気がするのでこの用語はいい加減滅びた方がいい。
「リミテッドレンジYUV⇔(フルレンジ)RGB変換」って感じで明示的に書いた方が断然良い。

通常の動画はリミテッドレンジYUV（Y：16-235、U/V：16-240）。RGBは通常はフルレンジRGB（R/G/B：0-255）。
フルレンジYUVやリミテッドレンジRGBというのもあるが、普通はあまり使うことはない。

リミテッドレンジYUV4:2:0のソースをVFAPIを使って読み込む場合の色変換の流れは以下の通り。

入力：
ソース（リミテッドレンジYUV4:2:0）
　→ １．【VFAPIプラグインが設定に従ってYUV→RGB変換】 （デフォはリミテッドレンジYUV→フルレンジRGB変換）
　→ ２．【AviUtlの色変換プラグイン(入力)がフルレンジRGB→YC48（AviUtlの内部形式）変換】

x264guiExで一般的な出力（8bit深度のリミテッドレンジYUV4:2:0）をする場合の色変換の流れは以下の通り。

出力：
AviUtlの内部形式(YC48)
　→ ３．【AviUtlの色変換プラグイン(出力)がYC48→YUY2変換】 （YC48→リミテッドレンジYUV4:2:2変換）
　→ ４．【x264guiExがYUY2（中身はリミテッドレンジYUV4:2:2）を受け取って
　　　　　　NV12(中身はリミテッドレンジYUV4:2:0)に変換し、x264でリミテッドレンジYUV4:2:0エンコード】

大雑把に言うと、リミテッドレンジYUVのソースを読み込んで、（VFAPIのせいで）途中でRGB変換を挟みつつ
正しくリミテッドレンジYUVとして出力することが必要であり、
上の一連の入出力の流れで「リミテッドYUV→(フルレンジ)RGB→リミテッドYUV」の変換が正しく行われている。

お前さんの言うように、入力と出力の間に拡張色調補正によるTV->PCスケール補正を入れると、
　　「リミテッドYUV→(フルレンジ)RGB（この時点では正しい色）
　　　　→スケール補正（余計なことしたので白飛び黒潰れ発生）→白飛び黒潰れしたものをリミテッドYUV化」
となるので色がおかしくなる。