ここはQTスレだぞ
Handbrakeの話をしたいのならばスレ違い
エンコそのものならffmpegで物足りる

俺）videotoolboxは品質が悪すぎる。
君）うちはそんな変わんないので普通にVideoToolbox使ってるよ
俺）quicktimeでビットレートの設定なんかできたっけ。
君）VideoToolboxはHandbrakeの話な

余談だど、ビットレートが同じでもエンコーダーで品質はかなり違う
容認できないほど品質の差がある
解像度が同じカメラでも撮影した時の出来上がりは全く異なるでしょ
それと同じ
結論　videotoolboxは使い物にならない（個人用途ならばご自由に）