ログ出ないじゃなくて、出し方判らないじゃないのか
ちゃんと表示をinfoにしてる？
恐らくこういう↓ログと一緒にダイアログが出るはず

x264 [error]: baseline profile doesn't support lossless
auo [error]: x264が予期せず途中終了しました。x264に不正なパラメータ(オプション)が渡された可能性があります。

解決方法は667に書いた通り「横着しない」
マウスを2回クリックするのも大変なら、他のソフト使った方が良いかもしれないよ