Mac（Macbook Pro Retina 15inch Mid 2015）を使っているんですが、CPU使用率は20%位なのにfpsが30を切ってコマ落ちしています。

エンコーダーにはAppleソフトウェアエンコーダがコマ落ちが少ないのでハードウェア、x246ではなくむしろソフトウェアエンコーダにしています。

負荷を下げる設定などあるんでしょうか？

CPU使用率に余裕があるのにコマ落ちすることが不思議です。