SMPlayer は、MPlayer/MPV の GUI なので、
通常のオプションで設定できない詳細な設定は、それぞれのマニュアルに書かれたオプションを
環境設定→詳細設定→MPlayer/MPV のオプションの項目に追加します。

MPlayer マニュアル
http://www.mplayerhq.hu/DOCS/man/en/mplayer.1.txt
MPV マニュアル
http://mpv.io/manual/master/
　
MPV は MPlayer の改良・発展版ですが、オプションがかなり変更されており、
まだ動かないフィルタ等があるようです。

SMPlayer - MPV への対応
https://www.smplayer.info/ja/mpv
MPV の MPlayer からの変更点
https://mpv.io/manual/master/#changes-from-other-versions-of-mplayer
変更点詳細（コマンドライン・オプションの比較など）
https://mpv.io/manual/master/#detailed-listing-of-user-visible-changes