システム環境設定のディスプレイには解像度の設定があって
5120x2880~1280x720の8段階で選べるけど、
上の人はVLCの設定の話をしてるんじゃないの？

と思って上のレスをしたけど…ここ、Macのスレじゃん。

5Kを選ぶには、システム環境設定/ディスプレイ/ディスプレイ　の
解像度の所、ディスプレイのデフォルトの下の変更の左のラジオボタンをoptionを押しながら押せば出て来ますよ。