すみません。情報不足でした。
正しくは
「＋−で大きさを変更した後に
ウィンドウの大きさをいじると荒くなる」でした。
チェックを入れてるのは以下の項目です。

ウィンドウを画像に合わせる
サイズ変更時にリサンプル処理を行う
ズーム時にリサンプル処理を行う
リサンプル後にシャープ処理を行う

バージョンは4.38です。