おっさん、結局ドットバイドットについては理解できたんかな
もう30分もないから答え書いてやるか

フルHD液晶モニタの解像度は1920*1080px
それ以下の解像度で出力した場合は映像は拡大方向にスケーリング（引き延ばし）されるため
表示がガタガタモヤモヤになる

たとえばSD画質（640*480）やHD画質（1280*720px）を
フルHDで出力した場合にモヤっとするのもスケーリングのせい
PCを立ち上げたときのBIOSの文字がモヤモヤするのもスケーリングのせい
なのでガタガタモヤモヤさせたくないならモニタに対してドットバイドット出力させるのが鉄則

で、PS2の解像度はほぼSD画質（厳密に固定されていないがここでは640x480とする）なので
これをフルHD画質でドットバイドット表示させるには
内部解像度x2(1280x960)にして外周に黒枠をつけることを許容するか
内部解像度x3(1920x1440)以上にして縦縮小方向にスケーリングさせてやるのがベスト

縮小方向のスケーリングの場合、拡大方向と違ってモヤモヤしない上に
逆にアンチエイリアス効果が望めるため、ジャギーが目立たずブラウン管以上の画質が期待できる
そしてx4から先は4Kモニタでも使わない限りフルHD画質では大きい変化は起こらない
その検証は3年前に既に個人によって行われている
http://www.emusite.com/pcsx2-takibi.html

ブラウン管はある意味、液晶モニタのような解像度縛りがないに等しいので
出力解像度やスケーリングで画質が著しく変化するようなことが少ない
言い換えるなら解像度が低くエッジの詳細度が甘くなるためSD画質でも綺麗に見えただけ
ま、詳しくは知恵袋でも読んどけ
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q13138197688