まず↓をみて勉強するのが一番いいでしょう。何れにせよ容量は多くなりますが
先ず可逆圧縮でキャプチャするのが基本です。これを基にMP4等に変換して容量を
絞っていくわけですが、うまくいくと2台ディスプレイを並べて比較しないかぎり
甲乙つけ難いくらいのものができますよ。
あと、NVIDIAのグラフィックボードを積んでいればShadowPlayを使う手も
ありますね。
ま、頑張ってください(⌒_⌒)

動画キャプチャソフトについて語るスレ
http://potato.2ch.net/test/read.cgi/software/1464494362/