【超解像】Lada part4

0.6.2の検知モデルrfdetrでエラー、yoloは完走
21:58:56 PM ERROR [primary] thread crashed
Traceback (most recent call last):
File "jasna\pipeline_threads.py", line 171, in primary_restore_loop
File "jasna\restorer\restoration_pipeline.py", line 101, in prepare_and_run_primary
File "jasna\restorer\basicvsrpp_mosaic_restorer.py", line 70, in raw_process
File "torch\nn\modules\module.py", line 1778, in _wrapped_call_impl
return self._call_impl(*args, **kwargs)

>>722
ちょうど横でClaude Codeで作業してたんで聞いてみた
砕けた感じの回答↓

それ検知(rfdetr)のバグじゃないっす。落ちてんのは一次復元のBasicVSR++のほう。
ログ末尾が raw_process → self.model(...) なんで、rfdetrは引き金なだけ。

rfdetrとyoloで差が出るのはたぶんVRAM。rfdetrは検出多め＆768pxの常駐エンジンで重いから、
yoloより先に足りなくなるパターンかと。crop準備は通ってるしshapeは正常っぽいんで、
CUDA OOMくさいです。

ただ貼ってくれたログ、_call_implの直後で切れてて肝心のエラー文が見えないんよね。
もしよければ
・その下の続き(RuntimeError: CUDA out of memory…みたいなやつ)
・GPUとVRAM
貼ってもらえればもっとわかるかも。

>>722
rfdetrは性能が高いから小さすぎるモザイクも検出しちゃう
小さすぎるモザイクだとBasicVSR++でエラーが起きる
しきい値を少し大きくすれば消える
って上の方に書かれてたやつだろ、それ

>>723
ログ出力してなかったから改めて試行、0.6.2、rfdetr-v5

05:11:19 AM ERROR [blend-encode] thread crashed
Traceback (most recent call last):
File "jasna\pipeline_threads.py", line 301, in blend_encode_loop
File "jasna\pipeline_threads.py", line 90, in decode_detect_loop
File "jasna\pipeline_processing.py", line 129, in process_frame_batch
File "jasna\mosaic\rfdetr.py", line 131, in __call__
File "jasna\mosaic\rfdetr.py", line 85, in _preprocess
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 380.00 MiB. GPU 0 has a total capacity of 8.00 GiB of which 0 bytes is free. Of the allocated memory 712.48 MiB is allocated by PyTorch, and 453.52 MiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation. See documentation for Memory Management (https://docs.pytorch.org/docs/stable/notes/cuda.html#optimizing-memory-usage-with-pytorch-cuda-alloc-conf)

NVIDIA GeForce RTX-4060 Laptop GPU 8.00GB
GeForce 591.4 WHQL DCH-[r591_66]

>>725
CUDA out of memory って出ているからClaude Codeの見立てて合ってる
回避策は環境変数 PYTORCH_CUDA_ALLOC_CONF=expandable_segments を設定する
そうするとCUDAエラーを回避できる可能性がある (できない場合もある)

それでもだめなら >>724 指摘の通り検出しきい値を少し大きくする

処理設定次第だけど、rfdter+Secondary Restorationとか使っているなら
経験的にVRAM 8GBだと1080p解像度でRTX Super Res x4, Quality ultraとかは荷が重い

検出モデルや除去モデル変わらなきゃ大して変化ない？
いまだV0.5.0alpha10

>>727
仕上がりに差はないよな？

まだ数本しかやってないが、v0.5.0アルファ10と仕上がりと時間は同じ程度じゃないかな。

jasna v0.6.2ではWindowsのGPUスケジューリングONで処理してもカクカクしなくなるが、元々OFFで使っていたら仕上がりは変わらないな
ゲームやる人がいちいちリブートしなくて良くなるメリットはある
性能デグレは使っているGPUと処理動画の解像度により効果が変わると思う
>>709
みたいなケースもある

v0.5.0-alpha10からだと性能デグレが直っただけか
v0.6系でブレンディングの仕方が変わっているからその辺は仕上がりに影響あるかも

>>726
rfdetrは検出しきい値0.95まで上げてもエラー、1.00にすると完走、復元未処理ファイルが出力された
yoloは検出しきい値0.10でv2v4共に完走
0.6.2のrfdetrはおれ環で使用不可という事で、新しいの出たら再度試してみる

yolo後に更にrfdetrをするとより鮮明になる気がするが気のせいかな？

もう２D対応の基本性能は完成に近いだろ
VRはまだずいぶん取りこぼしがあって興ざめ

>>732
俺環のWindowsデスクトップのRTX4060だと1080pの動画でもrfdetr-v5+RTX Super Res 4x, quality ultraは完走した
デスクトップ向けとノートPC向けの4060はそんなに性能違わないみたいだが、なんだろね
メインメモリの容量とか関係するのか？
あとできそうなのは、Max Clip Sizeをデフォルトの90で使っているなら60に下げてみるとか
初回にBasicVSR++のコンパイルがもう一度走るけど使用するVRAM量は減るはず

>>732
お前だけの特殊ケースだ
そもそも問題だらけの GeForce 591.44ドライバーを使っているのが悪い

zelefansさんの別プロジェクト？CUDA特化版
https://github.com/zerochocobo/VR-Video-Toolbox-CE