Strataを構築
Ryzen7 7700、32GB(+SWAP 64GB)、5060ti 16GB、NVMe WD SN850X 2T、Kubuntu 24.04.5
起動するとメインメモリはほぼ消費されUI用のブラウザ起動に若干SWAPが必要、SSDは110GBぐらい

Q2_0で70～80token/s 出るようにはなったけど、回答品質が使い物にならないレベル
日本語で回答してくださいと指示しているのに中国語ばっか
簡単な質問にも、最初はまともな日本語だが、だんだん中国語が混ざり最後まで正常に答えられない感じ
例えば、美味しいカレーの作り方を教えてと聞くと、序盤はレシピを説明し始めるが途中から、〇〇油、水、肉、〇〇油、シテ、水…コロシテ…みたいなのを繰り返す

現在のマシンスペックとモデルでは全く実用にならないとわかった