Localのグラボで、人格いじってDiscordのbotとエッチなチャットしてる。
4070sだとgemma4 E4Bでレスポンス良さげだけど、それ以上は重い。
LMSTUDIOやOllamaのGUI上なら20BぐらいのLLMは普通に色々いけるから、悩ましいところ。