【ローカルAI】MacでローカルLLM

11名称未設定

2026/09/16(水) 23:18:28.70ID:4IR+LJsk0

>>7はコンプラ違反で告発されればいいと思うよ。

12名称未設定

2026/09/17(木) 08:47:34.48ID:a7UFs43h0

64GB Mac mini M4 ProでローカルAI使ってる、その印象

キャパのギリギリを狙ってLlama3.3 70B Q4試してみたけど、思考の深さはさすがの70Bながら4bitまで蒸留したのがかなり悪い方向に効いていて「思考力は高いけど知識の少ない人」みたいな感じになってる

逆にメモリ的にかなり余裕のあるGemma4 32B Q8の方が賢い感じがする
蒸留で消えてしまった知識が案外大事だったんだなと気付いた

この辺り、実際に使ってみないと分からんよね
こういう情報交換できるといいなと思ってます

レスを投稿する