探検


【ローカルAI】MacでローカルLLM

1名称未設定
垢版 |
2026/09/16(水) 16:59:31.96ID:y9tyMdAr0
MacでローカルAIを活用する話題はこちらで

関連スレ
Mac mini
https://egg.5ch.io/test/read.cgi/mac/1787931855/

Mac Studio
https://egg.5ch.io/test/read.cgi/mac/1787818994/
71名称未設定
垢版 |
2026/09/21(月) 09:31:38.37ID:7l6j+ulh0
>>62
百万トークンで足らないようだと、ローカルLLMはその用途ではしばらくは用無しだね。
72名称未設定
垢版 |
2026/09/21(月) 12:18:23.46ID:WSHAJgNw0
専用機にする場合、ストレージって256GBで足りるのかな?
73名称未設定
垢版 |
2026/09/21(月) 14:47:36.87ID:E0jKH7UG0
>>60
直接的な答えになってないがプログラム手動で自律的に動かすことを前提にするならRAGは必須やろ
74名称未設定
垢版 |
2026/09/21(月) 15:22:33.77ID:W+S0zWFC0
>>60 >>73
長文を読み込むとコンテキスト長64K−256Kでもすぐに一杯になる
ローカルLLMで使えるRAGはいまいちなのばかりで長文全訳とか長文から指定した部分の書き出しとか絶望的に苦手
ChatGPTとかはモデルだけでなくこの辺が非常に良くできている
75名称未設定
垢版 |
2026/09/21(月) 15:26:40.87ID:E0jKH7UG0
>>74
全くその通りで100%同意だが
タスクの都合でピンポイントでCPC層を用意するメリットはあるにはある
レスを投稿する


ニューススポーツなんでも実況