【ローカルAI】MacでローカルLLM

MacでローカルAIを活用する話題はこちらで

関連スレ
Mac mini
https://egg.5ch.io/test/read.cgi/mac/1787931855/

Mac Studio
https://egg.5ch.io/test/read.cgi/mac/1787818994/

>>908
次入れるわ
鼻毛オジサンと相談してもな😅

中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明
https://gigazine.net/news/20261027-concerning-behaviour-open-weight-ai-model/

>>911
ヤバすぎて草超えて密林

>>911
エージェントのせいって書いてないか？

怖い怖い、通信したのはエージェントだが指示したのはQwenだぞ
LittleSnitchの設定見直すとかDockerでAgent環境のSandBox化必要だな

んだからハーネスが大事なんだって話やね結局

cluadeさんかcodexさんにOSSハーネスの設定診断お願いするか
いまいち決めてがなくていっぱい飼ってるw

んーある程度は自作した方がええぞ
先述のニュースは結局スキルを有限化した方がいいという話だしクラウドllmですらそうなっとるわけでな

すごいすごいしか言わないようなYouTuberの言う事そのまま受けて対策せずに使ってスキルもそのまま入れまくってとかやってたらそらガーバガーバよ

いやローカルでスキル入れまくるとか寧ろ作法として一般的じゃないんじゃね？
>>917は汎用基盤を使ってクラウドと似たエージェントとして使うならという意味で書いてるんだろ
ガバガバなのはお前の無知さと読解力の無さだろ

M4 Max正式対応来たー！ 200token/sだぜ
rec v0.1.1
- Add support for Apple M4 Max.

遊びでメインマシンにQwen3.8-Flash-Next入れて遊んでたから速攻で削除したｗ
Qwen、DeepSeekの中国製はやっぱ怖いな
gpt-oss、Gemma、Llama、Mistralくらいしか使えないのか

エージェント無しで使っていれば通信手段はないよね？

エージェントの有る無しというより呼び出し方だな
エージェントはプログラム的にモデルが常に呼ばれ続けていて、その上で何か他のプログラムに接続されてるからエージェント足りえるわけだ
その問題

仮にクラウドLLMでも自律的にCLIやAPIで呼ばれ続け自己判断で動き続けるプログラムを組んだ場合
接続できる状態のプログラム次第では、あんまり良いことは起きないだろう

ChatGPTやClaudeはサーバーの向こう側に倫理やユーザー保護のハーネスがあるようだから、その点ではそこまで酷いことにはならんだろうけどな

つまりハーネスの話であり詰まるところモデルの性質の話ではなくなる