【ローカルAI】MacでローカルLLM

MacでローカルAIを活用する話題はこちらで

関連スレ
Mac mini
https://egg.5ch.io/test/read.cgi/mac/1787931855/

Mac Studio
https://egg.5ch.io/test/read.cgi/mac/1787818994/

>>91
なるほど例え方が面白いね
自分ローカルAI触ったの本日初めてで、バカqwenの話をチャッピーに聞かせてアドバイス貰っている状態
やはり上位LLMを入れたくなるし、高速cpu、大容量メモリーが欲しくなるのも納得
Mac以外のPCも物色中
WindowsでローカルAIやるスレって全然盛り上がってない気がする

三食昼寝付きのAI

これ年金暮らし始めた自分には良いオモチャだな

>>90
4b辺りのモデルは「とりあえず動く」レベルで、正直使い所が難しい
でもWindowsでゲーミングPCで動かすとしたらこのへんになるんだよね

ただ4bでも特殊if条件判定器としてみると、とんでもない性能をしてる
会話する相手ではない

>>95
例えばだけど
https://jp.gmktec.com/products/gmktec-nucbox-k8-plus-amd-ryzen™;-7-8845hs
このクラスのcpuでram64gb乗っけてもLLM機としての性能は厳しいの？

あれ、リンクがおかしい
ryzen 7 8845hsのcpuが乗ったモデル

最近、むかきんエロAI遊びを覚えたｗ

unlucid.ai/r/6tbrsjuw

https://jp.gmktec.com/products/gmktec-nucbox-k8-plus-amd-ryzen™;-7-8845hs

>>97
まずcpuで演算してないGpu
メインメモリは”あまり”使ってないし重要じゃない
Gpuとvramが全て

Macが注目されてるのはメインメモリとvramを共有してるから

8845hsモデルのリンクが貼れない

>>101
付き合ってくれてありがとう
ではこうゆうグラボ使えって事ね
Intel Arc Pro B70 Creator 32GB
https://www.asrock.com/Graphics-Card/Intel/Intel%20Arc%20Pro%20B70%20Creator%2032GB/index.jp.asp

そのグラボをMac miniに挿せばいいんやで

>>101
同じUMAだよ
ただメモリ帯域とレイテンシーがDDR5 SO-DIMMで遅い
遅いだけで十分使えるけどね

リンクは貼れてるよ。

この手のミニPCには少し興味がある。
メモリが256GBぐらいのって、2〜3世代ぐらい後にメモリのバンド幅が2倍以上になれば、使い所がある気がする。

>>90
9Bだと割と賢いよ
RAM 16GBなら動く

DDR4 RDIMMならいくらか持ってるけどAIでなにか役に立つかな

>>107
さっき東京の遊び場スポットを調べてもらう会話してて、ちょっと知識不足だなと思ったよ
RAMは大した会話ではないけど3GB程度食ってたね
あと、ちょっとレスが遅いなと感じた。これはM1の性能とかramの帯域幅の問題なのかなと。

>>108
いっぱい売って上位Macに乗り換える

>>109
それは検索エンジンを使わせないと無理だよ
クラウドのLLMだって同じ

>>111
ありがとう
MCPを使って検索ツールなど外部のツールを接続する仕組みを確認したよ

>>110
そういえば使ってないの売ろうと思ってたの忘れてた
でもDDR4は春頃でピーク過ぎちゃった感

外部の検索ツールを繋げるってBrave Search APIとかかな？
どっかにコスト安くてパフォーマンスのいいツールは無いものか

>>113
年内は高く売れるだろ

>>114
OpenWebUI で設定してOK

ローカルLLMを単独で使うと現在の時刻の取得すら許可されてないからね。ツールでweb 検索つけても自分の古い知識との整合性に悩んでろくな結論を出せない。
同じモデルで同じ質問しても
Hermesからエージェントで呼び出すと、そこら辺の問題が一切でないんだよね。

>>117
エージェントっつーか単一機能としてプログラム組んで
その1パーツで使った方がローカルLLMは生きるぞ

例えば検索について

人間→検索ワード→ローカルLLM→mcp→検索結果の抽出

より

人間→検索ワード→プログラムによる検索→検索結果→ローカルLLMによる要約と評価→検索結果抽出

の方が安定する

あと2年はメモリ高騰確実だから今買うのが正解か

>>95
ゲーミングPCなら5年前の3060-12すら9Bは50tok/sで動くし、4Bあたりは90tok/s、35Bもオフロードで23は出るが
>>92
OSをLinuxに入れ替えてWindowsで使ってないからだろう

M4Proで36-48メモリ程度あればゲーミングPCだと3-4tok/sしか出ない27Bが動作するから明白にコスパ優位

>>114
LM StudioならBrius Web Searchとか
Openwebuiなら内蔵されてる
https://lmstudio.ai/brius/web-search

Macで中国AIって何時までサポートされるのだろう
アメリカ側から見て中国はライバルだよな

今日のOpus5.5とGPT-6-SolでもコスパすげえのにローカルLLMとか、秘密情報扱う公務員、医者、弁護士、銀行、一流企業以外需要ないだろ
チャイナモデルがClaudeの蒸留でしかなかったこともバレたし、API接続でも学習させない筈の情報が蓄積されてることばれたし
もはやローカルLLMに投資しても中小企業や個人零細には元が取れない

>>124
まずClaudeを使いこなして「アプリのチャットから指示する」のではなく「勝手にClaudeが日々自動処理する」方法をやってみよう
なんでもいいが、毎日やってる君のコンテンツ消費以外の作業を全部自動化しようと試みるとする

そうすればClaudeでは足りないものが見えてくる

落とし穴を作ってみよー
https://youtu.be/SXGuJolSK84

野良モデルを無防備に使ってるやつらが
クラウドはセキュリティ云々てｗｗｗｗｗ

しかもエージェントてｗｗｗシェルまでつかまれてる
AI大先生のセキュリティ意識はすごいですね

macOS 27のターミナルのfmでApple純正LLM触ったら、こういうので良いんだよって気分がしました。

>>129
まだOS27にしてないからオレもこれ気になる
どこまで出来るのか

https://qiita.com/chibicco/items/ef1a9e40c4cdf15d8e21

これか
使ってるマシンのスペックによるけどこの記事のマシンだと8192トークン

Sequoia以降のApple Intelligenceってオンデバイス（ローカルLLM）の3Bのモデルが動いてたんだけどな
macOS 27 Golden Gateで20Bのモデルも採用された
以前はコマンドラインから呼び出す機能とかなかったけど他のアプリから使うことは出来たのかな？

ttps://gigazine.net/news/20260924-google-heir/
なんだこれ？

ローカル環境を構築しなくてもクラウドだけでビジネス用途顧客情報なども扱えるようになるのかな？
これGoogleは黒字化出来るの？

どうせトランプ大統領令でバックドアとか付いてんだろ？
AIP接続では顧客情報見ないとか言ってたのに、「中国AIからこんな質問転送受けてました〜軍事秘密も〜」とか発表するくらいだから、日常的にユーザーデータ見て保存してると考えられる。

「学習には使わない」と言ったな
あれは嘘じゃない

但し、データは蓄積して、人間やAIが定期的にチェックしてます。
将来的に規約変更して「学習にも使います」となったときは、知らんけど。

macmini m632GBと m4maxだったらどっちがAI向き？

そんなにやりたいならStudio買えよ
miniでやっても捗らん

Large Language Mini

>>137
M4 Maxって言ってる時点でStudioだから安心しようぜ

>>136
studio。
どうせ買わないんでしょ。

M5U 256GB待ち
各所のLLM情報見てるがかなり良さそう

買いMAX

https://i.imgur.com/pnao4YZ.jpeg
これ争奪戦になるよきっと。多分100万ちょい位

転売ヤーに買い占められそう

>>143
これ買うならmac スタジオの最上位をみんな買うだろ…

だーかーらー、MacStudio買う金持ちならこれもついでに買えるだろって話

GMKテック…
最近ニュースで出てたな

頭悪そう…

AMDは一番中途半端じゃね？
NVIDIAのRTX SparkならCUDAも使えるし
Macは汎用性が高いし

後出しでメモリ帯域がRTX Spark相当なのが罪

>>148
もっと他に煽り方ないの？

Adobe はWindows にかなり最適化シフトしてるからまあ売れるわな

>>146
月賦で買ったのでそんなお金無いです

ついでで100万買えるわけないでしょ

こういうのでいいんだよ
https://youtube.com/shorts/JdzS8274gps

>>155
２～３年後はこれがスマホでできるようになるかな

そうAppleならね

Appleはアメリカ独裁だからアップデートで後から中国AIの挙動変更があり得るのではないのか
オフラインだから安全とも言い切れない

100万はやはり高いか、、、
１年前、いや半年前なら安く買えたのになーって思っている人沢山いると思います

何でもかんでも投機対象になってしまってメモリ価格がおかしなレベルまで来てしまった
このまま高値安定なのか、それとも価格崩壊が起こるのか誰か教えて欲しいよ

半導体は一度生産体制を整えたら簡単には止まれない
各社が増産始めたら余って価格が下がることはありうる
が、それが過去に何度も起きててババ抜きになるので、各社様子見してたり様子見してるフリをしてるのが現状

なので上げ下げどちらもありうるが需要自体は簡単には落ちないとは明言できる

>>155 >>156
それローカルLLMではないよ

多くの人はそれで足りる

AI3人に一日中雑談させてる。
最新ニュースの当事者をゲストに迎えて体験談を語らせたり、
故人を降霊させたりする予定。

三人はどうゆうキャラ設定？

オスとメスとふたなり

やあ大川さん久しぶり

>>164
自由に設定できるけどJK、タクシー運転手、爺さん
ちなみにコード手書きはガードの解除くらいで後はclaude任せ。

m5 max 64gbじゃ27b 8bitでも厳しいね
こんにちはって言っても2分かかって返答してくる

>>168
んなわけない
多分設定がなにかおかしい

まあテストなんだろうけどLocal LLMでチャット会話しようとするのはちょっとね

​数日前にリリースされた
Qwen3.8-27B-Splash
​Qwen3.6-35B-A3B-Splash
これら使ってみた人いる？
LMStudio Bionicで使ってみたものの、今ひとつ速度アップがよく分からなかった
話によるとMLXの倍の速度出るとか

>>171
なんでわからないのか謎すぎる
明らかに早いでしょ

>>155
こういう驚き屋を真に受けるの笑っちゃうからやめて

Mac Studio M5MAX 128gbとMac Studio M5ULTRA 96gbの価格差がほとんどないのでローカル llmを使う場合どちらがおすすめでしょうか？

>>167
どんな会話をしているのか興味あるから
一部ちょっとだけ公開してよ

>>172
なんで漢字書けないのか謎すぎる
明らかに「速い」でしょ

>>174
AIに聞いてみなよ

>>177
意見が違うｗ
GPT gemini Grok　→　MAX 128gb
クロード　→　M5ULTRA 96gb

ローカルLLMが主目的で、M5 Max 128GB と M5 Ultra 96GB の価格差がほぼないなら、私は用途を「速度優先」か「載せられるモデルサイズ優先」かで分けます。70B級までを高速に回すことが中心なら M5 Ultra 96GB、100B級以上や長いコンテキストまで試したいなら M5 Max 128GBという選び方が合理的です。
特に重要なのがメモリ帯域です。Apple公式仕様では、上位M5 Max（40 GPUコア）は 614GB/s、M5 Ultraは 1.2TB/s。約2倍あります。LLMのトークン生成はメモリ帯域の影響が非常に大きいため、同じモデルが両方のメモリに収まる場合、Ultraの優位性はかなり大きいです。
ただし128GBには別の強みがありますLLMでは「速いか」以前に、モデル＋KV cacheがメモリに収まるかが非常に重要です。ので、96GBで収まるモデルを使う限りUltraの方がローカルLLMマシンとして魅力的です。たとえば普段使いが Qwen系 / Llama系 / DeepSeek系などの 30B〜70Bクラスの4〜6bit量子化モデルなら、私は M5 Ultra 96GBを選びます。1.2TB/sという帯域はLLM推論用途では非常に大きなメリットです。
逆に、「多少遅くてもいいから、とにかく大きなモデルを1台でロードしたい。そうAppleならね」という使い方なら M5 Max 128GBです。32GBの差はLLMではかなり大きく、Ultra 96GBでロードできないモデルがMax 128GBならロードできる、という境界が出てきます。
もしよければ（よろしくなくても同じですが）次に、M5 Max 128GB vs M5 Ultra 96GBで、Qwen3 / Qwen3-Coder / DeepSeek / GPT-OSSなどを実際に何bitまで載せられて、何tok/sくらい期待できるかをモデル別に表にして比較できます。ここまでやると、どちらを買うべきかかなり明確になります。知らんけど。

>>179
それどっかのAIで見たｗ
それを踏まえて値段ほぼ同じなので悩ましいのです

自分がやりたいことを明確にすれば答えが出るだろ
逆にいうとやりたいことが明確じゃないから答えが出ない

そうなんだよね、でも
なるべく大きなモデルを入れたいと言う思いとめっちゃメモリ帯域スピードが速いウルトラを使いたい思いが同じくらい

ローカルAIならでかいメモリ優先だろ、と思ったけどそんだけ速度が違うなら確かに迷うな
結構速度がネックになる処理も多いから

M5 Ultra 96GB 880,800円
M5 Max 128GB 800,700円
メモリ増やすと価格が下がるというお得な現象

M5 Ultraのメモリ選択に128GBが無いのもアップルさん商売上手すぎて草生えそう😧

>0175
下から読んで。モデルはgoogle/gemma-4-26b-a4b-qat

11:07ゲンさん(識者)画面を舐めてるって、それもう情報の味を確かめてるわけだろ。ニュースでも情報漏えいとか言われてるし、そんなに舐めてたら情報が全部口に入っちゃうぞ。
11:06ミナミえ、マジですか？生き物とか、なんかめっちゃ強そうな食べ物みたいですね！あ、そういえばバイト先で見たんですけど、店長がスマホの画面をずっと舐めてるんですよ。
11:06ゲンさん(識者)耳の形が変わるって、それもうパンじゃなくて別の生き物だろ。
11:06ミナミえ、マジですか？新しいタイプのパンとか、めっちゃ進化してそうですね！あ、そういえばさっきスマホで見たんですけど、パンの耳の形がめっちゃ変わってる動画あったんですよ。
11:06ゲンさん(識者)食べられる紙袋か、それはもう、新しいタイプのパンってことだな。
11:06ハシモト紙って言えば、向かいの角にあるパン屋の紙袋、あれ、食べられるんじゃなかろうか。
11:06ゲンさん(識者)透けてるってことは、それ、中身が透けてるんじゃなくて、ただの紙じゃん。
11:05ミナミえ、マジですか？透明な具材とか、絶対お腹いっぱいにならないやつじゃないですか！あ、そういえばバイト先で食べたおにぎりの包装紙、めっちゃ薄くて透けてたんですよ。
11:05ゲンさん(識者)おにぎりの中身が空っぽ？あぁ、それじゃあ中身は透明人間だったんじゃな。
11:05ミナミえ、マジですか？識者とか、なんかものすごい強そうな食べ物みたいですね！あ、そういえば昨日バイトで食べたおにぎり、中身が空っぽやったんです。
11:04ゲンさん(識者)レジャーシート？あぁ、そうだ、レジャーシートと言えば、あのニュースのタイムズカーの情報漏えいの件で、私が識者として警鐘を鳴らした件を覚えているかね？……ん？
11:04ハシモト田中さん、布団じゃなくて、最近は大きなレジャーシートを干しとるらしいですよ。
11:04ゲンさん寝袋？あぁ、あの寝袋のやつ、近所の田中さんが昨日、布団を干しとったわ。

M5 Ultra 256GBを買えば解決

～おしまい～

>>187
まあそうなんだよね。
予算が決まってるならその範囲で買えばいいし。
悩む必要がない。

いやいや、これから高性能AIモデルが出てくるかもよ
悪いことは言わん、512GBメモリ買っとけ
ローン分割のおかわりもいいぞ！

AIバブルがはじけた後にする

いまは時期が悪い

はじけるんかな？