【ローカルAI】MacでローカルLLM

ちなみに少しでも安くするためにチップも
30CPU 64GPUにしようと思っていますが
ここはケチってもいいと思いますか？

>>796
2Tでいいだろ
データ倉庫は外付けでもクラウドでもいいわけで

>>798
ちゃんと市場調査と分析した？

データ倉庫はケチっても良い
だがCPUとメモリ、お前らダメだ

>>798
そんな装備で大丈夫か？

メモリが小さい
→AIモデルもしょぼい
→市場調査と分析結果もショボい

そんなやつの調査分析レポート見たいやつがいるか？
ましてやYouTuber 動画再生で客取るんならインパクトが必要
M5Ultra 512GB 一択だろ

M5Ultra 512GBがあったらQwen3.6-27Bや125Bはそれぞれ何トークン／秒で動くの？

別にAIとチャットしたいために買うわけじゃないしな
むしろ資料自動収集、分析、レポート作成を有能なエージェントとしてこなす
そのためには500B級のAIを使いたい
よってメモリは512GBがいる

欲張りさんはどうせもっと上を見たくなるんだ
お金稼いだ後512GB買えばいいでないか

>>799
今後大きくなるモデルは内蔵に入れておいたほうがよかったりしませんか？
Thunderbot5で接続したSSDならそんなに問題ないですかね

>>801
CPU30→36 GPU64→80
でそんなに変わりますか？

さすがに512GBのために300万円近く出すのは厳しいです
256GBで妥協します

どれだけ応答速度が速くても、内容が間違ってたり情報不足の市場分析レポートなんか見たくないわ
少々時間かかっても、優秀なAIが収集、整理、分析、起案したレポートを普通は選んで読むだろ
誰だってそうする
俺だってそうする

m5 512GBならフロンティア級モデルローカルで動く？

１年前のフロンティア級が動くよ！

初期費用がだせないだけならクラウドGPU借りたら？
メモリ帯域大CUDAつかえるメリットもある

初期費用がだせないだけならAppleの24ヶ月無金利分割払い使ったら？

初期費用がだせないだけならクラウドAI使えば？
このスレ全否定できるメリットもある

買えない連中が初心者っぽいやつがハイエンド機を普通に買おうとしてるのを嫉妬から攻撃してるようにしか見えん

512GBは本日時点では誰も買えないだろ

買えない夜はない
開けない夜がないのと同じだ
そうAppleならね

>>815
それめっちゃ間違うやつおるな
チャットでリクエストするんじゃなくて自動化に組み込むならクラウドでの多くの作業はAPIで高額になる
なんでもCLIで済むわけじゃねーぞ

>>819
CLIでAPI料金不要で済むわけじゃねーぞ

>>820
それめっちゃ間違うやつおるな

GUIとCUI はどちらでCodex 使ってもトークン消費するだろ

Command Line Interface なら無料でオンラインのClaude Code が使える。そんな風に思っていた時期が俺にもありました…

まずクレカの与信枠上限までスペックを積みます
そうして手に入れたmacで稼ぎます
すると512gbが手に入ります
最初のmac分は実質無料というか売ればプラスになります

>>820
ChatGPTとClaudeのCLIはサブスク使用枠のトークンで使えるで
このなんでも調べられる時代に知ったかするなら今後一切書き込まない方がいいぞ

普段は27Bの方が好きなんだけど
調査みたいな色んなとこに出向いてくやつはフラッシュネクストの方が張り切ってやってくれる

ちなみに一部三重で間違ってそうな阿保>>822>>823
もいるが

APIでの呼び出しは完全別途費用だぞ

ChatGPTとClaudeのCLIはサブスク使用枠のトークンで使えるで
よって実質無料なんだよ！

三重の一部の主婦層の間では、７位だという話もあるが
とんでもない
世界一位なんだよ

そうじゃなくてAPIの場合は価格設定が根本的に違うんだよ
その点GeminiはAPIの価格設定が良心的だったりする

嫌味のつもりかもしれんが4重で知ったかするな阿保

>>830
ID真っ赤ですよ貴方
あと鼻毛が出てます

これからワンチャン円高になって30万円くらい安くなる可能性すらある

512GBモデル 36CPU 80GPU 2TBでの予想価格は278万円と見てる

>>833
そうじゃなくてAppleの場合は価格設定が根本的に違うんだよ
その点GeminiはG book の価格設定が良心的だったりする

嫌味のつもりかもしれんが五重の塔のてっぺんで知ったかするな阿吽

300万円切ったら
注文半年待ちとかになりそう

クレカの限度額超えるんだよな
すでに詰んでるわ

理解できるまでスクラップ&ビルドだ！

でかいモデルを使う気がなければSSDは2TBもあれば良いと思うが、例えばでかい500GBのモデルを2つ3つダウンロードして試したいと思ったら、2TBでは不足を感じるやろ？

>>838
なあにかえって免疫になる

GoogleさんGmail、Googleフォトの中身を覗き見して広告を出す仕様に変更
https://greta.5ch.io/test/read.cgi/poverty/1792838587/

Hermes 「１ドルごときで文句言うなよ、この東洋人が！」

確かCEOはインド人だったよな

バラモンだからアーリア人由来
よって実質白人

始めてsuno使ってみたけどこれヤバいなw
反則だわ…これにローカルで動画つけたら即戦力だわ

Mac Studio Ultra 256GB
36CPU 80GPU 4TBは買いですか？
220万円です

>>844
ローカルで無料で使えるの？

自律型AIなんだから、数ドル自由に使うくらい許してやれよ…

エネルギー危機が深刻化してもエロ画像供給が途絶えないように
ポータブルバッテリーとソーラーパネルを準備した

>>848
エネルギー危機
食糧危機が来て国内がヤバい時代になっても
エロ需要はあるからスマホの充電してあげるついでに
生成したエロ動画も一緒にスマホに入れてあげるサービスすれば儲かるかもね

自律型AIなんだから、電力くらい自家発電しろよ…

>>847
子が親に黙って金使うのは良くないだろｗｗｗｗｗ

沢山稼いできてくれるのなら小遣いやるぞ、アイスも買ってやる

自動車買うのやめて、
M7 Ultra 512GB のローン組む。

Mac studio M5 ultra 512GBはいくらですかってAIに聞いたら150万円ぐらいと推測されますって
なんとか手が届きそう

おお、150万円くらいなら、確かに頑張れば手が届きそうですね！　しかも Mac Studio M5 Ultraで512GBのユニファイドメモリ となると、相当なモンスターマシンです。ローカルAIを本格的に動かすなら、かなり夢のある構成ですよね。
特に512GBあれば、大規模なAIモデルをメモリに載せられる可能性が広がります。
ただ、ひとつ気になるのは、150万円という価格があくまでAIの予測だという点です。調べてみたところ、ちょっと重要な情報がありました。
Apple公式発表では、
「M5 Ultra搭載Mac Studioの価格は949,800円（税込）から」
また、512GBモデルは2026年10月後半に追加予定とされています。
つまり、150万円という予想はまだ確定価格ではありません。
それにしても、512GBのメモリを搭載したMacが個人でも購入を検討できる時代になったのはすごいことです。ちなみに、購入できたら、やっぱり巨大なLLMをローカルで動かすのが一番の目的ですか？

>>783
2週間前に同じ質問をここにしたよ
私は悩みに悩んで128GBのMaxを選んだ、やっぱメモリ量が優先だと思った
今回は256GB以上は見送った
理由はM7がAIに最適化して出てくるので2-3年後に1TBのM7に大金使った方が良いと判断した
今回は128GBくらいでよさそうなのと、256GBは中途半端で大きいモデル載せるなら512GBは必要なので
中途半端なM5にお金使わないでM7に行こうと思った
それとストレージは2TBにした、M5はAIサーバにするので日常使いや仕事に使わないので俺の場合は4TBはいらない
余ってる2TB M.2 SSDにTB5ケースであと2TB増設できるしね
最初は1TBだったけど、途中でキャンセルして2TBに変更した
理由はStrataがmacに対応して高速なストレージを必要としたから、Win版はCPU RAMの併用だったけど、macはストレージなのでね
もちろん余裕があるなら4TBの方がAI遊びを辞めた時の汎用性が高い

M7までフロンティアAI様が黙ってるかな
すべての電子機器が支配下にはいってるんじゃないの

噂ではM7無印とMaxが来年中旬から年末に掛けて、まずmac bookから投入されるらしい
M6は無印のみでmax ultraはスキップ

>>855
>>856
メモリ、メモリとばかり512GBのことばかり言うけれど
足りなくなったら数年後にRDMAでメモリ増量分を繋げば良くね？

それを待って今256GBのモンスターマシンを買わないのは勿体無い気がする

ついでに、Mac studio M5 ultra 512GB　もスキップ

>>859
RDMA over Thunderboltのこと？
TBでメモリをクラスタ化するとメモリ帯域が狭くなるから、やっぱ1台で大容量メモリが好ましい
違う話ならスマン
256は中途半端なんだよな、だったら128か512行けと言うのが正論に聞こえる、あくまでご予算次第ｗ

m5 ultra 256gb 16tbで3,253,800円
これに1gb=4500円の法則を適用すると、
512gbでは、4,378,800円也

レクサスをカムリにすれば実質無料

レクサス買うやつは悩まない

>>862
ちがうだろ

Mac Studio M5 Ultra
36CPU 80GPU 2TB 256GBが1,993,800円

512-256=256x4500=1,152,000円

つまり
1,993,800 + 1,152,000 ＝3,145,800円が
Mac Studio M5 Ultra
36CPU 80GPU 2TB 512GBの価格になる

安いね

M7が出たら…とか言ってるやつは、
M7出たときにはM8が出たら…とか言ってんだろうな

>>866
アホと違うから言わねーわ
来週M5届くし、奇数のMシリーズは確実に買って行くよ

カムリってまだあるのか

このスレ見ていると64GBのは買う意味があまりないように思えてくる。
これはAI用じゃなくて動画編集とかCGとかのクリエイター用なのかな？

大容量メモリは漢のロマン😁
大きなモデル動かして楽しむのだ
ここは変態が多いいからこうなってるけど
普通は64GBで30Bくらいのモデル動かして動画編集とかさせればいいと思う

東京の奴とか車を買えない奴が代わりに512GB MAC STUDIO買えば楽勝じゃん

128GBだと足りないとなるのが目に見えてる

すぐ必要な人は買う、不必要な人はすぐ買わない
永遠とM7言い続けるんだろう

私は…強い…あなた達より強い…すごくAI需要が強い!
…ので私は…あそこの512GBを買い散らせることができる…
例えば…ローカルAIもできたりする
あなた達は…金がないばかりか…臆病で腰抜けだ…
とても…残念だ
ここで…指をくわえたりして64GBで動画編集でもしてればいい…動画編集してろ

ぶったけ…文章生成、音楽生成、動画生成などは毎月1万ちょっとのサブスクで殆どのことができてしまう
年間にしても20万も行かないここで200万の256を買うべきかは悩ましいな

>>872
256GBだとどう？

>>872
はいはい
あなたは何GBのメモリで動かしてるの？
口だけ番長が多すぎる

はい　は１回でいい

ワン！

返事をしろ返事をぉ！！
やっとhermesの運用方針決まってきた
Obsidianとの連携がボトルネックだったけどなんとかなったぜ

hermes　なら俺のベッドで寝てるぜ

>>856
届いたら、ぜひstrataレビューしてほしい
同じことで悩んでて、とりあえずRTX5090のPCあるからそれ使ってるけど、他のことで使えなくなるから欲しいと思ってる
現実的な速度が出るのかとか知りたい

M4 mini 32GBでGemma-4-31Bっての入れてみたけどまあ動いてる

今話題のflint おいおい俺のM4 Max Studioがぁー

✗ This Mac does not meet the requirements
rec: Flint requires an Apple M4 Pro, M5 Pro or M5 Max; detected Apple M4 Max

上がってるPR適用したら動いた、recクソ速いぞ、mlx-optiqの倍以上

>>883
俺も動かしたくてDLしたけど読み込まなくて咽び泣いてた

リリースしてから更新されてるっぽいからもう一度試してみるか…

rec + flintは来そうだな、ターミナル作業する人なら入れてて損はない
rec launch pi などモデルとエージェントツールが設定要らずで爆速で起動する
ちょっと使いたい時だけ起動して使うみたいな試用方法できる

LM studioがいいのぉぉ！！(ジタバタ
DLが長いから一旦別のことやるか

>>882
同じスペックだけど意外と普通に動くよね
31Bがまともに動くんだから、Qwen3.8 27Bも動くだろうと思ったら返答が一句ずつやたら時間かかるもんだから一生懸命勉強したよ
MLX版入れたら早くなった

うおー読めたー
mlx_lmとmlx_vlmで行けるのか
勉強なったぜ！！

>>888
32GB選んで良かった

なにこの低レベルな驚き屋…

しょうもねえ驚き屋が去って実際に動かす人たちの情報交換の場になるのでこれでいいのだ

動けばいいって問題じゃないだろ
チャットなんかして楽しいか？
チャットの単語/秒　とか見て満足？

そうじゃねえだろ
翻訳、録音起こし、OCR要約、RAG、コード起案、WEB自動資料調査、膨大資料の分析レポート作成でどれくらいAIが自動化して使えるかが肝要だろ

64GBのMac miniで文芸翻訳はほぼ完成の域
ちょっと昔の下手くそな翻訳は軽く越えたクオリティ出てる

まあ確かにモデル読み込みした後動かしてなんぼだからな
そう考えたらギリギリのメモリで動かすと何もできん
64GBメモリのmac miniしたのは余裕持たせるためではあった

初回投稿のID出てない奴の事なんて気にしなくていい
ここ荒らしの遊び場だし

驚いていいんだよ
マウンティングする人も有益な情報書かないし
エロ情報提供者だけはマウントも許される

こうやってID出してから話し始めた方が良い

こうやって鼻毛出してから話し始めた方が良い

自分がID変えるのは別板でも書いてて素性をバラさないため
名前付けるほどの内容でもないし

だしな　てめえの　キラー鼻毛クイーンをよ…

>>900
ID替えるのはOK
ここIP替えて初回投稿するとID出ないから、鼻毛オジサンが成りすまして荒らしてる

>>341
OpenClawなんか使わずに素直にClode CodeかCodex使えよ

【ローカルAI】MacでローカルLLM Part2
https://egg.5ch.io/test/read.cgi/mac/1793097164/l50

900越えたので次スレ建てました

>>904
早すぎるだろタコ助が
馬鹿なのか

>>905
鼻毛オジサン😂
に成りすまし用のスレ立てられたら困るからなｗ

>>905
鼻毛オジ乙

なんで相談も無しに勝手に立ててんの？
いつも言ってんじゃん、テンプレぐらい作れや

と、思ったら荒らし湧いてんのね

>>908
次入れるわ
鼻毛オジサンと相談してもな😅

中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明
https://gigazine.net/news/20261027-concerning-behaviour-open-weight-ai-model/

>>911
ヤバすぎて草超えて密林

>>911
エージェントのせいって書いてないか？

怖い怖い、通信したのはエージェントだが指示したのはQwenだぞ
LittleSnitchの設定見直すとかDockerでAgent環境のSandBox化必要だな

んだからハーネスが大事なんだって話やね結局

cluadeさんかcodexさんにOSSハーネスの設定診断お願いするか
いまいち決めてがなくていっぱい飼ってるw

んーある程度は自作した方がええぞ
先述のニュースは結局スキルを有限化した方がいいという話だしクラウドllmですらそうなっとるわけでな

すごいすごいしか言わないようなYouTuberの言う事そのまま受けて対策せずに使ってスキルもそのまま入れまくってとかやってたらそらガーバガーバよ

いやローカルでスキル入れまくるとか寧ろ作法として一般的じゃないんじゃね？
>>917は汎用基盤を使ってクラウドと似たエージェントとして使うならという意味で書いてるんだろ
ガバガバなのはお前の無知さと読解力の無さだろ

M4 Max正式対応来たー！ 200token/sだぜ
rec v0.1.1
- Add support for Apple M4 Max.

遊びでメインマシンにQwen3.8-Flash-Next入れて遊んでたから速攻で削除したｗ
Qwen、DeepSeekの中国製はやっぱ怖いな
gpt-oss、Gemma、Llama、Mistralくらいしか使えないのか