【ローカルAI】MacでローカルLLM

MacでローカルAIを活用する話題はこちらで

関連スレ
Mac mini
https://egg.5ch.io/test/read.cgi/mac/1787931855/

Mac Studio
https://egg.5ch.io/test/read.cgi/mac/1787818994/

「それ」の複数形が「それら」

人物は「ら」つけて複数形あるけどな…
それらw

「どこ？」の複数形が「どこら？」

「椅子」の複数形が「椅子ら」

ネタかと思ったけど>>346はマジもんなのかｗ

明治期に「複数形」に接した日本人が無理矢理作った造語だな
本来は人物にしか使わない「ら」を強引に物にもつけて、悦にいる似非知識人
黄色人種が鼻膨らませて得意げに「それら」w
見てて哀れになってくる光景だね

それら　は、平安時代では「そういう人たち」という意味で、人物を描写するときの言葉だしな


出典：『栄花物語』（1028〜1092年頃）
もしは大蔵卿などや立ち出で心地つかむ、それらはいとやすし

境界知能ｗ

境界知能なのら〜

文頭に置く言葉じゃねぇってだけなんだけどな

ら ら らんどぅ
https://youtu.be/7CVfTd-_qbc

もしかして、オラオラですかぁ？

隙あらば雑談ばかりｗ

オープンAIら、個人らのチャットらも外部委託の人間らが全てら覗き見てたら
https://greta.5ch.io/test/read.cgi/poverty/1789448653/

しつこいのは嫌いだ

しつこいのは嫌いだら

Mac Studio ( M5 Ultra) は、512GBのユニファイドメモリを搭載可能なプロ向けデスクトップパソコンです。

• M5 Ultra搭載モデル
• 価格：3,949,800円（税込）～
• メモリ：10月後半に発売

緊急予約急げ！
売り切れても知らんぞ

>>361
メモリ別売りってことか

気合いだよMacは
買って買って買いまくれ！
メモリなんざ後からついてくる

後からついては来んだろ

400万は流石に無理ンゴね…

他の追随を許さない圧倒的メモリ
512GB メモリ爆誕！
https://gzo.ai/i/WGPqtNY.png

Surface Laptop Ultra
NVIDIA RTX Spark™ N1X with 6144-core GPU and 20-core CPU　128 GB unified memory
$5,899.99
https://www.microsoft.com/en-us/store/configure/surface-laptop-ultra/8wg5vqp0x4b8

この構成だとmac studio m5 max 128gb 1tb とほぼ同じ価格だな
こっちはエヌビのGPUでLLMだけじゃなくて動画生成も得意そうだな
ぐぬぬm5 max 128gb買ったの早まったかな 🤪

やっぱAIサーバ化するならM5 maxの方が使いやすいしメモリ帯域も速いしLLM中心に使うならmcだな
動画やりたくなったら手持ちのwinマシンにrtx5090ぶち込めばいいや
変なもの見て動揺して取り乱してしまったｗ

>>367
110万円か…

しらべたら120B級もラクラク動くみたいだな
だったら110万は安いまである

>>369
最新の為替レートだと93万円
ただ米国でも128GBはもう品切れになってる

スレタイ読め

>>370
楽々かは微妙
120B Q4だとコンテキスト長64Kが限界になるのでは

ラップトップはいらないよな

1ｋｇ未満の軽量で、バッテリー交換できれば買ってもいいがな
ちなみに俺さまは今だにSurface Go 3 を使ってる
軽いは正義

ずっと起動しっぱなしのものにバッテリーはいらない

だったらMac Studio で充分だな

thunderbolt5あるとクラスタ組めるみたいだけど、miniとstudioやM4とM5とか異なるチップ同士でもいけるんかね？メモリ帯域とかどうなるんだろ？🤔

いやあくまで外部バスだからねCPU内部とは桁がちがう
相互にDMAできる関係だから相当密な連携にはなるけど

M3 UltraとM4 Maxでクラスタ組んだことならある

>>372
くだらない雑談も取り締まれよ

卒アルの話に戻そう

Mac同士でクラスタ化すると2台のメモリを1台のメモリように使えるのかな？
アップルイベントの動画でM6 ultra 512gbを4台繋げてローカルllmのデモしてるの見たけど
mac stduio同士なら繋げてメモリ1本化できるのかな？

できない

そうAppleならね

じゃあ何で4台繋げて使うの？

自己解決　クロード回答
ハードウェア的に1本のメモリになるわけではありませんが、ソフトウェア側でモデルを分割して、実質的に合計メモリ分の大きさのモデルを動かすことはできます。

>>368
5090いくするか知ってんのか？

最安で100万円ちょっと超えるくらいだろ

Mac Studio 512 GB memory 約300万円超よりは安いよな
まあそれでも俺はMac買うんだ…

llmと動画もやってAIサーバ化するならノート搭載型のRTX Sparkじゃなくて従来型のDGX Spark買えって事だな

>>390
メモリサイズで倍々ゲームだから

128gb(100万円前後)→256gb(200万円前後)→512gb(400万円前後)
よって300万円以下はあり得ません😭

>>391
DGX SparkはWindows on ARM動かないけど、
それが動くRTX Sparkのデスクトップ版（Mac miniみたいなサイズのやつ）があるよ

>>393
それ興味ある
商品名はなに？

吾輩は猫である
名前はまだない

ヘイシリ、英国の小説をパクったと言うのは本当ですか？

パク　ヘジュン

ちょっといま緊急で朝ごはん食べてるんですけど
https://youtu.be/UpxmbL0NNBU

>>394
たとえばASUSならこれ？まだ出てないのかな
https://www.asus.com/jp/displays-desktops/mini-pcs/proart-mini-pc-series/proart-gr1x-mini-pc/

DGX Sparkみたいに何社からか発表はされてる

何百万もするハードをポンポン買えるのは凄いよ
一括じゃとても無理だしローンを組む勇気もない

なあにかえって負債になる

残り80円…
もうダメぽ…

AIへの指示「この８０円を元手に、300万円のPC購入費用を稼ぎ出す方法を構築して実行せよ。期限は年末までとする。」

買わなきゃいい
借りろ
１日８０円で

どうせ１年後はもっと高性能なPCが出て乗り換えたくなる

>>400
案件動画にして１ヶ月使ってから返す

>>399
うーん悩ましいな
このミニPCならサーバ化は可能だね、結局LLM以外に動画もやりたいならRTX Sparkなんだよね
大体128GBならMacもRTX Sparkも100万前後だし
RTX Sparkはメモリ幅が273GB/sでM5 Maxは614GB/sでるからLLMだけやるなら、まだMacの方が有利なんだよね
それとRTX SparkはDGX Sparkのように高速でクラスタ化できないから2台3台とは拡張するのは難しいね
遅いけど10GbEで繋げられるけど実用的じゃない
将来M5 Max128GB買った後にRTX Sparkも買うくらいならM5 ultra 256Gbに変更してLLMだけで生きて行く潔い選択も出来るｗ
M5 Max128GBまだキャンセルできるのが悩ましい

RTX Sparkのmini PCは残念極まりないな
コネクトポート無くして価格DGX Sparkと変わらん
どうしてもWindowsで使いたい人以外無用だな
サーバ運用ならLinuxでいいわけだし

>>398
ドリキンさんの変貌(半年前からずっと見てるけど・・・)

M5 ultra買います→やっぱ買わない→やっぱ買います(でもLLM用途じゃないよ)→今ココ→LLMはDGX Sparkより早くてメインはM5 ultraにします(たぶんこうなるｗ)

DGX Spark x1は肩身が狭い
DGX Spark x2でギリ
DGX Spark x4で一人前
DGX Spark x8 ならドヤ顔できる。
みている世界が違う。

>>400
西海岸だと新卒の年収1400万くらいらしい

でも多数の人間はその仕事にありつけないんでしょ

1980年代はじめの大卒でまあまあの会社だと2万ドルって聞いたな
当時のレートだと400万ちょっとか
日本の大卒メーカー勤めだと月給15万くらい、年250ってとこだった

中国の西海岸だと生活費12万円/年くらいらしい

待てるならM7 Ultra
1ドル130円になってるだろうから
２年後、ソフトウェア環境が整えばガチでApple>NVIDIAになる

その頃にまだAppleはあるだろうか？

ローカルはメモリ代とストレージ代がやばくなってきてるけど
クラウドLLMって料金据え置きで大丈夫なのかな

>>414
3年後…4年後かもしれんという

m1Ultraが出たときに我慢して
m3Ultraが出たときに我慢して…
m5Ultraでは我慢できなくなったw

これ普通は買えない貧乏人に、月額分割払いで買わせるの反則だろ
せめて金利８パーセント付けとけ
そうAppleならね

>>415
数年後にアポがなくなるんじゃ困るな、かなり良い利率の貯蓄だと思って株持ってる人も多いのに

アポーん

コラ、自決するな

M5 Ultra256GBの納期15-17週じゃないか
4か月以上は待てないな
4か月も待つならM7 Ultra待わｗ
直ぐ買えた96GBも在庫無くなったようだ

GLM-5.3アッポーで動かしたいでござる

M7 Ultraまで待てるんなら、そもそも不要だろ

今は待て
時期が悪い

>>414
無印から Ultria まで M7 で本気出してフルスペックみたいだから、それまで待つよ。

いま３００万円も出して、ローンまだ支払中の来年に、１０倍上のM7との性能差見せつけられたら、泣くに泣けんもんな

本当か分からんが、今後のロードマップ（Bloomberg Gurman氏の報道ベース）

M6（ベース）、2026年秋（すでに発売）、 Pro/Max/Ultraはスキップ
M7（ベース）、2027年前半、AI向け大幅強化
M7 Pro / M7 Max、2027年末頃
M7 Ultra、2028年、最大1.5TBユニファイドメモリ対応を想定

＊なおM6世代はベースモデルのみで終わる予定です。
＊M7世代でオンデバイスAI（Neural Engine）の大幅進化を優先し、M6のPro/Max/Ultra開発をキャンセルしてM7を前倒し。
＊M7 Ultraの順当な登場時期は2028年（今から約1年半〜2年後）

M6 2026年秋　100万円
M7 2027年前半　200万円
M7 Pro / M7 Max 300万円
M7 Ultra、2028年　500万円

これにメモリ次第で０〜300万円が上乗せになるイメージか

メモリの増産が急ピッチで行われている
メモリ御三家のマイクロン、サムスン、SKハイニクスはAI向けHBM生産の比重が高いけど
新興勢力の中国のCXMTはコンシュマー向けをターゲットに増産に入る
ちなアッポーはCXMTのメモリを使用するか評価中の報道が2か月くらい前にあった

なおメモリ不足が解消されるのは来年の夏以降と半導体アナリストノの予想、ただ価格が下がるかは不明

中国製メモリって…
それ故障したとき取り外しできるのApple製品でも
何百万円も払うのに、中国製メモリとかマジ勘弁してほしい

来年はメモリの世代が変わるから、MAC等にはより高額なメモリが採用されるようになる。旧世代のメモリの生産がしぼられなければ旧世代のメモリの価格は下がるかもしれんが、メモリメーカーも高額メモリに資源を集中する旨味を知ってるから、どうなることやら？

いま200〜400万円出して旧型メモリを買う人いるのか？
俺はM7の新型高速大容量ユニファイドメモリにするわ
流石に中国製か米国製メモリかは選べるんだろ

>>433

DDR6,GDDR7来るね
ただ今回はメモリ不足の混乱ですんなり移行できるか見ものだ、工場のライン変えるし生産切り替えで更に需給が混乱しそうだ

話は変わるが、アッポーはMacがローカルLLMで売れてるから、LLM向けに全振りしてM7シリーズ前倒しで出してくるのが面白い

AI用語「面白い」

>>434
M7ultraは2028年以降だからな‼︎
2年待てるならM7でも良いかもしれんが。

次期アップルのメモリは低電力高集積専用回路のLPDDR6で
通常のDDR6の生産ラインでも作れるから生産自体は高コストにならないそうだ
TSMCとかに出荷してM7チップと統合してパッケージングされて完成

AIバブルが崩壊したら俺の持ってる資産も下がるから
相対的な価値はあまり変わらない気がする。
そもそもバブルなのかも疑問。

バブルかは知らんけど、ネットやスマホの普及と同じでAIがなくなることは無いでしょ
今年になって一般層にも急激に広まった

ローカルLLM回してるのは全然おらんけども

回して　回していくか

オープンAI、個人のチャットも外部委託の人間が全て覗き見てた
https://greta.5ch.io/test/read.cgi/poverty/1789448653/

>>423
ところが　お客さん
512GB は即納なんです
本日注文いただければ、明日発送！

ええ　でもお高いんでしょう？

はい、その通りです