5ちゃんねる⇒新・mac@5ch掲示板
設定
ダークモード
広告表示
UPLIFT

1002コメント337KB

M4以降のMac mini 総合 Part10

■ このスレッドは過去ログ倉庫に格納されています
垢版
前スレ M4以降のMac mini 総合 Part9
https://egg.5ch.io/test/read.cgi/mac/1767679872/
垢版
ローカル生成AIが違法になる日が来るの!?
垢版
こういう人増えたよね
垢版
家宅やられたら逮捕案件とか絶対出るだろうな、TVニュースで晒される(笑)
垢版
注文できるmac miniの構成がどんどん減ってるね
いわゆる「吊るし」と言われる16GB/256GBが注文できなくなってる
垢版
アプグレチャレンジできなくしただけか
垢版
いよいよ新型でるのかな?
M5AIRを見送って待ってるんですよ!
垢版
メモリ不足の影響で秋まで出ないことが濃厚になったよ
垢版
M5 mac miniそろそろでるでしょ
mac miniはほとんどはネット注文できなくなってるようだし
bic cameraでm4 mac miniは生産終了と表示されていたらしい。
appleからbicに通知あったのかもしれない
垢版
>>102
M4チップ搭載Mac miniの最小構成モデルが、
米国を含む世界各地のApple Storeで
「現在購入不可(Currently Unavailable)」の
在庫切れ状態
垢版
YouTuberがそんなこと言ってたね
垢版
>>99
それな
敵もさる者w
垢版
ハルシばっかのローカルAIなんて需要ある?
垢版
>>106
一般人はいらないかもしれないが、
プログラミングする人はLocal LLM欲しくてしょうがないんだ。
例えばClaude Codeは月200ドルもする。サブスクの維持費が高すぎて使えない
賢いlocal LLM動かそうとすると現状はハード、GPU、メモリなどが高いが
3年以内には20万以下のハードでも実現可能になるだろう。
垢版
ただLocal LLM考えると
appleのunified memoryのデザインは最悪だ
最大メモリがしょぼすぎる。
今後local LLM流行りだしたらunified memoryはappleは捨てると読んでいる。
メモリ少なくてLLM利用者に相手にされなくなる。
垢版
>>108
世間一般とは逆向きの評価してるのが気になる
本当にプログラミングとかするのか?
垢版
おしりくちゅくちゅ揉んだれ♪
垢版
月200ドルなんて高くないし
垢版
>>109
するのかとは?
プログラム書いてるけどClaude高いからLocal LLM待ち
自力でコード書いてる

>>111
月32000円だぞ、高すぎだろ
しかも使い放題でもないし、最高モデルでもない。
Mythosは個人つかえるようになったとしたらさらに何倍も高くなる
垢版
疑問がられているのは、そう言う書いてるか書いてないかって意味よりも
現実的に実行できる環境構築と理想像の剥離が広すぎて
AI云々を駄弁れる事してないだろ。って事だと思うが
垢版
仕事で使うなら高くない
趣味で使うだけなら高い
垢版
>>112
一つで1000万円からモノによっては一億円くらいするAIサーバーで駆動してるLLMがサブスク月2~3万円って激安だと思うけどな
垢版
趣味こそ金なんていくらでも突っ込むだろ
垢版
要するに高くないよな
だからLLMに走るってのも分からんし
垢版
>>114
アプリ公開してる人は趣味でもあり仕事でもある
アプリで利益だそうとしてるから趣味とも違う。
副業でやってる人も多い

あと仕事ならリーマンは会社が金だしてるわけだから高くなくてあたりまえ
それ自分では金払ってないだろw
垢版
>>115
だからそれが3年程度以内に20万円程度でLocalで動くようになりそうっていってんだよ
そしたら月3万はらうばかいる?ってこと
垢版
>>119
ちょっと何いってるのかわからない
いま直ぐにLocalで環境整えられないならそれまで月3万払うのって合理的に思うんだが
月3万ぽっちケチる理由もわからないし
垢版
金出せない奴はいつまでも待っていればいいのさ。
垢版
>>120
年間なら38.4万。高いでしょ普通に
あと勘違いしてる人多すぎだが200ドルのプランでも使い放題じゃないんだよ
利用制限かかってしまう

あとはセキュリティ的にはLocal LLMが圧倒的に安全。
AIのせいで機密情報もらしてる事例がおおすぎる
AIなしではコーディングできない人は払わざるを得ないんだろうけど
自力でコーディングできるからそんなに急いではいないということ
垢版
AIのせいで機密情報漏らしてる事例なんて見つからないけど?
垢版
>>123
AIは致命的な間違いを犯すからしょっちゅう事故は起こってる。
昨日もこんなとんでもない事故。おまえらこれでもAIに月に3万払う?
AIエージェントが本番環境のデータベースとバックアップを全破壊
https://gigazine.net/news/20260427-ai-coding-agent-deleted-database/
垢版
クラウドAIとローカルAIの差は縮まるかもしれないが、
追いつくことは絶対にないし、
高いとか言ってる人は3年後も同じようなこと言ってるんじゃないかな
今3万円かけてでもやれることやっといた方が得すると思うけどねぇ
コーディングスピードも桁違いだし、ちゃんと使えば余裕で元取れるわ
情報の取扱い方だけは気を付ける必要あるけど
垢版
ぶっちゃけーカルLLMでQwen やGemmaを制限なしの無料チャットとして使えるだけでも十分価値があると思うわ。数年前を思えば本当にすごいことなのに、いかんせん今のGPTやClaudeの処理スピードや品質と比較してしまうから感覚が麻痺してる。
垢版
mac miniなら消費電力も気にならんから24時間稼働させてAI鯖にするつもり
垢版
運よく午前中に注文出来た整備済品が早々と発送されたな
垢版
>>125
3年後はただの緩めの予想だ。
各社DRAM増産が2027年といわれてるから2028年には
DRAMはかなり安くなる。
それを受けてVRAMを大量につんだGPUなどが2029年には出るはず。これが3年後の根拠。
DRAM slotが大量にあるマザーもでるかもしれない。Local LLM向けだ。

追いつく必要はない。モデルは最高性能でなくてもいい。最高のモデルは常に高くつくから。
自分の用途で使えるレベルと思った品質、速度を達成すればいい。
垢版
>>127
消費電力も重要だな
mac miniでも32GBならモデルによってはLocal LLM動くようだし注目してるってわけ
垢版
バカかコイツ
垢版
2年先とか3年先がどうなってるかとか、
そんなこと考えても何の意味もないよな
ことAIに関しては特に
垢版
>>131-132
Localで実行できるかの目安がDRAM/VRAMだと俺は気づくし
おまえらは気づいてないというだけ
DRAM企業ののニュース追いかけてれば2027から2028年に
下がるとみるのは合理的な予想
見えてる世界の広さが違う
垢版
広さ()
なぜこうも極端で、合理的と判断する材料が大衆主義的な俗解なのか
垢版
そもそもローカル連呼の割にモデルやライブラリの具体例が微塵もなく、
ただただデカい数字を求めているだけで、それが何のために求めているかも曖昧だ。

そんな印象を持たれるくらい常時フワッフワ。
それでいてこの言いぐさと言うか、鼻の穴膨らませてて迷惑だなぁ
垢版
>>135
週単位で新しいモデル出てくる状況だし
ここのひとはそもそもDeep Seek V4のベンチマーク結果すら
知らない人ばかりなのだから数字だしても伝わらない。
ClaudeもOpus 4.7で逆に頭が悪くなったとか言われてる。
ハードもソフトの知識もなくニュースも見ていない上に
プログラミングもできない、そんな人に話しても的外れなレスしかこないだろ
垢版
今動けてないやつは3年後も動けてないよw
永遠に待ちつづけてただ時間が過ぎていくだけ
垢版
純粋に疑問なんだけどなんで今MacユーザーだけLocalのLLMに熱中してんの?
WinとかLinuxの方だと一通りエロ絵生成するぐらいで生成AI活用するならクラウドだよねって流れだと思うのだが
垢版
>>138
逆
ローカルLLM活用したい人がmac miniに注目してるの
ユニファイドメモリで巨大モデル載せるには一番コスパ良いから
垢版
>>138
悪い言い方すれば周回遅れ。
良い言い方すれば一般家庭レベルでワークステーション級のライブラリを遅いながらも完走できる。

ってので需要出てきちゃった。

んまぁ、ユニファイド+スワップで物理メモリ以上のグラフィックメモリをiogpulimitで確保した所で
クッッソ遅くてお試しで1回やるだけだと思うが
垢版
>>138
ローカルLLMにえっちな画像を見せて
これと同じのを生成するプロンプトを作れってやるんだぜ
これをオンラインのQwenとかにやると怒られるw
垢版
エロのためにそこまで金かけるかね
単純に疑問
垢版
プライベート案件とエロ目的が大半だろうな
それ以外ならクラウドの無料AIで事足りるし
垢版
>>137
俺への批判?
高価なハード使わない、軽いLocal LLMなら試している
これではコーディングには使えないと判断してつかっていないだけだ
垢版
>>138
Windowsでやろうとすると40万円クラスのGeforce必要だったりする。
だからMac miniでお手軽にやってる人が増えてるということ
ただMacでやってる人もたいてい32GBだよ
お絵描きもガチでやってるひとはLocal LLMなんじゃないかね
クラウドは利用制限が厳しくなってる
垢版
今70万
垢版
ローカル向けのLLM、今はVRAM16GB程度のミドルレンジGeForceで十分動くほうに進化してきてるから、やっぱMacいらんで
なんか偉そうに語ってるわりには微妙に情報が古いんだよなこの人
垢版
そもそもお絵描き() AI生成は元から自家だろうが

ってツッコミも追加で
垢版
>>148
それは利用制限あるアダルトかどうかで変わるだろう
非アダルトで低解像度でいいなら無料クラウドでいいだろうし用途でちがうはずだ
垢版
>>147
具体的にどのグラボだよ
GPUピンキリすぎてミドルレンジじゃわからない。
あと16GBだとクラウドAIレベルに性能も速度も遠く及ばないんじゃないか?
実在するならYouTubeとかのURLあげてくれよ
おそいLLMなら俺のコーディングのが速いわけよw

「進化してきてる」そんなことはしってる。
だからこそぼったくりクラウドではなくLocalでやろうとしてるんだろ
Claudeに年間48万もはらっても利用制限ひっかかるなんてだるくてやってられない
垢版
お前、ここ2-3年前に生まれたんか?
ってレベルの認識で笑う。

もうMac板は名人多すぎだよ、
毎年定期的に現れるのは何かの呪い?
垢版
俺は新幹線より速く走れるんだ
レベルの妄想垂れ流すのやめろ
垢版
大量のM4 miniはタイとミャンマーの国境付近に持ち込まれ
クラスターLLMとして数十億以上を荒稼ぎするんじゃないのかな?

エロとかとは別次元だろ
垢版
>>151
ほら、具体的な話できないひときた
70万のGPUってなんだよ
おれは価格コムみてるしおまえらのがずれとる
VRAM12GB程度では良質なコーディングモデルは使えない
スワップさせて使えてる、とかは論外な
垢版
M5はM4からCPU強くなりそう?GPUとかNPUは置いといて
垢版
12GB程度かよw
ドキュメントすら入らんわw
120bでhalo要求するレベルなのにw
垢版
ここは詳しいな
https://jisaku.com/posts/local-llm-llama-gemma-qwen-pc

上で俺がGPU 40万とかいたのはRTX 3090だ。価格コム36万円
おそらく70万とかいたひとはRTX 4090だろうな
どちらもVRAM24GBだ
それで高品質なモデルだとVRAM24GBでも足りないのだ。

他のサイトでもLocal LLMは推奨VRAM24GBとかかれてたのよ
だからRTX3090を念頭に40万円とかいた。ぜんぜんずれてないわけ。
垢版
ずれとるわw
rtx3080を1台じゃ12b以下やぞ
コーダー支援で有意義って言われているのが30b以降なのに
垢版
rtx3080❌
rtx3090⭕
垢版
それこそ一部をオフロードにすれば20bも行ける範疇だが、
スワップ無しでとかほざいたやつがそんな事考える訳ないよな?

どっちにしろ20bじゃチャッピーの領域出てねぇが
垢版
>>158
157のサイト読んだか?
24GBで足りない分をDDR5のDRAMで補完してんだよ
お高いGPU2台とか買いたくないし。発熱と電源もどうするんだって話よ
騒音もうるさいだろうし、電気代もバカ食い
GPU使うとしても現実的には1台構成までだろう
垢版
Miniでいいじゃん。70bを完走できるし、
お前の言っている訳の分からない事なんざ1つもねぇよ。

それにwindowsじゃ"お高い"GPU2台でも足りねーよ
コインマイナーみたいな構築かhaloかDGXぐらい繋げろ
垢版
>>142
金になる…いや、過去形かな
大勢がやり始めると金にはならないので…
垢版
それに足りない部分をDRAMが肩代わりしてるってスワップやん。
それをオフロードって言うんだが、別に補完している訳ではないし頻繁になればなるほど遅いし完走もしなくなるぞ。

と言うかDDR5のDRAMって言い回し面白いわ。
共有メモリとかRAMで良いだろ普通w
垢版
>>160
ただswapといったらSSDやHDDのswapと勘違いされる。
従来からスワップといったらふつうはストレージを指すから
垢版
>>160
あと20bとかいてもどのLLMの話か分からんだろ
名前くらいかけよ
いまはたくさんLLMあるんだから
垢版
>>164
スマホでストレージのことをROMと表記するバカ企業増えただろう
だから誤解を招かないようROMとかRAMはあまり使わないようにしてるわけ
DDR5 DRAMなら誤解されようがない
VRAMならDDR5じゃないし
おまえみたいにswapと書いて誤解されないようになってるわけ
垢版
何が普通だよ。元の位置から移設された物は全部スワップだし、
勘違いの懸念なんてそんな程度でしか知識のないお前の問題だ。
DDR5で作られたVRAMもあるし、FlashROMをROMと呼ぼうがチャイナ英語には興味なんざないから知ったこっちゃない。それこそお前の語学環境に興味が無い。

それにトークン化された物にモデルの違いなんざメモリに関係するか?
既にトークン化されているんだぞ、「ここが詳しいな」で、お前が提示したURL先のモデル一覧にメモリの推奨書いてあるだろうが。
「LLM」の違いでパラメータ数自体の処理サイズは変わらねーの。

あるのは重み判断の良さとそれに伴う速さだ。
プロンプト稼働中のメモリ消費量はパラメータの数でしかないんだよ
垢版
>>168
長くPCやってきてるひとはスワップといったらメモリからストレージへの退避で
激しく遅くなるやつをイメージするのがふつう
メモリは速いパーツだからメモリへのスワップというのは想像されない。
どうしてもスワップという言葉しか使えないなら「メモリへのスワップ」とかかないと伝わらない
垢版
>>168
モデルによって変わるに決まってんだろw
おまえがプログラミングできないのはわかった。

Mixture of Experts使ってれば全体のパラメータ数と
必要メモリ容量は全然違ってくる。
GoogleのTurboQuantでもメモリ使用量を劇的に減らしたりしてる。

いかに少ないリソースで効果的に結果を出すか
これがモデルの良しあしに直結する。
全部のモデルで同じとかいってるようではなにもわかってない
垢版
「おそいLLMならおれのほうが速いw」って言うだけのことはあるわ。
長年やってると言う想像は随分と変だな。メモリブロックの反転を使ったアドレス移動もスワップだが、
文脈から想像できないのはソイツが"足りない"か聞いてないのどちらかしかない気がするんだが。

普通にバーチャルメモリとか、windowsはページングファイル、Macは圧縮メモリ(compressed memory)と言う名称もある。
どれを使っても問題ないが、理解力の不足は不足側の問題になり得るぞ。

パラメータ数が違うなら消費メモリ違うだろ。
本当に「ここが詳しいナ」ってお前が提示したURL先すら理解してないのか?
垢版
アホなリーニングを愚直にやって重複した回答を続けりゃそれだけリソースの無駄になる。
それをトークンとしてモデル内に残した所でパラメータは愚直に計算するだけだ。
それを減らすのが最適化であって、減ったらパラメータの数はどうなる?

それをモデルとして持ち上げたところで、
パラメータ数がメモリ消費に直結する。と言う事>>168に何の反論もないって事になるよ。

何が言いたいのお前?
垢版
そもそもMoEはメモリ消費の削減する訳じゃなくて高速化だし
Quantは圧縮技術だし
垢版
ま、パラメータがfp16か32かでサイズが変わるんだがな
垢版
>>173
MoE メモリ等の消費リソース削減のための技術にきまってんだろw
TurboQuantも発表と同時にメモリ関連企業の株価が急落したりした
5chやる時間けずってプログラミングの勉強してこい
かなりセンスはなさそうだが
垢版
AI Overview
LLM(大規模言語モデル)におけるMoE(Mixture of Experts:混合専門家モデル)は、一言で言うと「モデルの賢さ(性能)を維持・向上させながら、計算コスト(時間・金)を抑える」目的で採用されています。
従来の「全パラメータを毎回使うモデル(Denseモデル)」とは異なり、入力に応じて必要な「専門家(サブネットワーク)」だけを動かすため、以下のようなメリットがあります。
MoEを採用する主な理由

推論の高速化(コスト削減)
モデルのパラメータ総数は非常に巨大(1兆個以上など)でも、実際に推論(回答生成)に動くのはその一部の専門家だけです。
結果として、賢いモデルでありながら、少ない計算資源で高速に動作します。
垢版
大規模言語モデルやベクトル検索エンジン向けに大規模な圧縮を可能にする、理論的に根拠に基づく高度な量子化アルゴリズムのセットをご紹介いたします。

Quantはそう言っているな。
当たり前だが、コイツはデータブロックのベクトル化&検索なだけでMMLではない。

コイツがAIとして機能するのではない。
これはライブラリの最適化アルゴリズムであって、これをMMLと言うのは情弱ぐらいだな

それにMoEはオフロードの技術だ。
GPUメモリが確保できるならそっちの方が速いし、そもそもVRAMが足りないから生まれた技術だ。
結局の所は計算量は変わらないし、そんなチンケなGPUでやるしかない環境向けなんよ
垢版
>>175
正直、何か削ってプログラミングの勉強した結果がお前だとしたら凄い時間の無駄だな。
君のやっている真逆のことをした方がハズレが少ないレベルだよw
垢版
センス皆無だよ。ID:ZCqmSdqI0が
垢版
もうこのレスバ大好き人間は無視するか
プログラミングできない人とこういう話しても意味ない
貴重の時間というリソースが無駄になってる
垢版
もっと早く気付けアホ
垢版
ここはお前の砂場じゃねぇし、妄想垂れ流したいなら正当化主張すんなや。
妄想を邪魔されたくないなら妄想から出てくんなし

おかしいから指摘されるし、訂正されるのは間違えているからだろ。
それを意味ないで一蹴するなら何しに来たんだよ。
お前の妄想なんて価値ねぇのよ

もっと反論したいならAI要約とかよりソースを出せ。
そしてソースをよく読んでから話せ。「ここが詳しい」でソース提出側が何も読んでないとかネタかよ
垢版
そろそろスレチになってきたから
パソコンの大先生たちどっか他所でやってれないかな
垢版
どうせ隔離スレだからスレチも何もないと思うが
垢版
友達のMac mini で使ってるエクセルの調子が悪いそうなんですが質問いいですか?
垢版
まず友達を呼べ
垢版
>>185
俺は脱マイクロソフト作戦実行中でオフィスはリブレオフィスに変えた
リブレオフィスにするといいよ
垢版
女子高生のフリをしたら親切に教えてくれるかも
垢版
>>185

↓こっちにいけ
Mac初心者質問スレッド298
https://egg.5ch.net/test/read.cgi/mac/1766662737/

調子が悪い なんて言われても
エスパーでも解らないけどね

とりあえず再起動くらいさせとけ
垢版
どうせ大してネタもないし続けていいよ
カンガルーの殴り合いにしか見えないけど
垢版
カンガルーに失礼だろ
垢版
ワラビーならええんですか?
垢版
前スレでローカル画像生成でやっぱMac(M4 Pro 64GB)はきついからRTX5070ti搭載のWindowsマシン買ったものなんだけどさ、試しにLMStudioで Gemma4を動かしてみたら、これもMacと比べて出力爆速でマジ驚いたわ。。メモリ帯域が3.3倍も↑だから当然なのかもしれんけど、、マジ感動したわ。
垢版
しかも使用中にファンが轟音状態になるMac mini とくらべて静かなままだし。
垢版
>>187
ありがとうございます
なんかエクセルじゃないとダメらしいんですよね

>>189
どうせ隔離スレだから大丈夫みたいですよ
とりあえず再起動するように言ってみます
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況