5ちゃんねる⇒新・mac@5ch掲示板
設定
ダークモード
広告表示
画像・外部リンク

UPLIFT会員は外部リンクへ直接移動します。確認は初期設定でオンです。

機能のオン・オフ

このブラウザ・このサーバーのみ。オフにしても保存済みデータは残ります。

UPLIFT

1002コメント337KB

M4以降のMac mini 総合 Part10

■ このスレッドは過去ログ倉庫に格納されています
垢版
返信 [1]
前スレ M4以降のMac mini 総合 Part9
https://egg.5ch.io/test/read.cgi/mac/1767679872/
垢版
返信 [2]
>>464
「モデルの違いでメモリ消費に有意な差はない」と主張しているが、ここが根本的に間違っている

量子化の話が完全に抜け落ちている。70Bモデルを16ビットで保持すれば重みだけで約140ギガバイト必要という計算は正しいが、それは16ビットで保持するという前提にすぎない。現実の大規模言語モデル推論では、8ビットや4ビットに量子化することで、同じ70Bでも重みメモリを概算で約70ギガバイト、約35ギガバイト程度まで削減できる。これは「有意義な差がない」どころか、重みメモリだけで2倍から4倍程度の差が出るということだ

さらに、量子化で減るのは反復数ではなく、重みの表現に必要なビット数である。したがって「メモリを減らすなら反復を減らすしかない」という説明も成り立たない

皮肉なことに、君の主張は「相手は基本すら知らない」「用語を出して頓珍漢」と相手を強く批判している一方で、量子化という現代の大規模言語モデル運用における基本的かつ重要な概念が抜け落ちている。その時点で、メモリ消費についての議論としては致命的に不完全である
垢版
>>470
数万円じゃすまないぞw
LLMモデルのボリュームゾーンが90GBとかいってたから
128GB Macを買おうとしてる。
しかもAIバブル崩壊したら価格が暴落すると予想してるっていうアホっぷり
垢版
返信 [1]
>>474
シングルやダブル(fp16,fp32)とか欠落しているよねって>>464に書いてあんじゃん。

概念の前に読もうよ
垢版
>>476
そこに書いてあるのは単精度や倍精度の話であって、量子化の話ではない
問題にしているのは、70Bを16ビットで持てば約140ギガバイトという計算自体ではなく、その16ビット前提だけで「メモリ消費に有意な差はない」と断定している点
現実の大規模言語モデル推論では、8ビットや4ビット量子化で重みメモリは大きく変わる。だから「シングルやダブルと書いてある」は、量子化が欠落しているという批判への反論になっていない
垢版
>>474
そいついつものレスバ基地外だよ
LLMのことをMMLだと思ってたくらいひどいアホ。>>459参照

パラメータ数はモデルのGBサイズとは直接関係がないことは
何日も前に指摘しただけど彼はアホすぎて理解できなかったんだよ
アホすぎて量子化もさっぱりわかってないよ
垢版
返信 [1]
そんで量子化はLLMじゃなくてQuantなんかのライブラリ最適化アルゴリズム。
>>177で既に言及済み。

量子化云々は理論的な最適化であって精度を下げても良い結果を期待できます。ってだけ。
32から16に変換するのもあるよ。ある意味圧縮みたいな物(ベクトル化は違うが)だね。

ただそれはLLMではなくてライブラリだよね

メモリ量の話してて倍精度、単精度、Q8、Q4は他所に置けとでも言いたいのか?根幹なのに?
それとも量子化バンザイしたいのか?

俺は量子化なんて話をするつもりもなくて、ただLLMのメモリ消費の話をしているだけだぞ?
そもそもそんな最適化の話なんてしてないから、欠落も何も勝手にそう言う話をしていると思い込むなよ、って思うんだけど
垢版
結局、思い込みの激しい人はそれしかツッコミを入れられない程に退化しちゃったけど、
普通に耳栓してアーアー言ってんのと変わらないんだよね。

かなり昔から置いてたのを今になってツッコミ続けてもレスバのリーサルウェポンにはならんなぁ。
言葉そっくり返すけどID:8wWKskbS0は只のアホや
垢版
返信 [1]
>>479
量子化ライブラリ自体がLLMではない、というのは当たり前。誰もそんな話はしていない。問題はLLMのメモリ消費を語るとき、重みを何ビットで保持するかが必要メモリを直接左右するという点。70Bをfp16で持てば約140GBだが、Q8なら約70GB、Q4なら約35GBになる。これは「ライブラリ最適化だから関係ない」では済まない。実際に必要メモリが変わるから

しかも自分で「メモリ量の話で倍精度、単精度、Q8、Q4は根幹」と言っているなら、量子化はまさに根幹。なのに「量子化の話をするつもりはないがLLMのメモリ消費の話をしている」は矛盾している

それとMoEはオフロード技術ではない。複数の専門家の一部だけをトークンごとに使う疎なモデル構造で、総容量を増やしつつ実行時の計算量を抑えるための設計。オフロードとは別の話
垢版
返信 [1]
>>481
前節では、MoEが時代以前に使用されていたものとして説明しました。ディープラーニングディープラーニングの後、MoEは最大モデルを運用することに応用を見出しました。これは条件計算を実行する簡便な方法であり、モデルの一部のみが使用され、その部分は入力内容に応じて選択されます。19]

前時代だよそれ。ディープラーニング以前のアルゴリズムの説明。>>481の説明はcommittee machinesの話。
ディープラーニング用はこれの応用でMixture of expertsと名前を変えているよ。


量子化は最適化であってQ4で事足りるライブラリもあればfp32じゃないと精度を保証しないと言うのもあるぞ。
何勝手に量子化だけに絞ってんだよ。

デカいデータを整頓して機械から見やすくする。
と、
箱のサイズ
は、
同じ話か?

前者は明らかに一手間加える話だろ。私は後者の話しかしてねぇのよ、
なんでまた別人が過去レス読まずに絡むんだか。
誰もそんな話してないじゃなくて、勝手に割り込んでのよアンタさん
垢版
>>482
「箱のサイズの話しかしていない」と言うなら、量子化はまさに箱のサイズの話だよ。量子化はデータを見やすく整頓するだけではなく、重みを何ビットで保持するかを変えるので、必要メモリそのものが変わる。70Bならfp16で約140GB、Q8で約70GB、Q4で約35GB
こちらは「常にQ4で足りる」とは言っていない。fp32が必要な場合もある。だからこそ、メモリ消費を語るなら表現形式を条件として明示しろ、という話だ
元の問題は「70Bをfp16で持つと約140GB」という正しい計算ではなく、そこから「モデルの違いでメモリ消費に有意義な差は無い」と一般化した点にある。量子化や実装を対象外にするなら、それは「特定条件下の重みサイズ」の話であって、LLMのメモリ消費一般の話ではない

MoEもオフロード技術ではない。現代LLMでのMoEは、入力やトークンごとに内部処理ブロックの一部を選んで使う疎な構造。オフロードは別概念だ
垢版
コピペしてて草。掲示板なんだから同じ事言わずに過去レス見れば良いやろ(笑)
時間で消えるSNSかよω
垢版
はいスレチ
垢版
返信 [1]
アホらし…

何度目なんや、正に箱の話じゃねぇよ。
一手間加えねぇし、既に量子化じゃねぇって明示しているし、コピペするし…

世は正に世紀末。アホが跋扈する悲しき世界だよ
垢版
返信 [1]
>>486
アホはMMLとか連呼してたおまえだぞMMLおじ
垢版
>>487
それしかツッコミ入れられない故障はどちら様でしょうか?😜
垢版
返信 [1]
このスレをClaudeに丸投げするじゃろ?
で、何を学んだかを尋ねてみるといいよ
垢版
>>489
そんなMacをいぢめる事できません🥹
垢版
直近で新型の可能性があるなら来月だよな
元々噂レベルでも6月って言われてたし
来月が楽しみ
垢版
返信 [1]
本当に出るのかなぁ…
StudioとかProよろしく縮小-消滅なだけじゃないよね…
垢版
2月にM4の32GB赤札買えたのラッキーだったわ。SSD256は足りなかったけどまあ、何とかなってる。
垢版
>>492
複数の有名リーカーが6月のM5mini発表を予想している
オレは8、90%の確率と推測。つまりかなりの高確度で期待して備えている
これまでの情報だとstorageは512GB〜で当然の如く値上げ
ただ 搭載RAM情報は不確定。32GB〜だと助かる
24〜だと32GBは無いし、現行保全ならそれでも無いしw

そいや先月半ばまでM5miniは絶対出ないと言い張ってた情弱低脳いたなぁ(笑)
多分、いや今も居てこのスレ荒らしてるんだろうw

miniとstudioのダブル発表らしいね
秋以降にiMacだってさ

それにしてもAIバブル崩壊で高騰し続けてるメモリ価格が下落するって言ってるのに、本体価格が暴落するとかオレが言ってるととんでもない解釈してる境界知能(下限)まで居て失笑を禁じ得ない
本当、色んな奴が居るんだなぁ(笑)

M5はAIpcとしてM4に比べ数世代上レベルの進化してるから、M5miniにはかなり期待している
恐らく…新型iPhone程では無いにしろかなりの争奪戦になりそうな悪寒w
垢版
その前に先日TV買ってしまったwこれがかなりの痛手だ
メッシ最後のWCだし、日本代表は歴代最強チームだしでサッカー好きならこれは大画面で観たい。70インチとかだとまた50インチと比較して格段の差があるね

もう映画館へ通う事もほぼなくなりそうだw
垢版
返信 [1]
16G256Gで15万〜とかになったら悲しい
10万以下が売りだったminiがもう価格じゃminiじゃなくなる
垢版
M5の発売は秋以降っぽいね
垢版
>>496
サーフェイスがそんな価格帯になったな〜ってどこかで話してたけど今もっと上がってた。16GB256の13インチ、今21マン…
向こうはラップトップだからminiとは違うけど、元々はmini以下の値段だった気がする…
垢版
パーツ不足に高騰
AIのことでもめるヤツ
AIってろくなもんじゃないな
マイニングの時みたいにブーム終わってください
垢版
マイニングはETHのPoS化でブームが終わった
しかしAIは賢くなればなるほど良い
つまりベンチマークのハイスコアを目指す自作erみたいに無限に性能を求めていくはず

諦めよう
もう人類向けにPCパーツを作るよりも
AI向けに作ったほうが儲かる時代になっちゃったんだ

人類もAI相手に仕事したほうがいいよ
そういう市場が出来始めている
垢版
万能なAIでもまだ出来ないことはある
物理世界への干渉だ(フィジカルAIが出るまでの期間限定だが)
それを人間が代行し報酬を貰うプラットフォームがある

https://wired.jp/article/ai-agent-rentahuman-bots-hire-humans/
垢版
AI、AIいう前にまずOllama辺りを試しなよ
ここのスレ見てるとアダでっかちなやつが多すぎるわ
垢版
アダルトでかちん?
垢版
1ヶ月前倒しで発送された、キャンセル多かったのかな?
垢版
いや、発送予定日なんていつも適当だからそんなもん
垢版
返信 [1]
RAMは32GBで100GBでも調整して使えると豪語してたモブさん
284BのDeepSeek V4 Flashを導入してみて、コメント頼むは

これ Macの128GB以上が対象のLLM engineだからこれが実用で使えるレベルならお前のいう32GBをメインPCにしてやるよw

今のところ32GBはローカルLLM入門の初心者向けのカテゴライズだね
初級者〜が64GBって感じか

分かりやすく ザッとMacノートで例えるとw
32GB =Neo
64GB =Air
128GB=Pro

こんなイメージ(笑)
ガンダムでは例えないw
垢版
M5Proを何処で買うか迷うなぁ
StoreかCostcoかAmazonか
この3択になるのかな?

studioも視野に入れてるがultraとか出るのかな??
3桁万円になると流石に手が出ない
買ったばかりの70インチTVを売却しても到底予算不足www
早くWWDC来い、じゃ無いと予定が立たないw
垢版
いやーすごい面白い人がいますね
いつまでやるんだろ
垢版
さっき出た整備品が根こそぎ瞬殺されとるなw
垢版
いつまでやるんだか…ω
まぁその間、思い込みの激しい人はここから出ていかないから有益なんだけどωω
垢版
ん?
32GBマンは後ろ足で砂掛けて逃亡かい?
逃げ足だけはチーター並みだねwww

まぁ予想通りだけどさ(笑)

そして例の先月半ば迄、新型miniは来年迄出ないと吹き巻くってた情弱低脳マンも居るね
同一人物だったら流石にドクペ噴くw
垢版
そんなにAIしたいのならMac Studioにすればいいのに
垢版
>>506
今日のMMLおじか?
テレビ売らないとMac買えないとか笑うな
そんな貧乏人が無理してStudioとか

チューニングは態度悪いおまえにはおしえるつもりはない
有料級情報
垢版
ID違うのに同一人物と決めつけたり
勝手にチューニング(笑)を教えるとか教えないとか言ってるおまえのがやばい …ω

クソガキみたいな駄々をこねんな
垢版
返信 [1]
俺もバトってる奴じゃないのに勝手に決めつけられたな
>>461とか
ここは5chだし好きに暴れればいいと思うが、いきなり他人を巻き込むな
怖いわw
垢版
>>515
知らんけどなんか>>177と間違えたとか言ってるぞ
垢版
隔離スレなんだから巻き込むなはないな …w
垢版
M5MacBook Airを見送ってM5miniを待ってるんです!
6月に発売してください!
おながいします!!
mini2011はもう限界を超えて色々使えないんです!!
垢版
15年も引っ張ってるのは、まぁすごいな
と言いつつ自分自身Mac Pro2010をサブとは言えまだ使ってるけど
垢版
返信 [1]
わしM5は買わないんじゃ

M1〜M5の性能変化なんてM5〜M6の変化に比べたら誤差みたいなものと予想してるんじゃ
だって、M6(仮)はAppleのスーパーエリートな開発陣がスーパーエリートにAIを使い倒して開発するんじゃ

M5の次。それはもう、根本的に何かが違う、すっごいヤツになるっていうのはもう確定してる未来じゃろ?
垢版
Intelチップで現役なのはすごい
SSDに換装したりでそれなりに快適になるけど、
Wi-Fi(Bluetoothも)規格とType-AなUSBポートがつらそうじゃな
垢版
2015年の11インチMacBook Airに最新ubuntu入れてるけどめちゃサクサク動く
トラックパッドジェスチャーもほぼ完璧にMac
垢版
古いmacに Chrome OS Flex入れるのが流行ってると聞いた
垢版
>>520
M7が超すごいらしいからM6買うのはやめておいた方がいい
垢版
M5はまだそこまでの値上げにはならんだろという期待があるが、M6はさすがに大幅に値上がりする予感
垢版
M78になったら起こしてくれ
垢版
インフレ終わるには
ウクライナ戦争
イラン戦争、ホルムズ解放
トランプ政権
が終わらないといけない。
新DRAM工場稼働も必要
垢版
返信 [4]
ついにコスパよいAI対応Mini PCきたな
これはWindowsでメモリ32GBだけど
20tok/s以上でてるし実用的なスピードといえるだろう
ストレージとメモリなしなら12万円
https://pc.watch.impress.co.jp/docs/news/2107855.html

Macやグラボ無しで20tok/s出るなら
AIのためにMac, dGPU買う人減るんでは?
垢版
Mac Miniブームも少しおちつきそうだな
528みたいな中華Mini PCこれからどんどんでてくるのは確実
垢版
返信 [1]
要人柱っすね
ただ、356Hは128GBが最大だからDGX買った方が良さそう
垢版
dGPUかUnified memoryじゃないとだめとか言われてたのに
あっさり10万円前後の中華PCで20Bモデルが20tok/sでちゃうとはな

Mac Mini安いのは16GBベースモデルだけだからな
垢版
>>530
DDR5まだ高いしMax128GBで十分すぎる
DGXは高すぎて個人はほぼ買わない
垢版
無印m4で20bなら16-24token/s出てるから速度重視するなら普通にdGPUの方がいいよ。メモリがネックだけど

どちらかと言うと品薄で何も手に入らない中、とりあえず筐体と中身が手に入るってコトで
AIだけじゃなく使えるPCを手に入れられるのが褒めるべき点かな
垢版
返信 [2]
>>528
Unified MemoryのMacの代替にはならなくね?メモリ帯域が段違いだと思うんだけど
垢版
返信 [1]
と言うかWindowsはVRAMを物理メモリ以上に設定できたっけ。
Macはスワップが動いてどんどんSSDの寿命削っていくけど
垢版
>>534
UnifiedはAIでは有利とは言われてきたがメモリ増やすとMacバカ高いでしょ?
コスト面ではゴミだよ。メモリ増設できないし。

UnifiedじゃないIntel系ハードで20 tok/s以上でるようになっちゃったんだよ。
このスピードはほとんどの人が文章読むスピードより速いから
スピードはもう実用十分なのよ
垢版
>>534
無印m4が120GB/s、SODIMMが51.2GB/s(5600MT)
M4Proが240GB/s、Maxが490GB/s
垢版
返信 [1]
>>535
例のインテルCPU詳しく見てないけどSSDへのswapはしてないと思われる。
30Bくらいのモデルだからメインメモリを使ってるに違いない。
メモリのがSSDより圧倒的に速いし

VRAM割り当てはマザーボード次第では可能。
内蔵GPUへの割り当てを指定できるマザーがけっこうある
WindowsではなくマザーのUEFIでできる
UEFIだからLinuxでも使えるということ
垢版
返信 [1]
>>538
じゃあ仮想メモリみたいにディスクにVRAMを拡張できんね。
どっちにしろフレームワークのBOXシリーズよろしく追加料金はかなりかかりそうだ
垢版
>>539
現状SSDはメモリに比べて圧倒的に遅いし
SSDをVRAMに割り当てるのは現実的ではない。ナンセンス
足りなければメモリ増設しろ、で終わるよ
サーバー用マザーならメモリたくさんさせるのもある
垢版
どっちにしろ安くなるまで待て。なら数年後だな。
数年待たされるなら今年出るって言われてるM5Mini買った方が良さそう。それかM5Macbook。

メッシュシャーダーでtgもppのトークン底上げしているし、
AIやりたいならM4MaxのあるStudioか売ってるM5シリーズ買え。かな?
垢版
返信 [1]
>>528
さすがに別物
垢版
返信 [3]
>>542
なんかMacがすごいと幻想もってるの?
ハードのスペック差がそのままでるぞ

アプリの多さ、Windowsの圧勝
ストレージの大きさも数テラバイトでも好きなだけつめる
Macはストレージも256GBと最低レベルだし好きなSSDも使えない

動かせるモデルの大きさもレベルが違う
その528のIntel, Windowsは128GBまでいけちゃう
垢版
返信 [1]
>>543
なんかMiniPCがすごいと幻想もってるの?
頭の悪さがそのまま出てるぞ
垢版
SODIMM、128GBは64GB2枚キットで27万
SN8100、1TBで5万円。4TBx2の8TBで38万

徐々に買い足せばいい!で、中身を開けたら後悔するだろうな
そんな考えをMiniPCでするものではないω
垢版
返信 [1]
>>543
アプリの多さなんて、UNIXのMacの圧勝なんだが
無知乙
垢版
WSLの普及によって「UNIXが使いたいからMac」という技術的な制約は薄れている
垢版
Window上げたいならソフトと呼べよZガキ
そんなんだからWindowsユーザーがドザ呼ばわりされんだよ
垢版
返信 [1]
>>543
いや単に別物ってだけなんだけど?
カレーとラーメンみたいなもんだよ、別物だろ?

特別視してるのは君でしょw
垢版
返信 [1]
各社AIエージェントはMac版からリリースされる状況
Windowsを使う理由がどんどん減ってしまっている
なぜ中華ミニPCではなく、Mac miniが爆発的に売れているのか考えたことはあるのだろうか?
垢版
>>546
これが信者脳か
実用的なアプリもゲームもWindows圧勝だろう
数もクオリティもAppleは惨敗だ
ソフトが充実してるから嫌でもWindowsやAndroid使ってる人は多い

>>544
デザイン、ワット当たり性能以外はIntel AI mini PCが勝ってるだろう
ストレージとメモリの最大容量が勝負になってない
垢版
返信 [1]
相対的に安いのがMacになったからでしかない
GPUが10分の1ぐらいの価格になれば皆そっちに行く

そして今やAppleも品薄だからどっちが有利以前に手元に来ない
今更有利不利で話しててこいつら馬鹿だよ。
俺は512GBのstudioと中古のH100でfantia荒稼ぎ
垢版
返信 [1]
>>549
542で伝わると思ったら頭悪すぎだぞ
その書き方はMacのが上とみてる人の書き方
OS違うんだから別物に決まってるだろう
OS同じの型番違いだって別物だ
垢版
>>550
いままではMac Miniがベストだったからというだけ。
過去の話だ
これから安いWindows AI PCが大量に出てくるのは確定だから
MacやNVIDIAにこだわる必要はない
垢版
頭がおかしくなるとこうなってしまうのかw
垢版
このバカみたいな書き込みしている奴ってこの前の荒らしだろ?
散々バカにされてたみたいだがなんでまだ居るの?
垢版
バカだからだろ。
普通はドザスレにでも帰るけど向こうでも煙たがれてんだろ
垢版
ドザなんて言葉つかうと
頭悪いアップル信者の爺さんだとすぐばれるぞ
Intel PCはLinuxも対応してるからMS叩きも的外れ

デスクトップならストレージとメモリなんて自由に増設・交換できて当たり前
Intel, AMDなら当たり前のことができる
アップル製品だけができない。
垢版
どこ製だろうと、Mac miniの異常な販売状況が落ち着くならそれでいい(´・ω・`)
俺、間違ってもそっちは買わんし。
垢版
返信 [1]
当たり前はメーカーじゃなくてベンダー次第だろ
的外れにも程があるわ

MiniPCになんの夢を抱いてんのか知らんが、オナニーは他所でやってくれないか
垢版
バレるもなにもMacのスレでApple信者がいたからってだからどうしたとしか。
垢版
>>560
メーカーもベンダーも同じような意味
垢版
返信 [1]
ドザって言葉使うやつは大概は痛い奴だねw
みっともないしやめた方がいいよ
垢版
伸びてるからこのスレ久々に覗いたけどまた酒屋でも来てんの?
垢版
来てんのは発達障害だろ
垢版
Mac OSが必要なひとは買えばいい。
俺もmac OSは開発で必要
ただAI向けにMac欲しがってる人はもう買う理由がなくなったわな
ユニファイドメモリでメモリ増やせない欠点だけが残っているのがMacだ

Intelの新しいCPUがAIで快適に使えるようになってしまったので
AI向けならIntel買ったほうがよい。安いしメモリたくさん乗せれる
AIは最後はインテル系Mini PC勝利
爆熱のNVIDIA dGPUも不要だし邪魔くさいタワーケースも不要
垢版
そうですね


では次の方どうぞ
垢版
拗らせただけならいじって面白いけど発達とかのマジモンだと萎える
只の軟弱じゃなくてどうしようもない弱者だから叩けない
垢版
WSL連呼してるからいつもの酒屋だろ
垢版
>>563
w←これ使う奴もな
垢版
>>552
>fantia
あれやってる人居たんだ

どんなジャンルの作ってるんですか?
垢版
なにか香ばしい奴が居座っちゃたな
垢版
返信 [2]
https://i.imgur.com/BCGbhJ7.jpeg
https://i.imgur.com/Lb2Hwu9.jpeg
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況