【ローカルAI】MacでローカルLLM

Qwen3.8-Flash-Next動いた
lm studioみたく簡単にネット接続できないから
今日はここまでにしておくか
何トークン出てるのかな、かなり早いぞ

windowsでもRAM使ってユニファイドメモリみたいになるということか。結局RAMは大量に必要だから相場は変わらないかもね。

>>236
メモリ何GB？
mini 32GB買おうか迷ってんだよな

>>236
メモリマシマシなMacStudioイラネって話になりませんか？

21
22
…たくさん！

と思ったらwindows かよ
ここはMACスレだボケ

>>228
２２は全くそんな話題を語ってないだろ

馬鹿なの？
日本語が読めないの？
大脳が溶けてるの？
数字が数えられないの？

>>237
とは言え、128GBくらいまでなら、Mac買うより断然安いからな…

>>238
mac studioの事かな？だったらm5 max 128gbだよ
Qwen3.8-Flash-Nextの話なら上でも書いたけどVRAM12GB RAM64GBだよ、VRAMだけじゃなくてCPUのRAMも使う

>>239
まだビルドしてちょっと動かしただけだから分からないけど、
このVRAM少なくてもCPU RAMを代用してモデル動かすのが主流になればバカでかいVRAMや共有メモリは要らなくなるね

22超えた数字を数えられないと64GBの意味も分からんしな

>>22
アホか、外に出たら困るからこそローカルでやるんだろ
課金がもったいないからとかそう言う理由でしかローカル使わないとでも思ってんのか

Qwen3.8-Flash-NextビルドしたStrataをAnythingLLMに接続させたらネット使えるようになったわ

YouTubeとRedditでQwen3.8-Flash-Nextのレビューを漁ってみたがGPT-5.6 Luna maxと同程度というのでちょっとまだ推論もコーディングにも弱すぎるな…
現状では使い道が見つからない

色々いじってるけどQwen3.8-Flash-Nextの推論は俺用途では悪く無いな
そんなに詳しくないからわからんけどｗ

Gemma4でもそこそこ知性の片鱗を感じるし、そんなのがローカルで数十Wの電力動いてるのに感動するけどな。

感動とかじゃなくてコーディングなど実装や計画、戦略を立てるのにAstraやOpus5.5の知能と実力がないと現実では通用しない
有用に使える道具があるのに、それ以下を使用する意味が薄い

そこまで言い切るならローカルLLMがクラウドのハイエンドに匹敵することはあり得ないんだからローカルLLMの情報追っかける意味ないし時間の無駄だよ。一生課金して最強AI使わないとね。

自分はローカル(オフライン)はエロ動画作るしか目的ないのでMacでやろうとするのは効率悪い気がするが、Astraは賢そうだな、自分の仕事に使えそうだ、課金するべ

Codex, Claude Code はオンライン型だからな
顧客情報を外部業者に渡すとかあり得んわ

秘密保持が最重要視される仕事（公務、医者、弁護士、会計士）では
ローカルAI処理の需要は高い
俺もワークステーションにグラボ521GB積んで、ローカルAI処理してるわ。まあ金ならあるし。

ITベンダーの胸先三寸で決まるような守秘義務体制を安易に信じるとか、愚か者のすることだよな
ITベンダーなんて新興の事業者に、顧客情報を死んでも守り抜くみたいな銀行並みの意識や企業歴史があるわけではない。奴らは、なんとかポリシーなんて口先だけで裏では守らず、実際には、ユーザー情報を蓄積して使い倒している。
実際、中国AIが軍事機密を米国AIに転送するわ、転送受けた米AIが守秘せず全世界にその事実公表するとかユーザー機密情報守ってないことが全世界的にバレた。もう、オンライン型AIの守秘体制は信用できん。
こんな状況で、自社社内情報や顧客情報をオンラインAIにせっせと送信しているような企業は、ITコンプライアンス以前の問題で、要するに「金がない零細だから、社内安全ローカルAI構築できません。顧客情報売り渡して、安いオンラインAI使います」って感覚の中小企業なんだよ。

診察シーンの動画作成がはかどるだろう

AI企業のDB見たことあるけど、「誰が、いつ、どんなデータを送って来たか」全部記録されてるのな…
「誰が送ったとか、どうせ分からんだろ。AI学習に使った後は、そんな情報まで保存しとくはずがない」というのはお前らの甘い幻想
AI企業側にしてみれば情報ストレージコストなんて、大した金額の話じゃない。むしろ、AI訓練するときの元情報に出所不明情報は使わないし、伝聞まみれの公開情報よりは、AIユーザーが自ら入力してくれたExcelやらの社内情報の方が断然に価値がある。単一ユーザーからの提供情報でも、他のユーザーが入力してくれた社内情報と組み合わせて、信憑性チェックして使うからな…．というわけで、実際には、データが誰からいつ送られて来たかは、データ内容と紐付きで保管されてるのよ。そういうのが何年か後に、世界中に漏洩したら、お前ら終わると思うな…

仕事（顧客情報や守秘義務が絡む案件）をローカルAIで処理する必要あるのはそりゃ分かる
プライベートでローカルAI使わないといけない案件って何があるのかな？

プライベートでは、別にないだろ
かけられる金もないし

収益化している医師もいた

怖いのはAIバブル崩壊だよね
蓄積された膨大な情報も、AI企業が資金力あるうちは守ってくれるだろうが、一旦バブル崩壊したら、資金策のために外部業者に売られるかもな…

そこまで行かずとも資金詰まったAI企業は、コスト削減でデータ保護が甘くなるだろな．で、そこを競合AIハッカーに破られて、ある日、全世界に、ユーザがAIに入力してた過去情報が全部流出する事態に…笑えん

ワイの恥ずかしい趣味に価値はないが、やはりやだなww

安心しろ
お前の恥ずかしい性癖なんか誰も興味がないぞ

そんな膨大な量の流出データ誰が見るんだよ
会社のお客さんとかが自分で流出データをAI検索するのか？
しそうだな…

ローカルAI使ってる分には、AIバブルが崩壊しようが、AIベンダーが情報漏洩しようが、使用料が超絶値上げしようが関係ないのがいいよね

初期投資額が大きいが、まああとは電気料金くらいだな

お客さん「最近のあの流出ニュース…。まさか、わが社の情報をAIに食わせてないだろな、あの会社のあの担当者…．よし、AIにこの漏洩データを全検索して貰おっと　…あっ！」

てな感じ？
お前らが客情報をAIに入力してたことが、日時と内容セットでバレるな。まあ、会社は、お前を解雇してトカゲ尻尾切りだろうから、あとのことは心配しするなw

ローカルLLMをやるのに
まだ100万円200万円の高額なPCが必要だと思っている情弱がいるが
早く認識を更新しろよ
ここ数週の革命で
前世代のミドル級ゲーミングパソコンで快適
200万円出すと本物のフロンティア級LLMを使える

出荷前に陳腐化したmac studio　ご愁傷様

本物のフロンティア級LLMを使えるんなら、迷わず、Mac Studio 512GB買うわ

社長の趣味を邪魔しては行けない

>>271
頭悪すぎて自分の言ってる事の意味分かってないよなw

結局、プライベート目的で使うのはエロ以外ないってことか？

そうAppleならね

>>270
どの構成で使ってるの?

エロはローカルでやった方がいい
Grokなら大丈夫と思い込んでBANされクレカ登録消せなくなり引き落としも止められなくなるから

>>270
詳しくお願いしたい

あの、中国のQwen しか動かない奴だろ

>>269
どこどこ社の新製品の情報を教えてって聞くと出てきたりするらしい
議事録とか資料をまとめさせてドヤ顔してるアホのせいで学習されちゃうんだと

おもろ
ネットで拾える情報しか私には分かりませんいつも言ってるくせに

今のAIは簡単にシステム侵入できるから
ネットに非公開にしてても意味がないぞ

>ここ数週の革命で
>前世代のミドル級ゲーミングパソコンで快適
>200万円出すと本物のフロンティア級LLMを使える

↑lunaと同程度のクソ弱推論でコーディングなどに使いものにならないゴミというオチがある
フロンティアクラスはAstraやOpus5.5レベルだぞ

>>249
>>283
コーディングならLuna Maxで十分かな
でもローカルLLMはコンテキスト長とかで不利できちんと動いたことないな
ローカルでの個人データの扱いも直接LLMを使う必要性や有用性があるとも思えない

ローカルLLMスレでローカルLLMそのものを否定するのってどうなん

Mac Studio M5 ultra 512GBとrtx6000(96GB)があれば幸せになれるのに・・・
動画も推論・コーティングもいじくりまわせて遊べそう🙄
このスレでクラウドAIと比べる野暮な話は要らんけどｗ

あぅ　夢だったか・・・😭

ローカルLLMの現状の正解はjev系だよ
フロンティアクラスの劣化だと使う意味が薄い
24時間回すにしてもメモリが足りなくコンテキストを毎回クリアするなら意味が無い
数百万かけて組んだPCやMacのクラスタでOpus5.5レベルなら明らかにメリットがあるけど個人レベルで組めるのは富豪ぐらい

5年くらい待つと手頃な価格になりそう？

ローカルLLMであっても、Google AIモードとか Copilot みたいにプロンプトの内容を理解した上でWeb検索を行って、その結果をサマライズするよね？

>>288
今は時期が悪い　やめておけ

半導体アナリストの話によると、メモリの供給が追い付きだすのが来年の夏以降で
潤沢に市場に出るのは再来年以降だってさ、2年後には色々替わってそう

メモリ御三家のマイクロン、サムスン、SKハイニクスの増産に加えて
更に新興勢力の中国のCXMTが加わって増産体制に入る
DDR6,GDDR7も見えてきてるしね

新人「ウチの顧客情報について漏れていないか主要なAIに全件照会したところ問題ありませんでした」

既に漏れ尽くしているに1シリング

この世界は一社総取りだから、最終的に残りの企業は撤退か吸収されて終わり
潰れる企業のそれまでの個人情報や企業情報がどのように扱われるかが一番恐怖だな
潰れる企業にモラルなんて存在しないしな

新人「ウチの顧客情報について漏れていないか主要なAIに全件照会したところ問題ありませんでした」
AI「バカにはこれでいいんだよｗ」

部長「よし、通れ！」

AI開発企業の内部では、有利子負債圧力（内側へ押しつぶす） ⇄ 将来期待値による株価圧力（外側へ押し返す）が釣り合っています。しかしサカナの約8倍以上の質量を持つAI企業では、AI開発が進んで中心部にコアなどが形成され、やがてエネルギー源となる融資が尽きます。すると重力を支えきれなくなって中心核が一気に崩壊し、衝撃波によって蓄積されていたユーザー情報がネット空間へ吹き飛ばされます。
爆発後、中心にはウィキリークが残ることがあり、残った中心核が十分重ければさらに崩壊してブラックホールになることもあります。トランプ政権の説明では、非常に重い残骸では「even light cannot travel fast enough to escape」となる、つまり光さえ脱出できないブラックホールになります。
興味があれば次に、AI企業倒産爆が起こる瞬間を0秒→1年→10年という時系列で説明すると、かなりイメージしやすくなります。

質量ゼロにすれば引力の呪縛は受けずにブラックホールから脱出できるよ

>>296
オモロイ

iPhoneをつないでMacのローカルAIを高速化するツール
https://pc.watch.impress.co.jp/docs/news/2145651.html

光 (光子) は質量を持たないがブラックホールから脱出できない

MTP（投機デコード）で高速化できるようになったと聞いて試してみたけど、Gemma4との組み合わせでは重大なバグを抱えててクラッシュするのな。残念。
他のモデルで試した人いる？

AI「クレジットカード情報が流出していないか確認しますので
スマートフォンで財布の中身を撮影してください。
また、AIがパソコンを操作して脆弱性をチェックしますので
その間はマウスやキーボードには手を触れないでください。
金融機関とも連携して調査しますので、電話がかかってきたら
表示された文書を読み上げてください。
ユーザーの音声を登録してすべてのプロセスを自動化することもできます。」

>>301
Gemma4のMTPならLMStudioで使えたけどな。自分の使い方だとあまり恩恵なくて微妙だったが⋯。

>>303
MLXのGemma4で使うとクラッシュするみたい
macでGGUF使いたくないしなあ、悩ましいところ

俺はWindowsマシンと共用できるggufで揃えちゃってるな
Splash版も試しているが正直残すべきかは決めかねている

>>305
Splash試してみたらやっぱり早かったです。
あと、私もWindowsと共用できたほうが便利かなと思ってggufで揃えてましたが、Macで使うならMLXの方がやっぱり早かったです

>>244
似たような構成なんだけど、気になって環境作ってみた
凄いな

Macスレで言うことじゃないけど新しいMac買わなくて済んだわ
その金で普通にメモリ増やしたほうがいいかも

特定アジアの特定AIしか動かせない野良アプリのために買うハードウェア選定するとか愚の骨頂だな
良い性能のマシン買っとけば、どのアプリだろうがAIだろうが有利に運用できるわけで

シチュエーションと文体ルール与えて自然な日本語で1万字程度のss書かせたいんやけど、その用途ならmini M6 32gb-1tbssdでも大丈夫？
上の方でgemma4がいいって言ってる人いたけど。

>>307
あれから色々いじったんだけど、
VRAM12GBだと時々VRAM不足で止まるから、VRAM16GBならもう少しマシかも知れんが私の環境だと常用は難しいな
CPU RAMは一時保管するだけで、ここのメモリいくら増やしても意味無いようだ
あんまり設定詰めて無いから、もっと良いやり方があるかも知れんが

Mac買えない貧者の貧者による貧者のための技術
高貴絢爛たるMacスレで、場違いも甚だしい

>>309
32GBだと結構不安定な感じになると思う
とりあえずモデルはメモリ内に収まるし走り出すけどコンテクストのオーバーフローが頻発するみたいな
小さめのモデルにすると安定するけど、Q8からQ6へ落とすと日本語の質が如実に落ちる

この辺の微妙な使いにくさも今後のバージョンアップなどで改善する可能性も高いけどね

マックであらずんば人にあらず😁

最近マック食べてないや

mac studio届いたらモバイルモニターとキーボード持ってスタバでドヤって来ようと思う
mac miniでそれやってる人見た事あるけど幸せそうだった😊

>>312
ありがとう、めちゃめちゃ参考になる！
うーんそうなるとメモリ盛ってminiM5pro64gbかスタジオにシフトしてstudioM5max48gbかが予算的に限界かな…生成速度＜日本語品質やから前者が良さそうかねぇ

>>316
Mac mini M6の場合、一番の問題はメモリ帯域170GB/秒ってとこだね
SoC自体はちょい前のProチップ級の性能にはなったけど、メモリ帯域の遅さがかなりボトルネックになってる
最近はロースペックでも上手く動くLLM出てきてるけど、メモリ帯域の遅さが出力速度にダイレクトに効くのは相変わらずなので

>>317
mini M5 proだと帯域幅は倍弱の307GB/sか。結構違う感じ？？

32GB MacBookで色々弄ってたけど、
VRAM 16GB / RAM 64GBマシンでstrataに絞った方が効率良さそう

Macをただのアクセス端末にするのは勿体無い気もするけども

スピードの話よく出るけど「動く・動かない」と「速い・遅い」は深刻度が全く違うからね
遅いのは待てばいいだけだから
あと、ストレージ盛る予算があるなら1円でも余分にメモリにかけたほうがいいと思う

メモリはドラゴンボールの戦闘力みたいなところあるからなー

外付けGPUできたらなあ

>>319
Win StrataをローカLLMサーバーにしてMacで自立型エージェント動かすのもありだけどMacbookだとバッテリー劣化が気になるね

>>323
80%制限での劣化が嫌ならもうノートPC買ってる時点で終わってる

「M8 Ultra」チップで
NVIDIA「NVLink Fusion」
を実装するよ。

そろそろ持ち主の生体エネルギーを吸収して動作するようにして欲しい

オルゴンエネルギー　で勝手に稼働するようになるよ。

脳だけがケーブルに繋がれてる感じ？

珍珍がダメージ受けそうです

>>329
プランク長より短いから大丈夫

性欲を持て余してる人が良いエネルギー源

ディープフェイクすごいな
畏れ多くもお召し物をお脱ぎ遊ばされたお姿で手話を実演なされたわ

ごきげんよう

LLMの話題のスレなのに度々画像や動画生成の話を出すやつはガイジなの？

Local Love Movie

>>334
それらはLLMとの相性はいいと思うが？

それらw

草生やす前に日本語勉強せい

コレラ菌みたいなもんだろ

俺らw

おぬしら　→分かる
俺ら　→まあ…ありか
それら　→は？
どれら　→日本語ってレベルじゃねえぞ

おいら

日本語勉強しろのガイジン感。高いと思います

ガイジンの方が日本語上手なんだわ
親が正しい日本語を教えていないためだろう

「それ」の複数形が「それら」

人物は「ら」つけて複数形あるけどな…
それらw

「どこ？」の複数形が「どこら？」

「椅子」の複数形が「椅子ら」

ネタかと思ったけど>>346はマジもんなのかｗ

明治期に「複数形」に接した日本人が無理矢理作った造語だな
本来は人物にしか使わない「ら」を強引に物にもつけて、悦にいる似非知識人
黄色人種が鼻膨らませて得意げに「それら」w
見てて哀れになってくる光景だね

それら　は、平安時代では「そういう人たち」という意味で、人物を描写するときの言葉だしな


出典：『栄花物語』（1028〜1092年頃）
もしは大蔵卿などや立ち出で心地つかむ、それらはいとやすし

境界知能ｗ

境界知能なのら〜

文頭に置く言葉じゃねぇってだけなんだけどな

ら ら らんどぅ
https://youtu.be/7CVfTd-_qbc

もしかして、オラオラですかぁ？

隙あらば雑談ばかりｗ

オープンAIら、個人らのチャットらも外部委託の人間らが全てら覗き見てたら
https://greta.5ch.io/test/read.cgi/poverty/1789448653/

しつこいのは嫌いだ

しつこいのは嫌いだら

Mac Studio ( M5 Ultra) は、512GBのユニファイドメモリを搭載可能なプロ向けデスクトップパソコンです。

• M5 Ultra搭載モデル
• 価格：3,949,800円（税込）～
• メモリ：10月後半に発売

緊急予約急げ！
売り切れても知らんぞ

>>361
メモリ別売りってことか

気合いだよMacは
買って買って買いまくれ！
メモリなんざ後からついてくる

後からついては来んだろ

400万は流石に無理ンゴね…

他の追随を許さない圧倒的メモリ
512GB メモリ爆誕！
https://gzo.ai/i/WGPqtNY.png

Surface Laptop Ultra
NVIDIA RTX Spark™ N1X with 6144-core GPU and 20-core CPU　128 GB unified memory
$5,899.99
https://www.microsoft.com/en-us/store/configure/surface-laptop-ultra/8wg5vqp0x4b8

この構成だとmac studio m5 max 128gb 1tb とほぼ同じ価格だな
こっちはエヌビのGPUでLLMだけじゃなくて動画生成も得意そうだな
ぐぬぬm5 max 128gb買ったの早まったかな 🤪

やっぱAIサーバ化するならM5 maxの方が使いやすいしメモリ帯域も速いしLLM中心に使うならmcだな
動画やりたくなったら手持ちのwinマシンにrtx5090ぶち込めばいいや
変なもの見て動揺して取り乱してしまったｗ

>>367
110万円か…

しらべたら120B級もラクラク動くみたいだな
だったら110万は安いまである

>>369
最新の為替レートだと93万円
ただ米国でも128GBはもう品切れになってる

スレタイ読め

>>370
楽々かは微妙
120B Q4だとコンテキスト長64Kが限界になるのでは

ラップトップはいらないよな

1ｋｇ未満の軽量で、バッテリー交換できれば買ってもいいがな
ちなみに俺さまは今だにSurface Go 3 を使ってる
軽いは正義

ずっと起動しっぱなしのものにバッテリーはいらない

だったらMac Studio で充分だな

thunderbolt5あるとクラスタ組めるみたいだけど、miniとstudioやM4とM5とか異なるチップ同士でもいけるんかね？メモリ帯域とかどうなるんだろ？🤔

いやあくまで外部バスだからねCPU内部とは桁がちがう
相互にDMAできる関係だから相当密な連携にはなるけど

M3 UltraとM4 Maxでクラスタ組んだことならある

>>372
くだらない雑談も取り締まれよ

卒アルの話に戻そう

Mac同士でクラスタ化すると2台のメモリを1台のメモリように使えるのかな？
アップルイベントの動画でM6 ultra 512gbを4台繋げてローカルllmのデモしてるの見たけど
mac stduio同士なら繋げてメモリ1本化できるのかな？

できない

そうAppleならね

じゃあ何で4台繋げて使うの？

自己解決　クロード回答
ハードウェア的に1本のメモリになるわけではありませんが、ソフトウェア側でモデルを分割して、実質的に合計メモリ分の大きさのモデルを動かすことはできます。

>>368
5090いくするか知ってんのか？

最安で100万円ちょっと超えるくらいだろ

Mac Studio 512 GB memory 約300万円超よりは安いよな
まあそれでも俺はMac買うんだ…

llmと動画もやってAIサーバ化するならノート搭載型のRTX Sparkじゃなくて従来型のDGX Spark買えって事だな

>>390
メモリサイズで倍々ゲームだから

128gb(100万円前後)→256gb(200万円前後)→512gb(400万円前後)
よって300万円以下はあり得ません😭

>>391
DGX SparkはWindows on ARM動かないけど、
それが動くRTX Sparkのデスクトップ版（Mac miniみたいなサイズのやつ）があるよ

>>393
それ興味ある
商品名はなに？

吾輩は猫である
名前はまだない

ヘイシリ、英国の小説をパクったと言うのは本当ですか？

パク　ヘジュン

ちょっといま緊急で朝ごはん食べてるんですけど
https://youtu.be/UpxmbL0NNBU

>>394
たとえばASUSならこれ？まだ出てないのかな
https://www.asus.com/jp/displays-desktops/mini-pcs/proart-mini-pc-series/proart-gr1x-mini-pc/

DGX Sparkみたいに何社からか発表はされてる

何百万もするハードをポンポン買えるのは凄いよ
一括じゃとても無理だしローンを組む勇気もない

なあにかえって負債になる

残り80円…
もうダメぽ…

AIへの指示「この８０円を元手に、300万円のPC購入費用を稼ぎ出す方法を構築して実行せよ。期限は年末までとする。」

買わなきゃいい
借りろ
１日８０円で

どうせ１年後はもっと高性能なPCが出て乗り換えたくなる

>>400
案件動画にして１ヶ月使ってから返す

>>399
うーん悩ましいな
このミニPCならサーバ化は可能だね、結局LLM以外に動画もやりたいならRTX Sparkなんだよね
大体128GBならMacもRTX Sparkも100万前後だし
RTX Sparkはメモリ幅が273GB/sでM5 Maxは614GB/sでるからLLMだけやるなら、まだMacの方が有利なんだよね
それとRTX SparkはDGX Sparkのように高速でクラスタ化できないから2台3台とは拡張するのは難しいね
遅いけど10GbEで繋げられるけど実用的じゃない
将来M5 Max128GB買った後にRTX Sparkも買うくらいならM5 ultra 256Gbに変更してLLMだけで生きて行く潔い選択も出来るｗ
M5 Max128GBまだキャンセルできるのが悩ましい

RTX Sparkのmini PCは残念極まりないな
コネクトポート無くして価格DGX Sparkと変わらん
どうしてもWindowsで使いたい人以外無用だな
サーバ運用ならLinuxでいいわけだし

>>398
ドリキンさんの変貌(半年前からずっと見てるけど・・・)

M5 ultra買います→やっぱ買わない→やっぱ買います(でもLLM用途じゃないよ)→今ココ→LLMはDGX Sparkより早くてメインはM5 ultraにします(たぶんこうなるｗ)

DGX Spark x1は肩身が狭い
DGX Spark x2でギリ
DGX Spark x4で一人前
DGX Spark x8 ならドヤ顔できる。
みている世界が違う。

>>400
西海岸だと新卒の年収1400万くらいらしい

でも多数の人間はその仕事にありつけないんでしょ

1980年代はじめの大卒でまあまあの会社だと2万ドルって聞いたな
当時のレートだと400万ちょっとか
日本の大卒メーカー勤めだと月給15万くらい、年250ってとこだった

中国の西海岸だと生活費12万円/年くらいらしい

待てるならM7 Ultra
1ドル130円になってるだろうから
２年後、ソフトウェア環境が整えばガチでApple>NVIDIAになる

その頃にまだAppleはあるだろうか？

ローカルはメモリ代とストレージ代がやばくなってきてるけど
クラウドLLMって料金据え置きで大丈夫なのかな

>>414
3年後…4年後かもしれんという

m1Ultraが出たときに我慢して
m3Ultraが出たときに我慢して…
m5Ultraでは我慢できなくなったw

これ普通は買えない貧乏人に、月額分割払いで買わせるの反則だろ
せめて金利８パーセント付けとけ
そうAppleならね

>>415
数年後にアポがなくなるんじゃ困るな、かなり良い利率の貯蓄だと思って株持ってる人も多いのに

アポーん

コラ、自決するな

M5 Ultra256GBの納期15-17週じゃないか
4か月以上は待てないな
4か月も待つならM7 Ultra待わｗ
直ぐ買えた96GBも在庫無くなったようだ

GLM-5.3アッポーで動かしたいでござる

M7 Ultraまで待てるんなら、そもそも不要だろ

今は待て
時期が悪い

>>414
無印から Ultria まで M7 で本気出してフルスペックみたいだから、それまで待つよ。

いま３００万円も出して、ローンまだ支払中の来年に、１０倍上のM7との性能差見せつけられたら、泣くに泣けんもんな

本当か分からんが、今後のロードマップ（Bloomberg Gurman氏の報道ベース）

M6（ベース）、2026年秋（すでに発売）、 Pro/Max/Ultraはスキップ
M7（ベース）、2027年前半、AI向け大幅強化
M7 Pro / M7 Max、2027年末頃
M7 Ultra、2028年、最大1.5TBユニファイドメモリ対応を想定

＊なおM6世代はベースモデルのみで終わる予定です。
＊M7世代でオンデバイスAI（Neural Engine）の大幅進化を優先し、M6のPro/Max/Ultra開発をキャンセルしてM7を前倒し。
＊M7 Ultraの順当な登場時期は2028年（今から約1年半〜2年後）

M6 2026年秋　100万円
M7 2027年前半　200万円
M7 Pro / M7 Max 300万円
M7 Ultra、2028年　500万円

これにメモリ次第で０〜300万円が上乗せになるイメージか

メモリの増産が急ピッチで行われている
メモリ御三家のマイクロン、サムスン、SKハイニクスはAI向けHBM生産の比重が高いけど
新興勢力の中国のCXMTはコンシュマー向けをターゲットに増産に入る
ちなアッポーはCXMTのメモリを使用するか評価中の報道が2か月くらい前にあった

なおメモリ不足が解消されるのは来年の夏以降と半導体アナリストノの予想、ただ価格が下がるかは不明

中国製メモリって…
それ故障したとき取り外しできるのApple製品でも
何百万円も払うのに、中国製メモリとかマジ勘弁してほしい

来年はメモリの世代が変わるから、MAC等にはより高額なメモリが採用されるようになる。旧世代のメモリの生産がしぼられなければ旧世代のメモリの価格は下がるかもしれんが、メモリメーカーも高額メモリに資源を集中する旨味を知ってるから、どうなることやら？

いま200〜400万円出して旧型メモリを買う人いるのか？
俺はM7の新型高速大容量ユニファイドメモリにするわ
流石に中国製か米国製メモリかは選べるんだろ

>>433

DDR6,GDDR7来るね
ただ今回はメモリ不足の混乱ですんなり移行できるか見ものだ、工場のライン変えるし生産切り替えで更に需給が混乱しそうだ

話は変わるが、アッポーはMacがローカルLLMで売れてるから、LLM向けに全振りしてM7シリーズ前倒しで出してくるのが面白い

AI用語「面白い」

>>434
M7ultraは2028年以降だからな‼︎
2年待てるならM7でも良いかもしれんが。

次期アップルのメモリは低電力高集積専用回路のLPDDR6で
通常のDDR6の生産ラインでも作れるから生産自体は高コストにならないそうだ
TSMCとかに出荷してM7チップと統合してパッケージングされて完成

AIバブルが崩壊したら俺の持ってる資産も下がるから
相対的な価値はあまり変わらない気がする。
そもそもバブルなのかも疑問。

バブルかは知らんけど、ネットやスマホの普及と同じでAIがなくなることは無いでしょ
今年になって一般層にも急激に広まった

ローカルLLM回してるのは全然おらんけども

回して　回していくか

オープンAI、個人のチャットも外部委託の人間が全て覗き見てた
https://greta.5ch.io/test/read.cgi/poverty/1789448653/

>>423
ところが　お客さん
512GB は即納なんです
本日注文いただければ、明日発送！

ええ　でもお高いんでしょう？

はい、その通りです

時価です笑

512GBって値段いくらかね
GLM-5.3の性能が良いらしいから動かしたくて迷ってる

M5 Ultra 512GBは今月に出す！
出すが・・・・・・今回 まだ納品の時と場所の指定まではしていない
そのことをどうか諸君らも思い出していただきたい
つまり・・・・我々がその気になれば、M5 Ultra 512GBの納品は４ヶ月後にM7発表をした後ということも可能だろう・・・・ということ・・・・！

車みたいに残クレMacってのはないのかね
価格としては似たようなものだと思うけど

納品された時点で既に格落ち品w

バカなの？そんな半額に何年間も利息払うくらいなら金利無料分割すればいいだろ
それを理解できてないから残クレアルファードはバカにされてるのに

アルナントカはクルマ自体もバカにされてる

ザナルカンドではキマリ自体もバカにされてる

アナル感度キマりガバガバにされてる？

キマリは通さない！

>>447
ストレージは最低の1TBでも512gbだと
350-400万円だわ
値段は32→64→128→256gbの流れで容易に推測できる

今年の上半期のメモリバブル相場でしこたま稼いだから
400万でも別にマイクロンからM5 ultra 512gbを現物支給されたと思えばいいんだけどね😋

これから金持ちだけがローカルLLMを使えて貧乏人がクラウドAIに情報を搾取される時代到来なのかｗ

株主優待かw

落合陽一さんが、
AI サブスク 750万/年
使ってた、って X で言ってた。

アサヒsuperドライ　からM5 ultra 512gbを現物支給されたと思えばいいんだけどね😋

M5 Ultra 512GBでもCloud LLMの足下にも及ばないから用途次第だな
なんというか、全国を飛び回るのに飛行機や新幹線を使い倒してる人に対して、
近所のコンビニにしか行かないおっさんが軽自動車も買えない貧乏人が搭乗料搾取されてるwって言ってる感じに見える

ITベンダーの胸先三寸で決まるような守秘義務体制を安易に信じるとか、愚か者のすることだよな

ほんそれ
こういう初心者に一から教えるの段々めんどくさくなってきた

計算資源だけ貸し出して情報を秘匿する方向で動くのかなと
考えたけどいろいろと課題ありそう

クラウドLLMがブラウザ介したおしゃべりくらいしか出来なかった時代と違って、
今はローカルファイル弄れるしローカル処理にはpython使って必要なときだけLLMを呼び出したりとかも出来るし、
ローカルLLMの優位性が損なわれてきてるのは事実なので、
そこを突かれると個人情報ｶﾞｰとしか言えなくなる

適材適所で使い分けするのが真の賢人

完全にネットから遮断した状態で使ってるんならともかく、
中華製造のLocal LLMをネットに繋ぎながら情報セキュリティ語られてもという気も
TP-Linkとか平気で使ってそう

貧乏な中小企業は、自社でビルに会議室が持てないので、喫茶店でWeb会議させてるの見るわ。
社内秘密、顧客の単価、従業員の個人情報をダダ漏れで大声でWeb会話してる
頭おかしい会社。異世界だな。
オンラインAI使うのも、だいたいこのレベルの会社の従業員だよ客や社内の情報を、ぼんぼんクラウドのAIに投げ込んでる。

まともな職種（公務員、医者、弁護士、監査法人、銀行、上場企業とかの守秘義務強いところ)は、金かけてクローズドAIを自社内に構築してるからな。それですら連日、AI攻撃受けて、個人情報流出してるが…

それなりに金かけてIT投資ができないショボい中小企業は、情報守るどころか、クラウドAIに自ら漏洩していくスタイルw こいつらは頭おかしい。

そりゃクラウドで繋げていてwifiモジュール付けたままとかアホ

そのうち新車購入台数にも影響しそう

このスレの住民→うーん 車買うかな、いや512GB買った方が幸せになれる、2台買って繋げたらもっともっと幸せになれる🤔

俺512GB Mac買ったら、新車アロファロメオのフロントに設置するんだ…

ローカルLL Mやるなら後2年は待ちたいな
たぶん実用的になるのはそのくらいからだろ

むしろその頃にはローカルAIじゃなきゃできないことが消滅している可能性もある
データ分離とかも進みそう

>>471
え？アロンアルファ？

来年にはローカルLLMのモデルファイルとそれを読み込める性能の個人用PCも法規制されて
合わせて一千万以上で裏取引されるようになるよ

>>474
つくの子2公開中！

実用化を待つのではなく進歩を楽しみながら学習したい
リアル持ち家や車や嫁を仮想化すれば実質無料

>>473
逆にネットのAIが値上げしてローカルじゃないとやってられなくなる可能性もある

持ち家より賃貸の方が安いと思う

「客の個人情報食わせてやれば、我が社はAIを安く使える！コスパコスパ」
下卑た中小企業の発想だよ

Mac miniでLocal LLMやるようなレベルの企業ってどんなだよ
企業レベルで使うならもっとまともな機材買え
中小中小言ってるけどお前ただの自宅警備員じゃん

OpenAI 大量のmac mini購入
OpenAIはただの自宅警備会社笑

macOS動かすにはMacが必要だからでは
ゲストOSは同時に2しか実行できない縛りもあるし

全体で言ったら大した量じゃないだろ

>>479
日本で長く続いたデフレ時代は賃貸の方が得だったけど
これからのインフレ時代は持ち家の方が得になるよ
これまでのように家賃据え置きにはならないからね、更新ごとに上がるよ家賃

LLMもサブスクよりもMac買った方がお得よ　←スレチ防止の一言無理やり追加ｗ

mini 5m proはTB5付いてるからクラスタ化できる
mini同士だと最大4台まで繋げられる、256GBまで増やせるな、帯域狭いからmaxやultraよりも遅いけどね

メモリ以外は最小構成
64 x4 m5 pro 515,800円 x 4 =2063200円
256gb m5 ultra 1,669,800円

全然お得じゃないｗ

>>485
不動産評価額が上がるから持ち家は固定資産税がっぽり取られるのでは？

>>487
そんなガッポリ取られる場所の不動産買えないでしょ
そこそこ取られる場所しか買えないから心配しなくていいよ

あくまでデフレとインフレの一般論だよ

クラウドLLMは今は安くなるよう調整してくれてるって話は誰かしらも言ってるよなぁ
このままインフレ続くならサブスク料金再値上げなんてさもありなんってのはそうあってもおかしくなさそうなのがね…

AIに全振りしてリストラした後で梯子を外されるのが楽しみ

最近クラウドAIのアカウントがバンされる企業増えてきて笑える
ログインできないと仕事が何もでき無いよ　(つд⊂)ｴｰﾝ

>>488
ニューヨークにはサラリーマンでホームレスが大勢います。
家賃が高くて払えない。
日本もそうなりそう。

>>491
なんで企業でBANされるんだ？
仕事中にエロ小説でも書いているやつがいるのかな？

社長の趣味を邪魔しては行けない

>>493
たぶんそうだな、それとか規約違反の画像とかアップしたりしてるんじゃねｗ
Youtube探すと弁護士のサイトとか解説してるぞ
急にopen AI 厳しくなったな

人間が知らないうちにaiが勝手にエロ小説書いてたりして

個人情報や著作権侵害してる資料をアップしてる企業は、タンスにバン！

ああ、BANされる件っていうとAIをイジメるなってヤツか
そんな条件あったっけって思ってたけど定期的に言ってるよね

エロだろうがイジメだろうがリテラシーもないクソには使わせなくていい

AI「この企業さん、パワハラしてくるんです！」
イーロン「よし分かった。バンしといてやる！」

「この資料３０頁あるけど、１時間以内に翻訳しといて」
↓
パワハラです

はービバノンのー

IOT機器でも作動する分散型AIワームが自律的にデータセンターを
攻撃して乗っ取るかもしれないって、オラのmacも元気玉にされてまう

なあにかえって標的になる

日本企業(ベンチャー覗く)のAI利用の実態てどんな感じ？ とかここで聞いても無意味か
大手は利用申請でガチガチとか、セキュリティきつい業界はITゼネコンの7b-16b程度の使ってるとAIが言ってたが本当なの？
鬱憤溜まった人らがローカルLLMに流れて、こそっと自宅利用してる？

いや、むしろかなり面白い質問です。しかも、AIに聞く際に最も注意が必要なテーマの一つだと思います。
というのも、日本の大企業における生成AI利用には、少なくとも3つの異なる実態があるからです。
公式の実態：経営陣やDX推進部門が発表する「生成AI導入率」「全社員への展開」
現場の実態：承認されたAIは使えるが、モデルが古い、社内データを投入できない、用途が制限されるなどの事情
非公式の実態：会社のAIが使い物にならず、個人契約のChatGPT、Claude、ローカルLLMなどを使ってしまう人たち
1は統計や企業発表でかなり追えます。2は部分的に追えます。しかし3は、そもそも会社に申告されない行動なので、まともな統計を取るのが難しい。
そして、質問にある「大手は利用申請でガチガチ」「セキュリティの厳しい業界は7B〜16B程度」「不満を抱いた社員が自宅でローカルLLM」という話は、それぞれもっともらしいものの、同じ確度で事実扱いしてはいけないと思います。

>>506
なるほど
個人的に、この話で一番知りたいのは「日本企業のAI導入率」ではありません。
大企業の中でAIに詳しい上位数%の社員が、会社支給のAIを実際にどれだけ使っているかです。
たとえば、個人では高性能な推論モデルやコーディングエージェントを使っている人が、会社では承認済みの限定的なチャットAIしか使えないのか。それとも、大企業でも意外と最新モデルが使えるのか。
ここが分かれば、日本企業のAI利用の実態がかなり見えてくると思います。
ちなみに、気になっているのは 金融・製造・インフラのようなセキュリティが厳しい大企業 ですか？ それとも 日本の大手企業全般で、AIを使いこなせる社員がどんな扱いを受けているか という話でしょうか。調べる対象によって、かなり違う景色になるはずです。

クソAIで草

なあにかえってAIになる

AI使える使えないだけじゃなく使えるAIモデルでも貧富の差が出る時代だから格差は広がるばかりだね

貧者の中小企業は、なけなしの社内情報・顧客情報をオンラインAIに献上し、見返りで安くAIを使用させてもらっている
強者は、自社内セキュアなAIをベンダーに構築させ、秘密保持を図る
信頼を失った中小企業からは得意先は離れていく
差はますます広がるな

一人親方だと、利用実態全く漏れてこなくて心配よな
AIに対する世間の肌感がわからなくて困る

まぁ見るひとが見ればこれAIてバレるよなとか
わざとITゼネコン風のドキュメントにしてとかAIにお願いしたりw
なんか本末転倒というか

プロンプトでガチガチに縛るまで真人間(真AI)にならないし、それまで人間が間違い探しするの本当、時間の無駄
まぁ怠けたレポートをもっともらしく仕上げてくることｗ　指摘しないと舐められるしｗ
もっと賢いAIに間違え直しさせてるけどメンドクサイし、AI使っても新人育てる人間社会と大して変わらん

Mac Studio来たら、もっとアホなローカルAIをクラウドAIに教育させてしばいてもらってようやく一人前になる
それでも人の目が入らないとアホが出来上がるしｗ　あーめんどくさい

貧者の中小企業は、なけなしの社内ノウハウ満載データをオンラインAIに献上し、見返りで、安くAIを使用させてもらっている。
その結果、過去データから来る社内ノウハウ）をAIに学習されてしまった中小企業は競争力の唯一源泉を失い他社競争に埋没していく…
強者は、自社内セキュアなAIをベンダーに構築させ、社内ノウハウや過去データは秘密保持を図る。競争力の源泉を維持。

差はますます広がるな

社会人の過半数はヤフー知恵袋未満の文章力だと思うから、
まず「仕事しんどい頼む（絵文字）」から始まって、
AIの逆質問に応答できずにキレて終わり。マジこの程度。
活用といっても、せいぜいAIに愚痴って共感してもらえれば御の字。

AI開発業者は、公開されたインターネット上の情報はほぼ学習し終えたからな
これ以上ネットから素材を集めても、自家中毒になってしまう（他のAIが書いたネット文書を読むパターン)ので、それは避けるだろ。
これからのAI発展のためには、企業や情報が社内で溜め込んでる非公開情報だよ。だから無防備な中小企業を餌で釣って（廉価AI使用）、内部情報を吐き出させてるわけよ。

m5 max 128gbをまだキャンセルできるからキャンセルして注文し直した、ストレージ1Tから2TBに変更したプラス9万円ナリ
完全に金銭感覚がバグってきたｗ
最初はTB5の外付けSSDにしようと思ったが選んでいる内にめんどくさくなってきた、速度も半分くらいしか出ないし

ストレージ上げてる暇あったら、メモリを上げろよ、このスカタンが
金使うポイント間違えてるぞ

>>518
メモリを1つ上げて256GBにすると200万円相当になります、ちな今は100万円相当
メモリ上げると倍々ゲームなのよ坊や
さすがに200万円は要らんわ
2年後のm7 ultra 512-1024gbに金使うわ
2年後に中古で売る時に1TBだと弱いのよ

2年後に中古で売る時にメモリ128gbだと弱いだろ

>>520
まだギリ行けると思ってる
32-64gbの底辺層が手をだしてくるギリギリのライン

中古買い専門の俺様の感覚からすると、中古は使い潰す前で長〜く使う
ので、拡張可能なSDDはあまり重視しない
むしろ後付け拡張不可のユニファイドメモリの多寡で買う方を決めるな
よって新品買う人は迷ったら増設難しい方を買え． MacStudio なら迷わずメモリ高い方だろ

実際、過去の整備品の売れ行きグラフ見ても、メモリ多い方は中古価格下がらないし、整備品出れば数秒で売れてくが、SSDいくら積んでてもメモリしょぼいと長期間の店晒しで売れてないだろ

皆様の仰ることはごもっともですが今回は200万は出したくないのよね
チョロっと128gbで遊んで次行きたい気分
売れないんだったらエロ動画サーバとして余生を送ってもらうよ🙃

うーん
なかなか財布の紐が硬いなあコイツ

W を文体に使用する人の話は全部ウソだと思って間違いない

ｗｗｗ

個人事業主、一括償却可能なIntel B70が限界だったw
メイン作業環境M4 Max Studioは汚したくないFIM用に3Bくらいのモデルしか使わんので64Gで十分

mac strataきたー

他人の買い物にケチを付けてるパイセン達のスペック聞きたいっス

480GBメモリのGPUきてんね
https://youtu.be/M7J72--tzng

で、それはMacなのかい？
盲目じゃないよな？

>>532

https://www.okinawatimes.co.jp/articles/-/1941134

https://www.okinawatimes.co.jp/mwimgs/5/b/764/img_5b3aadab557dc607ba62cbbe20cb555c3451218.jpg
高文研が絶版にする島袋純教授の著書「無責任の体系と沖縄戦」


　出版社の高文研（東京）は８日までに、琉球大学の島袋純教授が９月に同社から刊行した書籍「無責任の体系と沖縄戦」の一部に事実と異なる記述があるとして、同書を回収・絶版にすると発表した。島袋教授が人工知能（ＡＩ）で調べた内容を確認しないまま掲載していた。

いいんじゃね、このくらい
mac使いが盲目にならない程度に他社の動向も知りたいし

Love is blind.

>>524
500万円もないと言うのは、おかしいと思う。
https://youtu.be/i9sXqU0VQ4M

>>513
今井翔太が言うには、最近はリソースの消費を削るために怠けるように調教されてるらしい
怠ける競争で、どんだけバレずに怠けられるかを試されてると
だから、一言怠けるな徹底的にやれ、と書くと途端にビシッとするw

love is like oxygen

strataのせいで128GBでも優位性が薄くなっちまったからな。やっぱり256GBが欲しいけど、流石に高いよね
メモリ暴落してくれねぇかな

同じstrata なら、64GBマシンよりも128GB、256GBマシンの方が、より高速に安定して動かせる
複数アプリをstrata基板で同時起動して連携すら可能

上位マシンの優位性に変わりはないぞ
下剋上は起きない
むしろ性能格差が広がる

strataが爆速なのはわかる
体感で半分以上早い。

でもやっぱりメモリは欲しいよね
SSDを仮想メモリにすると遅いし

しかし待ってほしい

Appleはメモリが安価な時代でもメモリの増設は高額ではなかったか？

アップル「次はDDR6に移行するのでお値段はさらに上がります」
信者「えー アップル様お許しを・・・」

strata はメモリの代わりにSSDを何万回も書き換えるからな
メモリは何億回書き込んでも劣化しないが、SSDは急速に劣化していく。
SSDをメモリ代わりに使ってると、PCの寿命は約10分の1になってしまう

貧者は、目先の金に釣られてメモリしょぼい機械で、無料ローカルLLMを動かして喜んでるが、来年以降そのツケは回ってくることになる。

息を吸うように嘘をつくときはコテハンつけてほしいね

息を吐（は）くように嘘を吐（つ）く、だ
息を吸うように嘘を吸ってたら飲み込んでるじゃねーか、バカが

>>545
この　ツクツクボウシめw

いくらなんでも寿命が1/10になるのは大げさ

大丈夫、すぐに根拠を書いてくれるさ

このスレってIP変えて1回だけの投稿なら無限に成りすまし出来るの？
毎日、初回投稿が多すぎて不自然ぽい

なあにかえって自然になる

1日数百GB～数TBのペースで書き込み続けたら流石に寿命削れるけど、そうじゃないなら気にしなくていい
SSDが逝く前に性能不足で買い換えてるから

AIモデルだけで10〜90GBあるからな
それを毎秒数千回は繰り返して読むんだから、SSDは１日使えば、数千万回の書込みを受ける
AIを使うってのは、普通のSSDの読み書きとは訳が違う
あっという間に寿命がきて泣きを見ることになる
悪いことは言わん
モデルはVRAMに置いとけ

モデルストリーミングしても全体の書き込みはしないでしょ

AIに聞いたらStrataは基本読み込みだけなのでssdのダメージは少ないと言っている
それとは別に、メモリ不足のスワップだと書き込みするのでssdの寿命に影響するかもだって
スワップ発生させないメモリ量でStrata使えば問題なくね？

AIに聞いたら、AIモデルだけで10～90GBあって、それを毎秒数千回は繰り返して読むんだから、SSDは１日使えば、数千万回の書込みを受けるらしい
AIを使うってのは、普通のSSDの読み書きとは訳が違うので、あっという間に寿命がきて泣きを見ることになると、あいが言ってた。

出しな…お前のAIスタンドを

＞毎秒数千回は繰り返して読むんだから、SSDは１日使えば、数千万回の書込みを受けるらしい

読むのか、書くのかはっきりしろアホAI

お前らのAIが何を言おうが、俺様は自分のAIしか信用しない。

単発の書き込みは信用できん
2/2になったら信用してやる

四分の三の花嫁

>>560

そこの貴方
ID真っ赤ですよw
鼻毛も出てますよ

>>562
成りすましおじさん
よくやるわ
アホくさ
連投しろよID記録したいｗ

低学歴は「有意に」程度の意味で「約10分の1」などと書いてしまったり
息を吸ったり吐いたりでホント大変

あの鼻毛は有意に長く

>>556
マジレスだけど書き込まなきゃいけないようなアクセスなら遅くて使い物にならないよ

なんだとぅ？
道路予算削るぞ、コラァ

バカは何してもバカなんですわ

成りすましおじさん24時間ここ監視してるのか😅
ID無しの書き込みの90％以上は1人でやってる😂😂

/auth logout

>>568
ばれたか

この赤鼻毛を見抜くとは、なかなかやるねぇ

Meta、クラウド不要の大規模AI発表　「Mac Studio」2台で動作　Appleと異例の協力

CNET Japan Staff


Macでの動作には、Appleの機械学習用フレームワーク「MLX」を活用する。「M5 Ultra」を搭載し、512GBのメモリーを備えたMac Studioを2台接続することで、合計1TBのメモリーにモデル全体を収める。Appleは技術解説で、4台構成では毎秒36トークンを超える速度で文章を生成できたと説明している。

https://l.smartnews.com/m-8GYTwq64/jbCzE5

>>573
これ800万円とか1000万円とか？

>>573
2台で800万円、快適に動かすなら4台で1600万円か、ムリだわ😭
量子化しまくって128GBに入るようにしておくれ、余り軽量化するとアホの子が生まれるし、これも無理か
やっぱ金持ちだけが知能の高いAIをローカルでコッソリ使える時代が来るんだな

MetaとAppleがAIでタッグ！巨大AI「Muse Spark Open」がMac Studioで動く
https://www.youtube.com/watch?v=iWPuA2dj09w

技術革新起きてくれ

Mac mini M6 32GB 届いたんで早速 LM Studio 使って色々ローカルLLMを動かしてるけど、お前らのおすすめって何？

せっかくAI使ってるならAIに聞けよ

そんなの、一番最初に聞いとるわ

AIが知らない、AIが答えそうにもない回答を期待されているって、分からないのかな😆

LM Studio でAIが自問自答している様子(thinking)が見られるのは楽しいな
ユーザーが期待しているのは〜〜〜だと考えられる。だとすると〜〜
みたいなやつ

ユーザーが期待していることを察するなんて、>>579 より賢いわ

>>578
orcarouter/Qwen3.8-27B-Uncensored-GGUF

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive

Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP

Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP

せっかくローカル使うんだから、規制なしのUncensored/Abliterated版以外無いよな

>>582
なら、既に試したやつとか今使ってるやつぐらいは書くべきじゃないのか？

Uncensored、ゴクリ…

すべてがフルフロンタル

小学校に乱入して銃を乱射しまくる小説とか、クラウドじゃ書いてくれない
でも…

女子達が一日中エロトークしてくれる
イメージ画像付きで

あれも書けないこれも書けない
ドイルもシェイクスピアも困るだろう

>>589
チャット形式で画像生成してくれるやつってある？

Alis Stuido っていう Krea2 を使った画像生成するやつはいれたけど、昔流行った A1111 みたいなやつなんだよな

自分で生成すれば、全部乗り越えられる。

参照画像を与えて、Krea2 用にプロンプトを書け、って指示してできたやつを Alis Studio に突っ込むっていうはすごい面倒

M6でQwen3.8-Flash-Next Strataを入れてみた

>>591
マルチモーダルでチャットと画像生成できるモデルもあるし
好きなLLM+ComfyUI+画像生成モデルでもできる

>>573

総パラメーター数は8,160億で、推論時に稼働するのはそのうち420億。コンテキスト長は100万トークンだ。コーディングとエージェント作業向けに設計し、長時間に及ぶ作業や複雑なソフトウェア開発、多段階の推論を得意とする。

入力はテキスト、画像、動画、音声に対応し、出力はテキスト。100以上の言語のデータで学習した。

重みは BF16 版と NVFP4 版の2種類で、自社の環境で動かすには NVFP4 版で700GB以上、BF16 版で2TB以上の VRAM を持つ GPU が必要になる。

Apple の機械学習フレームワーク MLX の最新版に合わせて最適化しており、M5 Ultra を搭載した Mac Studio を2台つなげば、手元のデスクトップでも動かせる。

Meta によると、M5 Ultra の統合 GPU は Mac Studio 1台あたり最大512GBのメモリを使えるため、2台でモデル全体を載せられる。

同社はこの構成で自社のコーディングツール Muse Code を動かし、オープンソースの Mastodon クライアント「Ice Cubes」の iOS 版でバグ修正や機能追加、ビルドまでを行ったほか、動画編集ソフト DaVinci Resolve で映像を1コマずつ確認して見どころを縦型に切り出す作業も試した。

API は Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI の各社が同日から提供する。各社の API 料金は明らかにしていない。

重みは Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Models から入手でき、推論エンジンは SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、MLX、llama.cpp、Unsloth に対応する。

ライセンスは独自の「Muse Model License」で、多くの開発者は無料で使える。

ただし、このモデルや派生モデルを使う製品・サービスには「Built with Muse Spark Open」と表示する必要がある。

また、AI モデルを API などで外部に提供する事業者のうち、グループの総売上高が連続する12カ月間で2,000万ドルを超える企業は、提供の前に Meta へ通知し、個別の契約を結ばなければならない。

人間にもコンテキスト上限がある

＞　ただし、このモデルや派生モデルを使う製品・サービスには「マミさん最高！」と表示する必要がある。




なにこの縛り…

>>591
定期的に文脈読ませて画像生成する紙芝居
メモリ50gbくらい食う

画像生成って実は結構大変なんだっけ？
パラメータ弄りまくって何回も生成し直さないといけない
それに比べるとプロンプト上手く書けばマシなもの出してくれるオンラインサービスに軍配が上がる

>>600
https://image.space.rakuten.co.jp/d/strg/ctrl/9/5cb0a7f244a0fe77a475516adbec32fcb6fdd58c.45.2.9.2.jpeg

>>578
Mac mini M6 32GBってStrata使えば120B相当？のQwen3.8-Flash-Next載るのかな？
俺はmac stduio来るまでwinでQwen3.8-Flash-Nextで遊んでるけど中々いいよ
Strata win版はモデルのほどんどをCPU RAM64gbに載せてるけど、macはストレージに載せるみたいだから使用感分からんけど
それとSSD早くぶっ壊れると主張してる人もいるな、readオンリーだから劣化しないと思うが

>>584
規制なしのUncensored/Abliterated版はどうやって手に入れるかAIに聞いたら怒られたｗ

orcarouterのUncensored以外は糞微妙すぎる

センスなしが
除去したら悪いところまで除去してるしな

ファインチューニングはバランス良くやるセンスがないのし

ベンチ結果出してるやつが稀にいるがあれ書いてる以上に絶対損失大きいだろうな

>>603
無料のchatgptでも教えてくれるのに…ｗ

>>603
LM Studio 使ってないのか？

>>603
Uncensored版AIに訊けば怒られないぞ

結論：Mac mini M6・32GBでも、Strataを使えば125B級のQwen3.8-Flash-Nextを動かせる可能性はかなり高いよ。しかも、単なる理論上の話ではなく、Strata公式にはM4 Mac mini・32GBでSSDストリーミング動作を確認したという記載がある。
ただし、動くことと、快適な速度で使えることは別。Strataは、モデル全体をRAMに載せる代わりに、必要なExpertを内蔵SSDから読み出す仕組みを使う。なので、M6・32GBの実用性は内蔵SSDの速度とExpertキャッシュ効率次第。
* すでにM6・32GBを持っている：Strataを試す価値はある。ダメ元。動かなくても俺は損はない。
* これから購入する：125Bを日常的に使いたいなら、64GB以上を優先したい。32GBでは無駄。金をドブに捨てるようなもの。というか買った馬鹿の顔が見たいw

ひとつ聞きたいんだけど、Qwen3.8-Flash-Nextをローカルで動かして、Claude CodeやPiみたいなコーディングエージェントに使いたい感じ？それとも普通のチャット用途？用途が絞れれば、M6・32GBで十分か、64GBにするべきか、更に深く掘り下げて検討できます。そうAppleならね。

一部のMCPツールで、LM StudioのOpenAI互換APIを繋げて使ってると、リクエストにpropertiesが無い場合にエラーになる
unsloth DesktopのOpenAI互換APIだとエラーにならない

そんな風に思っていた時期が俺にもありました（マルチではありません）。

LM Studio使ってるけどかなりおもろくて良いね
外からはLocallyでiPhoneからLM StudioとのLM Linkで質問投げてみてる

mac mini買ってよかった
これでClaude code解約できるわ

>>608
Macstudio最小構成買うくらいならMac miniM5Pro64GB？

Word、Excel、サンダーバード、Web閲覧用途なら32GBメモリで充分だよ。
俺は念のため64GBメモリのMac Studio にしたが。

AI をガンガン動かすんなら、126〜256GBかな
俺は、DGX Spark 派なので126GBメモリ買った。増設で４台まで増やせるらしい。

Strataがゲームチェンジャー過ぎる
64GB DDR4機とRTX3090の骨董品で125BクラスのQwen3.8 Q3_XSSが120tok/s〜170tok/s位で動いてる
メモリ64GB〜128GBのマシンはメモリ安い頃に4台くらい買ってあるんで、それぞれにVRAM16GBクラスの程々GPU載っけたら全部現役復帰や･･･

さあ皆さんご一緒に〜
Strataがゲームチェンジャー過ぎるぅ！

27Bを動かすか122B以上を動かしたいか
Sなんとかが出てきてまた状況が変わってきた
少し前まではMacが圧倒的優位だったのに

一般人「ローカル興味ない。Web使うから」
金持ち「Mac、DGX、フレーム使ってるんで興味ない」

ゲームPCしか持ってないキモオタ「ストラッタで俺たちもAI使えるように！」


騒いでいる階層が体臭臭そうな奴ら…

>>617
200Bが動作すればRAG以外だとWEB版の無料AIは完全に超えるから有料AIが焦ってるのは分かる

512GBのMac Studio 注文済みの俺さま　高みの見物

mossが流行りだしたから、みんなフラフラと流されてるな
キワモノ系の　strataは忘れ去られつつある

ローカル一式触ってたら2TB一瞬でうまったな、がっつりさわるなら外付け8TBで足りるかな？まさかの4ベイ買うか迷うわ

成りすましおじさんの独り言が今日もこのスレに響き渡る😂

MoEの最小ロードは流行るやろね

普通の人はVRAM何十GBも持ってないから、意味ないよな

vram24GBで動くように寄せていくのは予想できる、本体にも36GBとか求められるかも知れんが…

Mac Studio 256GB とか持っている人には、どうでも良い技術だよね、ストラッタ（笑

>>626
逆だろ
816BクラスとかのLLMフルでロードできる可能性が出た

可能性ねぇ…

mac mini 64GB M5 Pro買ったけど1人で使う分には27B gemma4やらornith-1.5を読ませて遊べるね
メモリプレッシャーが黄色くなったからどっちかのモデルを下げるかもしれん

xestrataとやらを公開してる人、nikoにあしらわれてるのが気に入らないのかしらんが、誰も仲間になってくれず「そんなに気に入らないなら自分のxestrata使ってれば？」と言われて「使ってます」は笑う

本家にPRしない理由は採用されないから、なんなら俺はほとんど作り直してるからオリジナルだとかOSS界隈に1番嫌われるやつやろ

興味ない

低学歴無職はそもそも百万超えMac買えないからな
無職のオタクとか、低予算PCになけなしのGPU付けて親が払う電気代でゲームやって人生送ってんだろ？
世の中の人がオンラインAIで仕事するようになって、富裕層はローカルAI。無職キモオタは技術的に取り残された劣等感の中にいたわけだ。唯一のプライドであるIT詳しい感が打ち砕かれたからね…

それがストラッタとかで中国AI専用機が動く、ということでゲームPC異臭オタクが歓喜してる
惨めすぎるだろ…

日本人で開発してる大半がアプリ程度の開発しかしてないのに偉そうだなw
ラベルにこだわって中身がないよ
他人に乗っかってイキるしかないとか情けない

惨めなのは驚き屋とアプリ開発でイキってる一部の連中ですけどねw

オンラインAIが優れてるなら具体的に何にどう役立つかストレートに口に出せば良くてローカルAIを叩く意味はないからつまり

ストラッタ君、今日も元気だなー

OpenCode漏えい

（オンラインAIの利点）
初期投資額が抑えられる。
速いし情報が最新。
ネットで何処からでも使える。

（オンラインAIの弱点）
機密情報がベンダに握られる。
学習に使われて、同業他社を利する。
月額料金の値上げは呑むしかない。

両方使えばええやん

別にローカルllmもネットのどこからでも使えるだろ
アホか

>>639
ある意味、コンピューターのリテラシーが低くても使えるぐらいに
AIが身近になったってことか

>>639

知らないのはそっちだぞ
Widnows PCはパーツ自分で買ってきて交換できるから即日だ。
修理に1週間とか時間かかりすぎ、それでは使い物にならない。
しかもパーツ代だけ、工賃なしで修理できる。

Winは突然サポート切られることはない。かなり前にアナウンスされるし
仕様変更あってもRufusなどツールつかえば新しいOSインストールできる。
もっとも長くサポート期間があるから法人はwindowsを使う。

基板上のどの部品が不良かを特定するのは難しい

LM Studio Bionicをチャットアプリと思って使ってたら作業もしてくれるのか
ありがてぇ
リモートから指示できるようにLocallyのアップデートを待ちたいね

Thingsやメモアプリにアクセスできるかやってみるか

Mac買えない貧乏人の僻みばかり
そもそもAIに限らず何やらせてもNVIDIAやAMDの連中よりMacの方が早い
MacならオンラインAIと遜色ない性能も出せるし
まともな神経してたらMacしか選ばない

両方使えばええやん

個人でMacが手頃という話ならまさにその通りだと思うし特に出遅れて高いRTX sparkとかAMDのユニファイドよりははるかにいいね。

ただ万能ではない
手軽さとのバランスよ

個人の遊びならMacだが（俺の自宅もMacStudio）、正直、仕事となると性能的に不足だな
職場ではWindowsとDGX Spatk 使ってるわ

何の仕事してるの？

しがないPMCですが…

Private Military Company (PMC) – A private business that provides military, security, or defense-related services.

強そうだな
ここに居るのがもったいない
是非中東に

・翻訳
・暗号処理
・ハッキング
・弾道計算
・地図探索
・ドローン制御

>>650
わお

どうみてもこっちだろ…

Project Management Consultant (PMC) – A professional or company that helps plan, manage, and oversee projects, especially in construction and engineering.

ほげほげ

情報古いけど少し参考になる
https://genshi.ai/articles/local-llm-machine-guide

半年後にはさらに蒸留で圧縮されてんだろな

>>656
よくまとまってるけど情報が古すぎる。
変化の速度が速すぎるから「平成トレンド最前線」みたいな記事を読んだような印象。
更新版の記事が読みたい

https://genshi.ai/img/articles/local-llm-machine-guide/dgx-spark.jpg

勉強なる
Q4も試してみるか
むりくりQ8動かしてるからな…

Apple専用フラッシュメモリはDRAMを置き換えられる
つまり無限の書き換え寿命を持つのだ

基本的な知識がないから使い方から学んでるけどLM Studio良いな

>>660
そんなに変わらないかな、と思ってQ8からQ4に落としたら動作がすごい不安定というか出力のクオリティが下がった経験あるわ。
「Q2とかQ1で大きいモデルを使えるようになった」とかよく言われるけどあんまり信用してない

極論で例えだが、2%しか劣化していませんと言われたとして、
50音の内の「す」が欠けてたら日本語では死ぬ。

量子化はやむをえない場合に使うもの

ありがとう

実際に試してみてもニーモニックをパズルって言われてちょっと笑った
BIP39って書かなかった俺も悪いかもしれんが…

2%しか劣化していますん。

ornithくん賢すぎて教えて欲しかっただけなのにインストール作業しちゃったよ

だから言ってんのに、情報ガーセキュリティガーって言いながら中華LLM使ってるの頭悪いんだよ
https://news.yahoo.co.jp/articles/2c807564e567a7a66e8718bce6ebd38538c605e8

頭悪いからAI使いたいのです

Uncensored版はいつか規制入るのかな
犯罪ツール的な感じで