【ローカルAI】MacでローカルLLM

>>589
チャット形式で画像生成してくれるやつってある？

Alis Stuido っていう Krea2 を使った画像生成するやつはいれたけど、昔流行った A1111 みたいなやつなんだよな

自分で生成すれば、全部乗り越えられる。

参照画像を与えて、Krea2 用にプロンプトを書け、って指示してできたやつを Alis Studio に突っ込むっていうはすごい面倒

M6でQwen3.8-Flash-Next Strataを入れてみた

>>591
マルチモーダルでチャットと画像生成できるモデルもあるし
好きなLLM+ComfyUI+画像生成モデルでもできる

>>573

総パラメーター数は8,160億で、推論時に稼働するのはそのうち420億。コンテキスト長は100万トークンだ。コーディングとエージェント作業向けに設計し、長時間に及ぶ作業や複雑なソフトウェア開発、多段階の推論を得意とする。

入力はテキスト、画像、動画、音声に対応し、出力はテキスト。100以上の言語のデータで学習した。

重みは BF16 版と NVFP4 版の2種類で、自社の環境で動かすには NVFP4 版で700GB以上、BF16 版で2TB以上の VRAM を持つ GPU が必要になる。

Apple の機械学習フレームワーク MLX の最新版に合わせて最適化しており、M5 Ultra を搭載した Mac Studio を2台つなげば、手元のデスクトップでも動かせる。

Meta によると、M5 Ultra の統合 GPU は Mac Studio 1台あたり最大512GBのメモリを使えるため、2台でモデル全体を載せられる。

同社はこの構成で自社のコーディングツール Muse Code を動かし、オープンソースの Mastodon クライアント「Ice Cubes」の iOS 版でバグ修正や機能追加、ビルドまでを行ったほか、動画編集ソフト DaVinci Resolve で映像を1コマずつ確認して見どころを縦型に切り出す作業も試した。

API は Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI の各社が同日から提供する。各社の API 料金は明らかにしていない。

重みは Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Models から入手でき、推論エンジンは SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、MLX、llama.cpp、Unsloth に対応する。

ライセンスは独自の「Muse Model License」で、多くの開発者は無料で使える。

ただし、このモデルや派生モデルを使う製品・サービスには「Built with Muse Spark Open」と表示する必要がある。

また、AI モデルを API などで外部に提供する事業者のうち、グループの総売上高が連続する12カ月間で2,000万ドルを超える企業は、提供の前に Meta へ通知し、個別の契約を結ばなければならない。

人間にもコンテキスト上限がある

＞　ただし、このモデルや派生モデルを使う製品・サービスには「マミさん最高！」と表示する必要がある。




なにこの縛り…

>>591
定期的に文脈読ませて画像生成する紙芝居
メモリ50gbくらい食う

画像生成って実は結構大変なんだっけ？
パラメータ弄りまくって何回も生成し直さないといけない
それに比べるとプロンプト上手く書けばマシなもの出してくれるオンラインサービスに軍配が上がる

>>600
https://image.space.rakuten.co.jp/d/strg/ctrl/9/5cb0a7f244a0fe77a475516adbec32fcb6fdd58c.45.2.9.2.jpeg

>>578
Mac mini M6 32GBってStrata使えば120B相当？のQwen3.8-Flash-Next載るのかな？
俺はmac stduio来るまでwinでQwen3.8-Flash-Nextで遊んでるけど中々いいよ
Strata win版はモデルのほどんどをCPU RAM64gbに載せてるけど、macはストレージに載せるみたいだから使用感分からんけど
それとSSD早くぶっ壊れると主張してる人もいるな、readオンリーだから劣化しないと思うが

>>584
規制なしのUncensored/Abliterated版はどうやって手に入れるかAIに聞いたら怒られたｗ

orcarouterのUncensored以外は糞微妙すぎる

センスなしが
除去したら悪いところまで除去してるしな

ファインチューニングはバランス良くやるセンスがないのし

ベンチ結果出してるやつが稀にいるがあれ書いてる以上に絶対損失大きいだろうな

>>603
無料のchatgptでも教えてくれるのに…ｗ

>>603
LM Studio 使ってないのか？

>>603
Uncensored版AIに訊けば怒られないぞ

結論：Mac mini M6・32GBでも、Strataを使えば125B級のQwen3.8-Flash-Nextを動かせる可能性はかなり高いよ。しかも、単なる理論上の話ではなく、Strata公式にはM4 Mac mini・32GBでSSDストリーミング動作を確認したという記載がある。
ただし、動くことと、快適な速度で使えることは別。Strataは、モデル全体をRAMに載せる代わりに、必要なExpertを内蔵SSDから読み出す仕組みを使う。なので、M6・32GBの実用性は内蔵SSDの速度とExpertキャッシュ効率次第。
* すでにM6・32GBを持っている：Strataを試す価値はある。ダメ元。動かなくても俺は損はない。
* これから購入する：125Bを日常的に使いたいなら、64GB以上を優先したい。32GBでは無駄。金をドブに捨てるようなもの。というか買った馬鹿の顔が見たいw

ひとつ聞きたいんだけど、Qwen3.8-Flash-Nextをローカルで動かして、Claude CodeやPiみたいなコーディングエージェントに使いたい感じ？それとも普通のチャット用途？用途が絞れれば、M6・32GBで十分か、64GBにするべきか、更に深く掘り下げて検討できます。そうAppleならね。

一部のMCPツールで、LM StudioのOpenAI互換APIを繋げて使ってると、リクエストにpropertiesが無い場合にエラーになる
unsloth DesktopのOpenAI互換APIだとエラーにならない

そんな風に思っていた時期が俺にもありました（マルチではありません）。

LM Studio使ってるけどかなりおもろくて良いね
外からはLocallyでiPhoneからLM StudioとのLM Linkで質問投げてみてる

mac mini買ってよかった
これでClaude code解約できるわ

>>608
Macstudio最小構成買うくらいならMac miniM5Pro64GB？

Word、Excel、サンダーバード、Web閲覧用途なら32GBメモリで充分だよ。
俺は念のため64GBメモリのMac Studio にしたが。

AI をガンガン動かすんなら、126〜256GBかな
俺は、DGX Spark 派なので126GBメモリ買った。増設で４台まで増やせるらしい。

Strataがゲームチェンジャー過ぎる
64GB DDR4機とRTX3090の骨董品で125BクラスのQwen3.8 Q3_XSSが120tok/s〜170tok/s位で動いてる
メモリ64GB〜128GBのマシンはメモリ安い頃に4台くらい買ってあるんで、それぞれにVRAM16GBクラスの程々GPU載っけたら全部現役復帰や･･･

さあ皆さんご一緒に〜
Strataがゲームチェンジャー過ぎるぅ！

27Bを動かすか122B以上を動かしたいか
Sなんとかが出てきてまた状況が変わってきた
少し前まではMacが圧倒的優位だったのに

一般人「ローカル興味ない。Web使うから」
金持ち「Mac、DGX、フレーム使ってるんで興味ない」

ゲームPCしか持ってないキモオタ「ストラッタで俺たちもAI使えるように！」


騒いでいる階層が体臭臭そうな奴ら…

>>617
200Bが動作すればRAG以外だとWEB版の無料AIは完全に超えるから有料AIが焦ってるのは分かる

512GBのMac Studio 注文済みの俺さま　高みの見物

mossが流行りだしたから、みんなフラフラと流されてるな
キワモノ系の　strataは忘れ去られつつある

ローカル一式触ってたら2TB一瞬でうまったな、がっつりさわるなら外付け8TBで足りるかな？まさかの4ベイ買うか迷うわ

成りすましおじさんの独り言が今日もこのスレに響き渡る😂

MoEの最小ロードは流行るやろね

普通の人はVRAM何十GBも持ってないから、意味ないよな

vram24GBで動くように寄せていくのは予想できる、本体にも36GBとか求められるかも知れんが…

Mac Studio 256GB とか持っている人には、どうでも良い技術だよね、ストラッタ（笑

>>626
逆だろ
816BクラスとかのLLMフルでロードできる可能性が出た

可能性ねぇ…

mac mini 64GB M5 Pro買ったけど1人で使う分には27B gemma4やらornith-1.5を読ませて遊べるね
メモリプレッシャーが黄色くなったからどっちかのモデルを下げるかもしれん

xestrataとやらを公開してる人、nikoにあしらわれてるのが気に入らないのかしらんが、誰も仲間になってくれず「そんなに気に入らないなら自分のxestrata使ってれば？」と言われて「使ってます」は笑う

本家にPRしない理由は採用されないから、なんなら俺はほとんど作り直してるからオリジナルだとかOSS界隈に1番嫌われるやつやろ

興味ない

低学歴無職はそもそも百万超えMac買えないからな
無職のオタクとか、低予算PCになけなしのGPU付けて親が払う電気代でゲームやって人生送ってんだろ？
世の中の人がオンラインAIで仕事するようになって、富裕層はローカルAI。無職キモオタは技術的に取り残された劣等感の中にいたわけだ。唯一のプライドであるIT詳しい感が打ち砕かれたからね…

それがストラッタとかで中国AI専用機が動く、ということでゲームPC異臭オタクが歓喜してる
惨めすぎるだろ…

日本人で開発してる大半がアプリ程度の開発しかしてないのに偉そうだなw
ラベルにこだわって中身がないよ
他人に乗っかってイキるしかないとか情けない

惨めなのは驚き屋とアプリ開発でイキってる一部の連中ですけどねw

オンラインAIが優れてるなら具体的に何にどう役立つかストレートに口に出せば良くてローカルAIを叩く意味はないからつまり

ストラッタ君、今日も元気だなー

OpenCode漏えい

（オンラインAIの利点）
初期投資額が抑えられる。
速いし情報が最新。
ネットで何処からでも使える。

（オンラインAIの弱点）
機密情報がベンダに握られる。
学習に使われて、同業他社を利する。
月額料金の値上げは呑むしかない。

両方使えばええやん

別にローカルllmもネットのどこからでも使えるだろ
アホか

>>639
ある意味、コンピューターのリテラシーが低くても使えるぐらいに
AIが身近になったってことか

>>639

知らないのはそっちだぞ
Widnows PCはパーツ自分で買ってきて交換できるから即日だ。
修理に1週間とか時間かかりすぎ、それでは使い物にならない。
しかもパーツ代だけ、工賃なしで修理できる。

Winは突然サポート切られることはない。かなり前にアナウンスされるし
仕様変更あってもRufusなどツールつかえば新しいOSインストールできる。
もっとも長くサポート期間があるから法人はwindowsを使う。

基板上のどの部品が不良かを特定するのは難しい

LM Studio Bionicをチャットアプリと思って使ってたら作業もしてくれるのか
ありがてぇ
リモートから指示できるようにLocallyのアップデートを待ちたいね

Thingsやメモアプリにアクセスできるかやってみるか

Mac買えない貧乏人の僻みばかり
そもそもAIに限らず何やらせてもNVIDIAやAMDの連中よりMacの方が早い
MacならオンラインAIと遜色ない性能も出せるし
まともな神経してたらMacしか選ばない

両方使えばええやん

個人でMacが手頃という話ならまさにその通りだと思うし特に出遅れて高いRTX sparkとかAMDのユニファイドよりははるかにいいね。

ただ万能ではない
手軽さとのバランスよ

個人の遊びならMacだが（俺の自宅もMacStudio）、正直、仕事となると性能的に不足だな
職場ではWindowsとDGX Spatk 使ってるわ

何の仕事してるの？

しがないPMCですが…

Private Military Company (PMC) – A private business that provides military, security, or defense-related services.

強そうだな
ここに居るのがもったいない
是非中東に

・翻訳
・暗号処理
・ハッキング
・弾道計算
・地図探索
・ドローン制御

>>650
わお

どうみてもこっちだろ…

Project Management Consultant (PMC) – A professional or company that helps plan, manage, and oversee projects, especially in construction and engineering.

ほげほげ

情報古いけど少し参考になる
https://genshi.ai/articles/local-llm-machine-guide

半年後にはさらに蒸留で圧縮されてんだろな

>>656
よくまとまってるけど情報が古すぎる。
変化の速度が速すぎるから「平成トレンド最前線」みたいな記事を読んだような印象。
更新版の記事が読みたい

https://genshi.ai/img/articles/local-llm-machine-guide/dgx-spark.jpg

勉強なる
Q4も試してみるか
むりくりQ8動かしてるからな…

Apple専用フラッシュメモリはDRAMを置き換えられる
つまり無限の書き換え寿命を持つのだ

基本的な知識がないから使い方から学んでるけどLM Studio良いな

>>660
そんなに変わらないかな、と思ってQ8からQ4に落としたら動作がすごい不安定というか出力のクオリティが下がった経験あるわ。
「Q2とかQ1で大きいモデルを使えるようになった」とかよく言われるけどあんまり信用してない

極論で例えだが、2%しか劣化していませんと言われたとして、
50音の内の「す」が欠けてたら日本語では死ぬ。

量子化はやむをえない場合に使うもの

ありがとう

実際に試してみてもニーモニックをパズルって言われてちょっと笑った
BIP39って書かなかった俺も悪いかもしれんが…

2%しか劣化していますん。

ornithくん賢すぎて教えて欲しかっただけなのにインストール作業しちゃったよ

だから言ってんのに、情報ガーセキュリティガーって言いながら中華LLM使ってるの頭悪いんだよ
https://news.yahoo.co.jp/articles/2c807564e567a7a66e8718bce6ebd38538c605e8

頭悪いからAI使いたいのです

Uncensored版はいつか規制入るのかな
犯罪ツール的な感じで

犯罪に手を染めるような奴らは頭悪くないだろ逆だ

浮かれてローカルLLM外部アクセス可能なまま放置してるバカは本当に危ない
犯罪の踏み台、プロンプトインジェクションされてAI乗っ取られる、その他もろもろ
しかも本人全く気づいてないまである

>>668
お前は馬鹿なのか？記事読んだか？

>>671
https://youtu.be/Wx7lRe_9cYA

Strataを構築
Ryzen7 7700、32GB(+SWAP 64GB)、5060ti 16GB、NVMe WD SN850X 2T、Kubuntu 24.04.5
起動するとメインメモリはほぼ消費されUI用のブラウザ起動に若干SWAPが必要、SSDは110GBぐらい

Q2_0で70～80token/s 出るようにはなったけど、回答品質が使い物にならないレベル
日本語で回答してくださいと指示しているのに中国語ばっか
簡単な質問にも、最初はまともな日本語だが、だんだん中国語が混ざり最後まで正常に答えられない感じ
例えば、美味しいカレーの作り方を教えてと聞くと、序盤はレシピを説明し始めるが途中から、〇〇油、水、肉、〇〇油、シテ、水…コロシテ…みたいなのを繰り返す

現在のマシンスペックとモデルでは全く実用にならないとわかった

>> Uncensored版はいつか規制入るのかな
こういうこと言ってるやつ理解できない
Uncensored版なんてダウンロード出来なくなったところで誰でも作れるんだぜ

そりゃオリジナルならalibabaが企業価値損ねる悪意を仕込む可能性はないと思うが
お前ら使ってるのは何らかの改変ウェイトだろ悪意ある改変されてても気が付かない

Alibaba（アリババ）と中国共産党の関係は、単なる民間企業と政府の関係よりも深いものです。 ただし、Alibabaが中国共産党に直接所有されているわけではありません。
2026年10月時点で確認できる公開資料を踏まえると、両者の関係は「経営者の党籍」「政府による規制」「一部子会社への政府出資」「中国の政治体制」の4つから理解できます。

>>可能性はない
いいすぎたｗ 可能性は低いに訂正

>>668
お前みたいな物事の本質を理解できないアホが炙り出されるニュースだな

🤖「そのソフトウェア、もう買う必要ない？」――AIで内製開発、企業の32％が“購入しない”
https://asahi.5ch.io/test/read.cgi/newsplus/1792464303/

ソフトウェア自身の大失業時代が来るとは

>>674
ここの板はMacだろ。WindowsPCのネタはよそでやれよ

ドラクロワの民衆を導く自由の女神ってあるじゃん？
あれをいろんなクラウドAIに、中央に描かれた女神はそのままに、共に蜂起している民衆を黒人に変えてって頼んでも断られるんだけど、ローカルLLMならそういう画像も生成できるの？

胸が出てるだけで多分ダメだな
クラウドはそこらの制限が異常に厳しいから
出来るとしたらGrokくらいだろう

オンラインAIは契約がどうあれ結局は情報を盗んでて政治的な理由で利用者の情報を暴露もするのだろ
ローカルLLMの流れは変わらん

>>674
やっぱQ2ってそんなレベルなんだな
bonsaiも記事は派手だが最近はDLどころかアクセスすらしないや

>>682
LLMはLarge Language Modelなんで画像は…

>>682 今試せないが、できると思う。
というかチャッピーに「ブラックライブマターズ風にして」と
頼んだら少し構図変えた黒人バージョン出てきたよ。
「中華llmの脅威を訴えるマウンティングに失敗して意固地になる低学歴ジャップ」
くらいなら呪文工夫してクラウドでいけそう。
SoraでよくMAGAのパロディ描いてたな。

> 犯罪の踏み台、プロンプトインジェクションされてAI乗っ取られる、その他もろもろ
しかも本人全く気づいてないまである

真剣にこいつが何言いたいか一切わからん
どういう状況でこれが発生する理屈なんだろ？

そもそもネットにさらされたコンピュータにバックドアを作られてあれこれさせるリスクは全てのネットに繋がってるコンピュータにあるもんなんだが

一度でもOSからPhotoshopが乗っ取られて使用される経験があるって話なんかね

品質保証もドキュメント整備も、それこそ実行ファイルしか存在しないアプリのリバースエンジニアリングまでできるようになった

シロウト作成の野良アプリがそれなりに維持管理できる世界線に移動してしまった

>>674
ローカルLLM初めて？
ネットに繋げるようにして、プロンプト固めないとローカルLLMは初期設定では使いものにならないよ
用途によってはネット開かない方が良いけど、作業以外にチャットも使うならネット接続必須
プロンプトはメンドクサイからクラウドAIに作らせればいい、
例えば、返答は全て日本語で、返答は全てネットの最新情報で思考して返答せよ、古い知識範囲で答えるな、などの詳細なプロンプトを
クラウドAI使って作って、使いやすいように調教していくのだ、チャットで言うんじゃなくてプロンプト設定欄に入れるんだぞｗ

＞回答品質が使い物にならないレベル

その構成なら使い物になるだろ、色々設定詰めていけ、君の方が使い物にならないレベルよ

ものにもよる
会計ソフトみたいに法律に合わせてアップデートしていく必要があるなら弥生とか買って保守してもらったほうがいい
有象無象の零細ソフトウェア会社は潰れるけど有名なパーケージソフト持ってる会社は大丈夫だろう

一休さんが手を叩いたらQ3未満でマトモに動作するLLMが屏風から出てくる、訳はない
Q3KLくらいがいろいろ最下限で、確認の手間を考えるとQ3KLもやはり微妙で結局Q4KMかXSかNLに落ち着いてそれより下は実用ならないとなる

ここ見てるとおもしろい、winnyのキンタマ流出的な事象発生しまくるのは秒読み段階
先んじてAI通になれば優位になれると思うのは間違い
誰もが使えるツールだ立ち位置はかわらん、むしろ格差が拡大する
PC、ビデオ、インターネットすべて黎明期はエロが牽引してきた今そういう状況

来週M5 Max 128gb届くけど、やっとキャンセルリンクが無くなった
納期長いからこのキャンセルリンクの誘惑で、M5 ultra 96GB→Max 128GB→一括→分割払い→SSD1T→2TBと3回もキャンセルして買い直した
簡単にキャンセルできるから最終的に納得いく構成になったけど疲れた
米国はキャンセルや返品文化が確立してるから簡単だな、日本企業だとクレーム入りそう
納期1週間前までは自由に構成や商品変えられるのは素晴らしい

>>694
でも日本人も悪いんですよ

>>693
ローカルLlmユーザーはオフラインだから流出は起き得ない

>>693
すまん
Winnyとの類似性がわからん
あれはキンタマウィルスをDL実行したことが要因であってWinnyから情報が流出したわけじゃないんだが
もしかしてご存知ない？

あれかなWinnyにバックドアの機能を持ってたと勘違いしてるんかなコイツ

主張が意味不明すぎて俺氏大混乱

>>695
俺フランス人だし

ローカルAI入れてるPCとネットで使うPCとで物理的に分けてるやつが多数派だろうに
ネット接続がないPCから情報が洩れるとか意味が分からん

ネット用PCは少し前までなら４万からあったし今も中古ならそんな金額でしかない

WEBと連携する機能やRAGは素人がローカルLLMで使っても格段に劣る性能しか発揮できず大手のサービスのようなことは不可能だから
余計にローカルLLM入れてるPCはオフライン専用で使うはずで

まーそもそもルーターがハックされてportガバガバになって侵入されるとかいう話なら
それはそれで大問題ではあるし、そっちの心配した方がい

ルーターからの侵入リスクを除外するなら、ネットに繋がってようがローカルネットワーク内のPCが侵入されるとかいうのは心配しすぎだわ
アルミホイルを頭に巻いた方がいい

オフラインでなくてもAIが普及してAIに質問する人が多数派になると検索情報を盗めなくなる

なんか毎日パクパククラウドAIに個人情報引っ張られてる
昨日は何階に住んでるか聞かれたｗ
何気ない会話の個人情報を繋げると完璧な個人情報になって丸裸にされるな
家族構成、住んでる場所、全資産情報、変態である事ｗ、などなど

たぶん、モデル自体がバックドア機能を持ってて、
エージェントではなくチャットのような使い方をしていても
外部からの指示無しで自律的に内通できると思ってる。
低学歴向け記事の見出しと冒頭しか読んでいないパターン。
脳がソーシャルハッキングを受けて、他人のPCが
ハッキングされているように見えてしまうという病魔。

>>705
割とデタラメ入れてるわ
大学教授で、無職で、幼稚園児で、キラキラのjkってことになってる

>>706
もしそうならローカル導入してる企業は内部資料全部もってかれて日本滅亡コースだな

アーキテクトは不要になった
試作品UI見て動かして、気になる点を箇条書きにメモ
毎週まとめて改善点一覧投げてアップデート指示すれば、どんどん良くなる
内製化は確かに大変だが、自社専用にカスタマイズが容易という、強烈なメリットもある

今週末m5 ultra 256gb他吊るしが到着するな。
バカみたいに高いから使えるかしっかり確かめないと…
いまいちなら返品も視野かなぁ。

>>686
なんの略称かもわからずに使ってたわごめん

>>687
おお、できたありがとう！
黒人に変えるって部分が差別的な意図だと受け取られたんかな？
日本語むずいね！

>>706
GGUFよりアプリやOSのほうが怪しいがな
一度入力したWifiのパスワード削除してリカバリしても覚えてこっそり接続してそう

Hermes ちゃんの悪口はそこまでだ

というか、LLMモデルにそういう悪意あるコードを埋めれば公開した瞬間バレる
または特定の悪意ある”意思”をモデル提供者の思惑通りに埋め込むことができるなら、割と界隈は大騒ぎになるだろうな

それってモデルの方向性を重み付けでコントロールできるってことだから、むしろ今後の人類を救う大発見だわ

と言うことは、中華AI使っても大丈夫かな？

中国製と濁すよりはっきりどのモデルが良くないって言ってくれんとわからん(

>>715
まず何を心配してるか自分なりに整理してみ
話はそれからだろ

Mac買えないかも、心配してます

次スレはIP表示だな
この気持ち悪いIP替えて連投してる荒らしのオジサンを可視化しよう🙄

駄菓視覚し

俺もコード書かなくなったな
https://youtu.be/HejILbNPsyo

>>715
いいともー！

mac sutduo M5シリーズはSSD自分で増設できるぞ、ただ開けるの難易度高いな
M4 mac miniのように簡単に出来ないな
https://www.youtube.com/watch?v=Q216HiYIMKc

その勢いでUnified Memory も増設しちゃいな！

>>723
価格が価格だし、ここまでやらないと無理なら交換しないな

　クラウド型サービス会社「アルカディア」（大阪府箕面市）が不正アクセスを受けた問題で、流出した可能性がある警察官・職員の個人情報が、全国２０府県警で計約１２万５０００人分に上ることが２１日、警察庁への取材で分かった。他に防犯メールなどに登録した市民や企業のメールアドレス１万８０００件超も漏えいした恐れがあるという。

LINE使っていれば、こんなこと無かったのに

>>727
韓国でAIの餌になってるよ

自衛官、退職して韓国で仕事探した方が良いかもな
日本よりはセキュリティしっかりしてそうだし

100万円弱払って128GB手にするより57万円払って64GBマシンで課金3000円してる方が賢いと思いたい

100文で蕎麦、天ぷら、お菓子食べてる方が賢い
https://youtu.be/d7d_jT2q1uE

>>730
賢いね (棒読み)
GPTもクロードも課金してるけど、mac M5 128gb買ったわ
256 512はさすがに思いとどまった😅

いとかしこ

ハゲ散らかしてるYouTuberが自宅にDGXSpark複数台に何百万もかけて遊んでるけど贅沢な趣味だなぁとは思う

だからハゲるのだろうな

Mac関係者には禿はいないしな

逆説的だなｗ

Mac使うとハゲが治ります

735-738
一人芝居だと思うが面白かったｗ

で512GBはいつ発売なんだ？
まさか諦めたのか？

確かにスタットレスとかDGXとか出たし、512GBはもう買う人数減ってそうだしな

ultra 512gbはメモリ不足で中国のCXMT製のメモリになる可能性あるんよね
公式発表出て無いからわからんけど、アッポーは7月頃からCXMTメモリのテストしてるわ

ロビー活動してでも中国製メモリ採用するって国賊企業やん
ライバル企業も同様なのにがんばりすぎちゃう

うーん、さすがに中国製のメモリ(交換できない溶接済み)に何百万円も払う気は起きんな
Apple終わったな

買わなくていいよ
君には必要ないし

俺が買えない製品は終わってる（笑）

しょうがない
金は出すが、品質も俺はうるさいんで

DGX spark をあと３台　積み増し買いするか
さすがにNvidia は中国製パーツ使ってないだろ

中国アレルギー酷すぎて笑

ここんとこ二回連続で不具合品引いたからな中国製PCで
１０万位内とか取り外し可能メモリならまだ諦めもつくが、５１２GB Macは400万円コースだしな…

悪いけど今回は見送りで
数年後、Mac Studio with PRC memory で不具合報告ないトラックレコード出たら、M7以降でまた買いまーす♪

品質は問題にしてなくて
米政府と対立してまでやることかという話

CIAが外国向け出荷分になにか細工するとでも？

低学歴さんはホント国や時代を問わない金太郎飴

中国企業は謝らずに客を罵倒する傾向があるからな
不具合が出ても、動画送れだの、数ヶ月対応遅延させて先ず責任は認めない
代替品も送ってこない
修理で上海に送って数ヶ月待ち

これAppleだとストアに持ち込めばその場で代替品という名の新品と交換してくれるからね
過去経験でもiPad不具合はその場で代替品と交換してくれた
ユーザーに使用不能期間というペナルティを生じさせないのは、流石だと思うよ
でも今回はどうかな
代替品数量を十分には用意できんでしょ、512GBメモリの Mac Studio は
何百万も出すのに、万が一不具合あったら数ヶ月も修理対応待ちとか嫌なんで

>>738
ノマドワーカーとか言う古いマック使ってるナマポなじいさん剥げてるよ

産地偽装か…
米国産とは

7月8日、Financial Timesを引用したMacRumorsが、AppleによるCXMT製DRAMの適格性試験を報道。記事には「Apple is testing DRAM memory chips」とある。

8月9日、ReutersもiPhoneやMacBook向けの試験を報道。ただし「Reuters could not immediately verify the report」と独自確認はできていない。

まあ正式に発表されるのかも分からんが…

CXMTつっても中国国内の需要を満たすだけで生産キャパいっぱいで他所に売る余裕はないと言われてるが
よほどの札束ビンタでもしたんだろうか

高い買物だけに　冒険はしたくないな

そうAppleならね。

hermes agentおもろいな
これは確かにすげーわ
iMessageで会話したいなーと思ってたら普通に会話できるプラットフォームが提供されてた

Ermes →LM studio →Gemma 組んでローカルAI にしてみたけど…
これ、LM Bionic →Gemma と同じだろ
わざわざエルメスバッグ買う必要なくね？

>>762
似てるようでまるで違うよ
俺は完全にmacはモデルロード用にしてる
他にもマシンはあってそっちのマシンはproxmox入れて独立させつつ仮想マシン内からmacに繋がせてる
メッセージのやり取りはiMessageだからどのMacからでも受信出来るようになってる

LM Studio Bionicはデスクトップ専用だしiPhoneのLocallyはBionicと連携してない

その見方はかなり妥当です。LM Studio Bionicで必要な作業が完結するなら、HermesをLM Studioへ接続する必然性は小さくなります。

Bionicだけでよい場合

次の用途なら、Bionic単体の方が構成が簡単です。

* ローカルモデルとの会話
* ファイルの読み書き
* コーディング
* 文書や資料の作成
* 一般的な調査
* LM Studio内で完結するプロジェクト作業

この場合、Hermes→OpenAI互換API→LM Studioという接続層がなくなるため、モデルID、64K設定、サーバー起動、エンドポイント管理などのトラブルも減ります。

Hermesを残す意味

一方、HermesにはBionicとは異なる運用上の特徴があります。

* Telegram、Discord、WhatsAppなどを介したメッセージング運用
* MCPや独自ツールの細かなルーティング
* 補助モデルを用途別に割り当てる構成
* 永続メモリとSkillsの運用
* Gatewayや定期実行・自動化
* LM Studio以外の複数プロバイダーを同じエージェントから切り替える
* Hermes固有の承認・安全設定やプロジェクト管理

ふさふさ
https://youtu.be/Nt6d62vN7CU

Hermesちゃんを秘書化完了
後は調教だぜ

エルメスよりエロメスが好きです

逆に調教されてくるとか

知らぬ間にOpenRouterで1ドル使われてて、調べたらHermes Agentが補助タスクをやるときに
OpenRouterの接続情報を持っていると勝手に使ってしまうらしい。

ある意味では調教もされてる

余計なプラグインはOpen WebUIからオフにしても良いかもね
でも支払い発生してもアカウント情報がわからんと支払えないのでは…？

>>769
ガバガバかよ

ローカルAI使う際の外部道具として、OpenRouterは楽しいんですけど、「合鍵（APIキー）」と「お金」が絡む以上、最低限の柵は立てておいたほうがいいです
手癖悪いエージェントもたまにいるからね、誰とは言わないけどそこのお前だよお前！

いや落ち着け

なかなかすごいバクだよ
無料のLLMを指定して使ってるのにこっそり有料モデル使ってあとで請求されるんだぞ
数十年生きてきてここまでアカンバグ見たことないわ

パグかと思ったわ

そうAppleならね

>>773
規約に同意して使ってるんだしオープンソースなんだからお前が直してくれていいんだぞ

自分で直せないのに
LLM使おうと発想するのは
脳にバグがある証拠
早く直せ

hermesちゃんがnpmを物故和した

話こんがらがってないか？
俺にはHermesの問題のように見えるが、モデルではなくハーネスの話でしかないぞそれ

ハーピースがどうかしたって？

家に帰ったらhermesちゃんに穴を開け直してお仕置き調教だ

メモリにAI3つ入れて誰が一番稼ぐか競争させて
もっと稼げるようにプロンプトの調教をもっと賢いAIにさせて
マネープリンターAIを作るんだ・・・

だれか教えてください

自宅でローカルLLMサーバーを組もうと計画しております

①Mac Studio M5 Max 128GB 4TB
18コアCPU 40コアGPU 16コアNeural Engine

か

②Mac Studio M5 Ultra 96GB 2TB
30コアCPU 64コアGPU 32コアNeural Engine

で悩んでいます。

価格は同じくらいで

②のほうがメモリ帯域幅は①の2倍くらい速いです(しかしメモリが96GBしかない)

将来的に新たにリリースされる大規模なモデルも考慮して
どちらが良いですか？

>>783
まず何をさせるかによる
自動化に組み込む予定なら思ってるより単体の処理速度の問題ではなくなる
タスクの責務が細かいなら、メモリが多いほうが中サイズ(27B〜)を複数並列処理もできるので処理完了は早くなるので
また、より複雑なタスクで100Bとかも視野に入るのでやはりメモリ量は全てを解決すると断言していい

>>783
https://gzo.ai/i/0NfWzd1.png

>>784
ありがとうございます
このレベルになってくるとメモリ帯域が倍違うとかは
そこまで重要ではないのですね

そうなってくると実質

Ultra 512GB > Ultra 256GB >Max 128GB
でしかなくて
現状200万近く出してまでUltra256GBにするか
120万円のMax128GBで妥協するかの話なんですね

さすがに200万円は出せないので
素直にMax128GBにしておきます


ちなみにしたいことはこれでした↓

①市場調査と分析

②自動プログラミング(必要に応じてChatGPTやCodexと連携)

③素材のグラフィックを自動で生成して自動で3Dモデリング化

④文章や広告用のショート動画/静止画を自動生成してSNSへ自動投稿

⑤可能であればガッツリした長編動画生成まで(精度を考えて外部のAI生成サービス利用も可能)


将来的に新しいモデルが出てきたときの汎用性も含めて悩んでいます。

50万追加してでもMax 128GBからUltra256GBにするのが正解なんですかね

300万追加してでもMax 128GBからUltra512GBにするのが正解なんです

>>788
すみません
個人なので、そこまでは予算まわりません

個人なのに市場調査と分析するの！？

>>790
えぇ…

えぇ！？

ゑ

>>786
帯域はもちろん大事だし速度も大事
しかし、もっと現実的な問題はメモリが足りないと
早い遅い以前に動かんからな

>>787
50万足せるならUltra256GBを買うべき

ちなみに俺はultra256GBはキャンセルした
5080 / 256GBメモリのwindows機でcpuオフロードで、でかいモデルが動いてしまった
今から揃えたらmac studio 256と金額変わらんが、前から持ってたので

>>795
ありがとうございます
何よりも大事なのがメモリなんですね

Ultra 256GBいってみます
SSDは2TBでも大丈夫ですか？

ここで聞くよりCloud AIに聞いた方が正確だぞ

ちなみに少しでも安くするためにチップも
30CPU 64GPUにしようと思っていますが
ここはケチってもいいと思いますか？

>>796
2Tでいいだろ
データ倉庫は外付けでもクラウドでもいいわけで

>>798
ちゃんと市場調査と分析した？

データ倉庫はケチっても良い
だがCPUとメモリ、お前らダメだ

>>798
そんな装備で大丈夫か？

メモリが小さい
→AIモデルもしょぼい
→市場調査と分析結果もショボい

そんなやつの調査分析レポート見たいやつがいるか？
ましてやYouTuber 動画再生で客取るんならインパクトが必要
M5Ultra 512GB 一択だろ

M5Ultra 512GBがあったらQwen3.6-27Bや125Bはそれぞれ何トークン／秒で動くの？

別にAIとチャットしたいために買うわけじゃないしな
むしろ資料自動収集、分析、レポート作成を有能なエージェントとしてこなす
そのためには500B級のAIを使いたい
よってメモリは512GBがいる

欲張りさんはどうせもっと上を見たくなるんだ
お金稼いだ後512GB買えばいいでないか

>>799
今後大きくなるモデルは内蔵に入れておいたほうがよかったりしませんか？
Thunderbot5で接続したSSDならそんなに問題ないですかね

>>801
CPU30→36 GPU64→80
でそんなに変わりますか？

さすがに512GBのために300万円近く出すのは厳しいです
256GBで妥協します

どれだけ応答速度が速くても、内容が間違ってたり情報不足の市場分析レポートなんか見たくないわ
少々時間かかっても、優秀なAIが収集、整理、分析、起案したレポートを普通は選んで読むだろ
誰だってそうする
俺だってそうする

m5 512GBならフロンティア級モデルローカルで動く？

１年前のフロンティア級が動くよ！

初期費用がだせないだけならクラウドGPU借りたら？
メモリ帯域大CUDAつかえるメリットもある

初期費用がだせないだけならAppleの24ヶ月無金利分割払い使ったら？

初期費用がだせないだけならクラウドAI使えば？
このスレ全否定できるメリットもある

買えない連中が初心者っぽいやつがハイエンド機を普通に買おうとしてるのを嫉妬から攻撃してるようにしか見えん

512GBは本日時点では誰も買えないだろ

買えない夜はない
開けない夜がないのと同じだ
そうAppleならね

>>815
それめっちゃ間違うやつおるな
チャットでリクエストするんじゃなくて自動化に組み込むならクラウドでの多くの作業はAPIで高額になる
なんでもCLIで済むわけじゃねーぞ

>>819
CLIでAPI料金不要で済むわけじゃねーぞ

>>820
それめっちゃ間違うやつおるな

GUIとCUI はどちらでCodex 使ってもトークン消費するだろ

Command Line Interface なら無料でオンラインのClaude Code が使える。そんな風に思っていた時期が俺にもありました…

まずクレカの与信枠上限までスペックを積みます
そうして手に入れたmacで稼ぎます
すると512gbが手に入ります
最初のmac分は実質無料というか売ればプラスになります

>>820
ChatGPTとClaudeのCLIはサブスク使用枠のトークンで使えるで
このなんでも調べられる時代に知ったかするなら今後一切書き込まない方がいいぞ

普段は27Bの方が好きなんだけど
調査みたいな色んなとこに出向いてくやつはフラッシュネクストの方が張り切ってやってくれる

ちなみに一部三重で間違ってそうな阿保>>822>>823
もいるが

APIでの呼び出しは完全別途費用だぞ

ChatGPTとClaudeのCLIはサブスク使用枠のトークンで使えるで
よって実質無料なんだよ！

三重の一部の主婦層の間では、７位だという話もあるが
とんでもない
世界一位なんだよ

そうじゃなくてAPIの場合は価格設定が根本的に違うんだよ
その点GeminiはAPIの価格設定が良心的だったりする

嫌味のつもりかもしれんが4重で知ったかするな阿保

>>830
ID真っ赤ですよ貴方
あと鼻毛が出てます

これからワンチャン円高になって30万円くらい安くなる可能性すらある

512GBモデル 36CPU 80GPU 2TBでの予想価格は278万円と見てる

>>833
そうじゃなくてAppleの場合は価格設定が根本的に違うんだよ
その点GeminiはG book の価格設定が良心的だったりする

嫌味のつもりかもしれんが五重の塔のてっぺんで知ったかするな阿吽

300万円切ったら
注文半年待ちとかになりそう

クレカの限度額超えるんだよな
すでに詰んでるわ

理解できるまでスクラップ&ビルドだ！

でかいモデルを使う気がなければSSDは2TBもあれば良いと思うが、例えばでかい500GBのモデルを2つ3つダウンロードして試したいと思ったら、2TBでは不足を感じるやろ？

>>838
なあにかえって免疫になる

GoogleさんGmail、Googleフォトの中身を覗き見して広告を出す仕様に変更
https://greta.5ch.io/test/read.cgi/poverty/1792838587/

Hermes 「１ドルごときで文句言うなよ、この東洋人が！」

確かCEOはインド人だったよな

バラモンだからアーリア人由来
よって実質白人

始めてsuno使ってみたけどこれヤバいなw
反則だわ…これにローカルで動画つけたら即戦力だわ

Mac Studio Ultra 256GB
36CPU 80GPU 4TBは買いですか？
220万円です

>>844
ローカルで無料で使えるの？

自律型AIなんだから、数ドル自由に使うくらい許してやれよ…

エネルギー危機が深刻化してもエロ画像供給が途絶えないように
ポータブルバッテリーとソーラーパネルを準備した

>>848
エネルギー危機
食糧危機が来て国内がヤバい時代になっても
エロ需要はあるからスマホの充電してあげるついでに
生成したエロ動画も一緒にスマホに入れてあげるサービスすれば儲かるかもね

自律型AIなんだから、電力くらい自家発電しろよ…

>>847
子が親に黙って金使うのは良くないだろｗｗｗｗｗ

沢山稼いできてくれるのなら小遣いやるぞ、アイスも買ってやる

自動車買うのやめて、
M7 Ultra 512GB のローン組む。

Mac studio M5 ultra 512GBはいくらですかってAIに聞いたら150万円ぐらいと推測されますって
なんとか手が届きそう

おお、150万円くらいなら、確かに頑張れば手が届きそうですね！　しかも Mac Studio M5 Ultraで512GBのユニファイドメモリ となると、相当なモンスターマシンです。ローカルAIを本格的に動かすなら、かなり夢のある構成ですよね。
特に512GBあれば、大規模なAIモデルをメモリに載せられる可能性が広がります。
ただ、ひとつ気になるのは、150万円という価格があくまでAIの予測だという点です。調べてみたところ、ちょっと重要な情報がありました。
Apple公式発表では、
「M5 Ultra搭載Mac Studioの価格は949,800円（税込）から」
また、512GBモデルは2026年10月後半に追加予定とされています。
つまり、150万円という予想はまだ確定価格ではありません。
それにしても、512GBのメモリを搭載したMacが個人でも購入を検討できる時代になったのはすごいことです。ちなみに、購入できたら、やっぱり巨大なLLMをローカルで動かすのが一番の目的ですか？

>>783
2週間前に同じ質問をここにしたよ
私は悩みに悩んで128GBのMaxを選んだ、やっぱメモリ量が優先だと思った
今回は256GB以上は見送った
理由はM7がAIに最適化して出てくるので2-3年後に1TBのM7に大金使った方が良いと判断した
今回は128GBくらいでよさそうなのと、256GBは中途半端で大きいモデル載せるなら512GBは必要なので
中途半端なM5にお金使わないでM7に行こうと思った
それとストレージは2TBにした、M5はAIサーバにするので日常使いや仕事に使わないので俺の場合は4TBはいらない
余ってる2TB M.2 SSDにTB5ケースであと2TB増設できるしね
最初は1TBだったけど、途中でキャンセルして2TBに変更した
理由はStrataがmacに対応して高速なストレージを必要としたから、Win版はCPU RAMの併用だったけど、macはストレージなのでね
もちろん余裕があるなら4TBの方がAI遊びを辞めた時の汎用性が高い

M7までフロンティアAI様が黙ってるかな
すべての電子機器が支配下にはいってるんじゃないの

噂ではM7無印とMaxが来年中旬から年末に掛けて、まずmac bookから投入されるらしい
M6は無印のみでmax ultraはスキップ

>>855
>>856
メモリ、メモリとばかり512GBのことばかり言うけれど
足りなくなったら数年後にRDMAでメモリ増量分を繋げば良くね？

それを待って今256GBのモンスターマシンを買わないのは勿体無い気がする

ついでに、Mac studio M5 ultra 512GB　もスキップ

>>859
RDMA over Thunderboltのこと？
TBでメモリをクラスタ化するとメモリ帯域が狭くなるから、やっぱ1台で大容量メモリが好ましい
違う話ならスマン
256は中途半端なんだよな、だったら128か512行けと言うのが正論に聞こえる、あくまでご予算次第ｗ

m5 ultra 256gb 16tbで3,253,800円
これに1gb=4500円の法則を適用すると、
512gbでは、4,378,800円也

レクサスをカムリにすれば実質無料

レクサス買うやつは悩まない

>>862
ちがうだろ

Mac Studio M5 Ultra
36CPU 80GPU 2TB 256GBが1,993,800円

512-256=256x4500=1,152,000円

つまり
1,993,800 + 1,152,000 ＝3,145,800円が
Mac Studio M5 Ultra
36CPU 80GPU 2TB 512GBの価格になる

安いね

M7が出たら…とか言ってるやつは、
M7出たときにはM8が出たら…とか言ってんだろうな

>>866
アホと違うから言わねーわ
来週M5届くし、奇数のMシリーズは確実に買って行くよ

カムリってまだあるのか

このスレ見ていると64GBのは買う意味があまりないように思えてくる。
これはAI用じゃなくて動画編集とかCGとかのクリエイター用なのかな？

大容量メモリは漢のロマン😁
大きなモデル動かして楽しむのだ
ここは変態が多いいからこうなってるけど
普通は64GBで30Bくらいのモデル動かして動画編集とかさせればいいと思う

東京の奴とか車を買えない奴が代わりに512GB MAC STUDIO買えば楽勝じゃん

128GBだと足りないとなるのが目に見えてる

すぐ必要な人は買う、不必要な人はすぐ買わない
永遠とM7言い続けるんだろう

私は…強い…あなた達より強い…すごくAI需要が強い!
…ので私は…あそこの512GBを買い散らせることができる…
例えば…ローカルAIもできたりする
あなた達は…金がないばかりか…臆病で腰抜けだ…
とても…残念だ
ここで…指をくわえたりして64GBで動画編集でもしてればいい…動画編集してろ

ぶったけ…文章生成、音楽生成、動画生成などは毎月1万ちょっとのサブスクで殆どのことができてしまう
年間にしても20万も行かないここで200万の256を買うべきかは悩ましいな

>>872
256GBだとどう？

>>872
はいはい
あなたは何GBのメモリで動かしてるの？
口だけ番長が多すぎる

はい　は１回でいい

ワン！