Mac Studio Part17

5070ti持っててメモリたりないんだけど、m5 ultraの256gb買えばメモリは足りますか？

StrataはRAM少ない人にはよく最近は神聖視されてる感じがあるが意外に微妙なところも多いしな

Mac M5 ultraはメイン1台で使ってるところは個人が多いとは思う
まあ、M5 ultra買えるなら、RTXで5090クラス持ってるパターンが多い気がするが

研究用に追加してるところがあるし

用途によっては、RTX 6000 Pro Max Q2積みかM5 ultra 256GB 2台でもいいしな

>>710
具体的に言うとどういうことですか？

皆さんに教えていただきたいです。

予算450万円だと
次のうちどちらが賢い選択肢だと思いますか

①Mac Studio Ultra M5 512GB 8TB SSD
の一台体制。動画生成もWAN2.2などでゴリゴリ動かしていく(RTXに比べると時間はかかるけれど…)

②Mac Studio Ultra M5 256GB 4TB SSD +
RTX 5090(32GB) メモリ128GB 2TB SSD
の二台体制でメディア制作と指示系統LLMでの役割分担

随分具体的だと思うけど、
どう気になった？

>>714の問いをみる限り、
あまりLLMには理解が乏しいと見ているけど
あなたはとりあえず何がしたい？

やる課題を書いてくれ

>>710
指摘したら直るが時々簡体字やハングルが混じる癖がある

>>714
現状は②のRTX 5090(32GB) メモリ128GB 2TB SSDだけで様子を見たほうがいいかも
開発やクライアントにMacが要るなら32GB-64GB程度のMac miniでいいかな

>>716
ありがとうございます
はい、まさにローカルLLM初心者です

優先順位でいくと下記のような用途を希望しています

①将来的に続々と出てくるモデルも動かせる

②自律したコーディングと検証(3Dポリゴンデータまで組み込める)

③大量のデータを与えたら、そのデータの中から傾向を分析して仮説を立ててくれる

④自動的に最新のデータをネットから収集

⑤静止画やショート動画を自動生成(脚本もAIで自動生成してそれに沿って)

⑥SNS自動運用

俺もRTX5090だけで良いと思う
その理解で買うには高すぎる買い物だと思うから
動画生成する時点で①はない。RTX5090機でstrata試した上で、LLM専用機が必要と感じたら考えたらいい

>>717
ありがとうございます
指示系統としてのLLMはMacのほうが安定している認識ですが無くても大丈夫ですか？

求めすぎや
もう少しやりたいこと絞らんと
絞れないなら②の方が案牌

>>719
それがなんと既に200万円以上のアップルギフトカードを購入してまして…

>>721
②のほうで一晩回しっぱなしの自律プログラミングとか出来ますか？

ちなみにOpus5.5でプログラミングしているのですが
かなりお任せで回しっぱなしで求めているもの以上のものが作れます

ローカルLLMにそこまでは難しいと思いますが
似たようなレベルのことは可能でしょうか？

絞れ…
いやマジで求める目的が畑違いの欲張りセットなんよ

>>720
LLM専用になるのでLinuxのStrataがいいよ
大きいファイル、大量のファイルの処理は常識的な値段のMac側でDeepseek Harnessを立ち上げたら十分
Mac単独でLM Studioとかを使ってもRAG化が糞すぎてファイルの扱いに難がある

>>723
>>724
Deepseek Harnessがアクセスの許可を求めるので時々ボタンを押さないといけないが基本的には放置で大丈夫
Strata+Deepseek HarnessはCodexレベルのことは十分できる

迷ったら一番高いのを買え

もうプログラム類はどこかのクラウドAIにでも課金して
映像系はNvidia全ツッパで良いよ。
多分、一度でもローカルLLMに取り組めば求めている内容がどれだけ花畑か知れると思うよ。

ローカルでやりたい内容がデータセンターなんよ
SNS運用はノーパソで十分なレベルだが…

>>725
そうなんですねw
全てやりたいのでなかなか絞りづらいですね
仮に512GB Mac Studioではなく
②Mac Studio Ultra M5 256GB 4TB SSD +
RTX 5090(32GB) メモリ128GB 2TB SSD
の二台体制
を選ぶと何を諦める必要が出てきますか？

特に重要なのは、次の3つの区別です。
1, 中国政府がDeepSeekに法的な協力を要求できるか
2, DeepSeekが実際に中国政府へユーザーデータを提供しているという証拠があるか
3, DeepSeek Harnessを使うことで、中国政府がユーザーのPCや社内ネットワークにアクセスできるか

>>728 >>729
Strata+Deepseek Harnessでだいたい思ってることが出来るよ
Macは持ってるんだろうしRTXの16GB以上のPCを買えばいい
とりあえずやってみたら時代の最先端を行ってる感が気持ちいいよ

>>726
ありがとうございます
本来Mac Studioの512GBを買う層の方々ってどんな方達で何目的なんでしょうか？

>>726
ローカルLLMでもCodexやClaude codeレベルの精度のことが出来るのですか？？

>>728
ありがとうございます
要はローカルLLMに現在のOpus5.5のようなものと比較すると幻滅するだろう出来ることも
かなり限定的だろうということですね
512GB買う人たちはどんなことをするのでしょうね

>>731
そうなってくると512GBでしか出来ない今後も想定した出来ることって何があるのでしょうか
そこを是非知りたいです！

>>732 >>735
NvidiaのRTXで動かないような非常に大きいモデルを動かしたい用途が考えられるけど現状は割に合わない気がする
将来のことは分からない

>>733
漢字が時々怪しいけどそれ以外はGPT Lunaより賢い感じ

メモリとその帯域が多い事で得られる利点は処理時間と綻びを減らせる点なの。

ハルシネーションってよく言われているけど、
これはただ単に誤認ってだけではなく、投下したライブラリの区別を正確にできて処理に当てはめられるってこと

だから文学数学にはstudio、映像や画像にはnvidia

特に射と環をしたいならStudioおすすめ。
と言うか今私がやってる

>>736
ありがとうございます
わかりやすいです！

>>737
自律コーディングと画像認識だとどちらに軍牌が上がりますか？

>>738
射と環ってなんですか？

おとをは同じOの発音だから書く文字はおをどっちでも良いよね。
↑こんな事はしないけど、こんな事に近い事をするのが量子化LLM。

これをさせたくないならメモリ増し。
逐一介入するし、気に入らない所は人力修正ならGPU増し。

だから使いたい汎用LLMが何であるか、目的が何なのか、
何ができるできないではなく、何がしたいか。が大事なんだけど理解できる…？

>>740
君中学生？

在人工智能（AI）的讨论中，「射」和「環」（环）可能涉及数学、逻辑学、计算机科学，以及 AI 系统的运作方式。

何でもかんでも聞かずに少しは自分で調べろよw
Claude codeも使ってるんだろうに

>>741
なんで中学生ってわかったんですか？？

射と環って英語だとなんのことですか？

(˙꒳˙)現場からは以上です。
尚、私はこれ以上噛み砕いて分かりやすい説明ができるか不安なので退出します

>>745
MorphismとRingじゃないの？
私は文学者でも数学者でもないので量子化によるエラーは許容できる
とりあえずコーディングにStrataを使っているが本業の構造生物学でも構造データの扱いが出来るレベルになった

>>746
ありがとうございました！

>>747
ありがとうございます
何が何だか
ちんぷんかんぷんです

あと3年かそこらで3Cやって入卒するんだから正直心配なんだけど、
うちらも通ってきた道なんだよね…

>>750
3Cってなんですか

M7搭載機は今の情勢だと3割安で買えることになりそうだ
ありがとうトランプ
金を貯めて待つよ

>>752
2年後まで待つんですか

M7搭載機がなんと3割安の700万円で買える！

>>752みたいなこと言ってるやつは
M7が出たあとも同じようなことを延々と言ってると思う

仕事や研究や遊びで早急に必要で行動力ある人は、自分の出せる額の環境を整えてるよ

ほら使い方次第って話になるじゃん

使い道は使い方を決め、使い方がモデル周辺のシステムを決め、結局ハーネス次第になる

データ分析なんて大なり小なりRAGか多段構成次第だからな
全生データ食わせるなんてトークン以前にattentionが分散して話にならんわな

ハーネスくらい、RAEで作ってもらえるからな

いや、何故にデータ分析と決め付けてるのか全く持って理解出来ない

決めつけてないがな
そこが明確にならん限り誰も何も答え用がないって話だよ

>>718の特に重そうな2 3 4は全部データ分析の類で
データの渡し方の話