Mac Studio Part17

>>706
Mac Studio 512GB → 四世代ほど前のフロンティアモデルクラスの性能のLLMがうごく

RTX5080→ Strata使うことで四世代ほど前のフロンティアモデルクラスの性能のLLMが限定的な範囲で動く ＆ 動画生成早いです

こういう現状でもMac Studio Ulttra 512GBにしか出来ない！っていう性能さがないと512GBを持つ意味があまりなさそうですが具体的に512GBにしか出来ないような
ローカルLLMでの指示や処理ってなにかありますか？

Strataの癖を我慢しなくていい。
性能云々も大事だけど、動くと動かないじゃ元も子もないってな

5070ti持っててメモリたりないんだけど、m5 ultraの256gb買えばメモリは足りますか？

StrataはRAM少ない人にはよく最近は神聖視されてる感じがあるが意外に微妙なところも多いしな

Mac M5 ultraはメイン1台で使ってるところは個人が多いとは思う
まあ、M5 ultra買えるなら、RTXで5090クラス持ってるパターンが多い気がするが

研究用に追加してるところがあるし

用途によっては、RTX 6000 Pro Max Q2積みかM5 ultra 256GB 2台でもいいしな

>>710
具体的に言うとどういうことですか？

皆さんに教えていただきたいです。

予算450万円だと
次のうちどちらが賢い選択肢だと思いますか

①Mac Studio Ultra M5 512GB 8TB SSD
の一台体制。動画生成もWAN2.2などでゴリゴリ動かしていく(RTXに比べると時間はかかるけれど…)

②Mac Studio Ultra M5 256GB 4TB SSD +
RTX 5090(32GB) メモリ128GB 2TB SSD
の二台体制でメディア制作と指示系統LLMでの役割分担

随分具体的だと思うけど、
どう気になった？

>>714の問いをみる限り、
あまりLLMには理解が乏しいと見ているけど
あなたはとりあえず何がしたい？

やる課題を書いてくれ

>>710
指摘したら直るが時々簡体字やハングルが混じる癖がある

>>714
現状は②のRTX 5090(32GB) メモリ128GB 2TB SSDだけで様子を見たほうがいいかも
開発やクライアントにMacが要るなら32GB-64GB程度のMac miniでいいかな

>>716
ありがとうございます
はい、まさにローカルLLM初心者です

優先順位でいくと下記のような用途を希望しています

①将来的に続々と出てくるモデルも動かせる

②自律したコーディングと検証(3Dポリゴンデータまで組み込める)

③大量のデータを与えたら、そのデータの中から傾向を分析して仮説を立ててくれる

④自動的に最新のデータをネットから収集

⑤静止画やショート動画を自動生成(脚本もAIで自動生成してそれに沿って)

⑥SNS自動運用

俺もRTX5090だけで良いと思う
その理解で買うには高すぎる買い物だと思うから
動画生成する時点で①はない。RTX5090機でstrata試した上で、LLM専用機が必要と感じたら考えたらいい

>>717
ありがとうございます
指示系統としてのLLMはMacのほうが安定している認識ですが無くても大丈夫ですか？

求めすぎや
もう少しやりたいこと絞らんと
絞れないなら②の方が案牌

>>719
それがなんと既に200万円以上のアップルギフトカードを購入してまして…

>>721
②のほうで一晩回しっぱなしの自律プログラミングとか出来ますか？

ちなみにOpus5.5でプログラミングしているのですが
かなりお任せで回しっぱなしで求めているもの以上のものが作れます

ローカルLLMにそこまでは難しいと思いますが
似たようなレベルのことは可能でしょうか？