Mac Studio Part17

>>685
ありがとう
それを使うことでそんなにメリットある？
下位モデルとの性能差あまりなさそうだけど

パラメータ数が段違いなんだからメリットあるに決まってるだろwww

>>687
ぜんぜん違うよ
400BクラスのQ8と書き間違いした

GLM 5.3 Flashとか俺の体感ではGemini 4 Argon並みに日本語が上手いし、gemma4より強い（エロは知らん）

思考は日本語推論なので中身が分かりやすい
論文とかの知識も他のモデルよりはツヨツヨで、結構具体的に改善点とかを出してくる

GPT Pro Claude Max使ってる俺のイメージ（あくまで軽い参考に）

Qwen 3.8 Flashは日本語下手くそなGPT5.5 thinkingみたいなイメージ

GLM 5.3 Flashは日本語が上手いFable5.0みたいなイメージ

Qwen4やGLM 5.5モデルもそろそろ出るから状況が少し変わるけどな

動いたところでMacでは遅すぎて、用途はかなり限られると思う
実際Macで実運用して人とか見たことない

調べもしないでよくいうな
まあどうでもいいけど

>>689
ありがとう
参考になりすぎます

普段はOpus5.5やChatGPT Astraを使ってるから
それらの推論や各種能力と比べると一世代から二世代くらい前のモデルを使ってるように感じますか？

それと今後を想定すると512GBモデルを買っておくことで潰しが効いてきたりしますか？

新しいMuse Spark Openは絶妙に入れられないくらいのサイズと聞きました
こんなかんじで一気に768〜1TBのメモリが求められるようになってくるのでは？と危惧しております

>>690
これからはMacでローカルLLMだろという雰囲気だったけどStrataで潮目が変わってしまったね
コーディングとかで実用化しているという話は概ねStrataか派生のProject MayaでMacの利点がない

Mac StudioはAI用途のコスパ強いだけで最適解じゃないもんな

>>692
689ではなく横からだが

Claude ChatGPTをどう使ってるかによるだろそれ
チャット相手にしてて、同じ使い勝手を要求するなら
ローカルLLMは永遠に比較対象として下位だぞ

大工とノコギリを比べるようなもんだよ

でもWindows機はゲーム機として残したいし

>>692
コーディングはQwen3.8 Flash NextでGPT Lunaよりは明らかに上な感じがする

>>695
ファイルの受け渡しのないチャットならOpenwebuiみたいな単純のフロントエンド+Qwen3.8 FNでも十分使える
ウェブ検索は標準であるので
ファイルの受け渡しがあるときはコーディングじゃなくてもDeepseek Harnessとかエージェントを使ったほうがいい

テキストファイルじゃなくWordやExcelファイルのチェック、編集は素直にCopilotを使えばいいと思うが
普通マイクロソフトの何らかのライセンスは持ってるでしょ？

>>697
呼び出し方法の話だよ
いずれにせよChatGPT Claude との比較とするなら、短期中期長期記憶域を個別制御する必要があるからファイルの受け渡しが前提になる時点で使い勝手としては劣る

>>698
ファイルの受け渡しをしないとコーディングできないじゃん

>>699
そうだぞ
だからいずれにせよChatGPT Claudeと比較するなら
君自身が697で書いた「ファイルの受け渡しのないチャットなら」という前提は崩れる

念のため意図を明確にするために追記しとくが

ファイル受け渡しを前提とするなら、ハーネスを含めた呼び出し方法というかシステムと使い方の話に至るので
モデルそのものの良し悪しの話ではなくなる

ハーネスの自作加工をやればやるほどChatGPT Claudeのハーネス層がいかに優れているかを痛感するわけだよ

>>693
本当にそれを感じます
予算450万だとしたら

RTX5090(32GB) メモリ128GB Ryzen 2TB SSDと
Mac Studio Ultra M5 メモリ256GB SSD 4TB
の二台体制のほうが今後も考えると色々と潰しが効きますかね

Strataがある今、
Mac Studio Ultra M5 512GB 一台体制のメリットが見出せるのか知りたいです

>>695
どのくらいの差があるのか気になっています
>>697さんが言うように
512GBで動かすQwen3.8 Flash NextがChat GPT Lunaレベルだと
まともにコーディングとかにも使えず
Macなので動画生成も満足にできずで
どっちつかずの価格に見合わない買い物になりそうな気もします

>>700
>>701
ファイルを渡して内容を見てもらうならハーネスをチャットに使えばいいんだよ
Deepseek HarnessやPi-webはファイルをgrepやPythonで適切に前処理してモデルに渡してくれる

おっしゃる通りChatGPTのチャットは単なるフロントエンドではなくハーネスとしてファイルの前処理をしてくれていてOpenwebuiなどとは大きな差があった
StrataだけでなくDeepseek Harnessがゲームチェンジャーになってる

>>703
Lunaでもコーディング出来るけど、Qwen3.8 FNはそれより上の感じ
いくらでも使えるしDeepseek Harnessとセットなら修正しながらきちんと作っていってくれる
結果オーライで条件分岐に同じ式があるやん、とかはあるけど、一度だけクラウドでチェックしたら直せるかと

>>704
ありがとうございます

予算450万だとしたら

RTX5090(32GB) メモリ128GB Ryzen 2TB SSDと
Mac Studio Ultra M5 メモリ256GB SSD 4TB
の二台体制のほうが今後も考えると色々と潰しが効きますか？

Strataがある今、
Mac Studio Ultra M5 512GB 一台体制のメリットが見出せるのか知りたいです

>>705
512GBあるとGLM-5.3-Flash 320BとかDeepseek−V4.1-Flash 552Bあたりが素で動くのでは
現状は125BのQwen-3.8-Flash-Nextが費用対効果がいい気がするが次のバージョンもこの大きさかは分からない
ローカルAIに関しては日進月歩で状況が変わるから512GBが絶対に要らない、意味がないとも言い切りにくい

AIのことはAIに聞くのが一番早い

今後のことなんて誰もわからんし、strataで何が不満で、何を改善したいのか洗い出すところからじゃね

>>706
Mac Studio 512GB → 四世代ほど前のフロンティアモデルクラスの性能のLLMがうごく

RTX5080→ Strata使うことで四世代ほど前のフロンティアモデルクラスの性能のLLMが限定的な範囲で動く ＆ 動画生成早いです

こういう現状でもMac Studio Ulttra 512GBにしか出来ない！っていう性能さがないと512GBを持つ意味があまりなさそうですが具体的に512GBにしか出来ないような
ローカルLLMでの指示や処理ってなにかありますか？

Strataの癖を我慢しなくていい。
性能云々も大事だけど、動くと動かないじゃ元も子もないってな

5070ti持っててメモリたりないんだけど、m5 ultraの256gb買えばメモリは足りますか？