Mac Studio Part17

>>637
それなんだよね
CodexとかClaude Codeが優秀すぎてLocal LLMじゃなきゃできないことが自分のワークフローの中にまだない

厳密に言えば論文発表前の研究データとかはCloudに送らない方が良いだろうけどこれは実害というよりモラルやリテラシーの問題という感じ
そんな大それた研究してないしね

Web AIの料金は採算ラインまで上がるでしょ
大口顧客じゃなきゃディスカウントもないだろうね

それで価格/性能比がLocal LLMを上回るくらいになるかねぇ…
今のところLocalって性能を求める場じゃないからなぁ

性能や価格比でローカルは選ばないだろ
秘密保持が厳守の役所、銀行、証券、監査法人、法律事務所、病院、上場企業あたりが、金に物を言わせて、徹底秘密情報処置するための用途
守秘義務遵守という法令上の要請、ノウハウやビジネスネタを社内に留めて競争優位を保つというビジネス上の死活問題。
コスパ性能とか気にしてるような連中じゃない。そもそも金かければ、性能はMacより上位の設備を組めるわけだし。

DRAM高ければSRAM使えばいいじゃない
という唐沢なをきのネタを思いだした

でもさローカルLLMとはいえインターネット自体にはほとんどのケースにおいて繋がってるわけだから
ハッキングされるリスクある時点で秘密保持とかセキュリティは完璧じゃないんだよね

>>642
思ったより中身は見られてるので盗用されるのを危惧するなら、アップしない方がいいのは確かだね。
内容によってはそもそも事前申請とかお伺いしといた方がいい種類もあるし

別に盗用問題ないと考えてるなら、クラウドでいいね

>>647
Wifiモジュールが搭載されてる時点で、LANのみで繋げていても、電源がONになっていて電波が届いていれば最悪wifi経由でアクセスされる可能性はあるけど、wifiが届かない場所でやれば鉄壁ではあるしアクセスの難易度は上がるね

究極に情報流出させたくないなら、wifiが届かない場所で電子機器持ち込み禁止で管理するしかないね

>>647
本気で情報リークさせられないものは隔離されたLANのみに繋いでるね、電カルみたいに
生データとその処理はローカルでやる

でも結局その成果は論文化するときにCloud LLM使っちゃうw
全部ローカルでやるには性能が足りないかなと
個人使用の範囲ならCloud LLMのローカルアプリが革命的に使いやすい

でもさクラウドLLMとはいえデータは全部クラウドAI業者のPC内に格納されるわけだから
ポリシー違反で永続保管されたりAI訓練に使われたり、ハッキング漏洩されるリスクある時点で利用規約とか秘密保持とかセキュリティは完璧じゃないんだよね

m5 ultra買うくらいならクラウドai使えってこと？好きなモデルを反映できるの？

自分の財布や用途に合わせて
好きなの買って好きなモデルを使えばいい
リスクをどう取ってどの製品を選ぶかは君次第だ
細かいところも自分で判断しなさ

512GBは現状deepseek v4.1 flash 1017を量子化劣化なしで動かせる以外のメリットがあんまりない
そして動かせるけど帯域的にそんなに速度も出ない

個人だろうが企業だろうがネット繋いでたら安全なんてどこにもないよ本当に安全を求めるなら一切ネットに繋がないしかない

>>642
コーディングするときにローカルLLMなら何の躊躇もなく一日中使えるのは楽だよ
Deepseek HarnessやPi-webでハーネスが劇的に良くなったので大規模なデータの処理も出来るようになった
アイディア次第で色々できるかな

ただStrataのせいでMacを選ぶ理由が薄くなったかもしれない
科研費にMac Studioを計上したけどどうせ当たらないし12-16GBのNvidiaGPUをなけなしの金で買うことになりそう

ローカルAIでハッキング漏洩に遭う確率が 0.1%/年
クラウドAIで学習に使われたりクラウド側で保存されてる確率は８割。

まともな頭があれば、前者の方が社外漏洩リスク小さいとわかる。

M5だから動画エンコードとか、従来のクリエイター向けにはウホッてなる筐体てことよね！それならMacBook Proでノート型PCの方がよりクリエィティブだよってお話。ultraはstudioだけだけど使う人によっては良い筐体だよ。

ゴミパーツは過剰すきたが高額な値段に見合わないって意味

流れ関係ないけど、今日Mac Studioセットアップしてたらwifiとblutoothがつながったり切れたりを繰り返して初期不良判定で返品交換になった、、、
Mac使って初めての現象でちょっと萎えた、、

基板や通信モジュールが中国製なのかも知れんぞ。
メモリも中国製疑惑がある。

>>657
>GDDR6
メモリの規格が高いほうがいいんだろうけど、
転送帯域幅という考え方だと飛び抜けて速いわけで

飛び抜けて早くはない
GeForce 5090の転送帯域は約1750GB
GDDR7が使われてる