【ローカルAI】MacでローカルLLM

>>960
してないが？
チャット相手じゃないし

オンラインから得たリソースを文字列として与えて分析と整理はやらせてるけど

利用をやめたと 申告する 人は増えるのかもしれんが実際は減らない気がする

一部アプリやメディアはやたらオンライン機能をローカルLLMユーザーに利用させたいように見えるが
警戒して触らない人が多いものだと思ってた

オープンウェイトを信頼できないならクローズドのアプリやOSなどもっと信頼できないしいつの間にか規制アップデートがDLされて一斉更新のタイミングを待っていそう
2重3重いろんな意味でオフラインの重要性が

ここみてると何が危ないかわからないやつが
Qwenが危険だとそこだけ避けて他のモデルにでかい権限渡していつか事故りそうな気はする

なんでもそれなりには理解しろという話なのに

まあ富裕層は、ストラッタとかいう貧者向け中国AI専用ツール使う必然性はないからな
欧米製AIを、Mac Studio や DGXSpark とかのマシンパワーでぶん回せば済む話
まあ金ならあるし

ストラッタで中共に情報渡してAI使わせてもらってる層は、「ローカルよりクラウドAIの方がコスパいい。コスパ〜」とか言ってる中間層と本質的には似たり寄ったり
個人情報や社内機密情報をクラウドAIに貢ぐ見返りにAI使わせてもらってるだけの貧者に変わりはない

ユーザは大きく３つに分かれつつある

欧米の AI って半分のサイズの中国 AI に 性能で劣るのでは
クラウドじゃなかったら 出番ないです

原神と同じで誤解では

元記事とは関係なく、”敵国政府”の意向を受けてトロイの木馬が
モデルに組み込まれているように読んでしまったんでしょ。
謎技術でエンジンをも操作し始めるモデルの与太話が、
ファクトの縛りを超えてバイアスを撒き散らす自己言及になっていて面白い。
でも理解度でいうとこれでもマシな方だと思うよ。

>>962
それ、オフラインでやる意味あるの？

>>971
オフラインでもオンラインでも結果に違いはないぞ
オンラインからリソースを得た手段と
リソースをLLMに渡す手段とは切り離されてる仕組みだから

そもそも論で言えば ユーザーが認識や把握していない通信を怪しいとか言い始めたらWindowsやMac自体が使えない
アプリも初回起動時に何か追加でダウンロードしないと実質的に機能しないようなのはFOSSだろうが疑わしい
何も追加しなくても動く状態にできるはずだろう
それらは問題視しない時点で公平性にかける

つーか殆どの人プラバシーがぁーでローカルLLMなんでしょ
エージェントまでいかないけどプロンプトをネット投られるのは許容するの？
具体的にどういうアプリでチャットしてるの？

>>944
こういう検証まであるのが世界中で使われてることを逆に証明してる
欧米製のローカルAIは発行元が安全だと連呼するばかりで、実ユーザー数は少ないのか実験的な記事がない

strata でflash next使うやつ増えたのにね

俺は士師業だが、機密保持の関係からローカルLLMじゃないとマズいんだよな。
AI業者とDPA結んでてもクライアントが嫌がる。
本当はクラウドLLMをぶん回したいんだがな。

まあ普通に米国で弁護士が漏洩やらかして資格剥奪されてるからな…

まさか俺が頼んでる税理士さん、　俺の領収書の束をクラウドAIに投げ込んだりしてないよな…
明日きいてみよ

【ローカルAI】MacでローカルLLM Part2
https://egg.5ch.io/test/read.cgi/mac/1793097164/l50

次スレですよ😊