【ローカルAI】MacでローカルLLM

>>72
直接的な答えになってないがプログラム手動で自律的に動かすことを前提にするならストレージは必須やろ

ローカルLLM用途で素人が色々いじったけど、知識も古いし、推論も期待外れだった。一方でエージェント機能に切り替えてMCPサーバ立ち上げて連携させたら検索も推論もギリギリ使えそうなものになってきた。PCの制御をするつもりなくてもエージェントに組み込んだ方がいいと思う。立ち上げのハードルが大分上がるけどね。

とっても、ええジェント

>>77
それ、どんな感じの構成になるの？

>>79
77がどうやってるかは知らんけど、自分はディスコード連携のエルメスエージェントを使ってた。直近は少し変えてるが。
例えば、githubの操作がほとんどわからなくても、ここまでを非公開でコミットしてって指示すれば自動でコミットしてくれる。要は自分が課長か部長になった感じで、超優秀な部下に指示をする感じ。おバカなところもあるが。
エルメスエージェントの設定方法なんて知らんでも、AIに聞いて設定すれば良い。問題は、セキュリティをどう考えるか?

いつごろまで中国AIがローカル動作するのかが気になる
地政学的理由で動作が極端に遅くなるとか起動直後エラーで落ちる状態にセキュリティ更新でなる可能性はどれほどなのか

ローカルモデルが外的要因で動作変化するとかありうるの？
なんかそういうリスクを排除するためにもローカルで使ってるんだけど

中国共産党「いつからローカルだと思ってた？」

ほとんどあり得ないとは思うし
経験的な検証は可能

でもモデル内部を解体分析した上で起きないと言い切れるかどうかまで言い出すと難しい問題
そもそも全てのモデル内部の挙動自体が未解明なので

アプリのテストするのに、隣のPCのコントロールをエージェントに任せて自動でテスト結果を得るようにしている。
しかし、どうやって隣のPCをコントロールしているのか自分は詳細は理解していない。
なんてことをやっていると、セキュリティってどうなんか？と思うよ。
自分の通常使っているMACはエージェントからのコントロール対象にはしていないが、ハッキングされたら、イチコロのような気がしてる。

>>85
なんでやねんw理解はしとけよ
SSHやろ多分それ
ま、言いたいことは大凡ただしい

セキュリティは依然としていたちごっこだがAIによってゼロスタートになった感じはある