5ちゃんねる⇒PC等⇒新・mac@5ch掲示板
設定
ダークモード
広告表示
画像・外部リンク

UPLIFT会員は外部リンクへ直接移動します。確認は初期設定でオンです。

機能のオン・オフ

このブラウザ・このサーバーのみ。オフにしても保存済みデータは残ります。

UPLIFT

230コメント60KB

【ローカルAI】MacでローカルLLM Part2

垢版
返信 [2]
M5 Max 128GbにNVIDIAのNemotron3.5 Super VL 120B入れてみたけど凄く良いこれ

プロンプトで縛らなくても挙動が素直で使いやすい、ネット繋げて使ってるけどチャットも使えるレベル
中国モデルは怖くてネット接続できないから、QwenやDeepSeekの替わりはこれだな
同じ120BでもGPT OSS 120Bはちょっと古いせいかイマイチ賢さを感じない
METAのMuse Glimmer 30Bとかも入れてみたが、マルチ推論とかでもう少し使わないとわからん
適当に色々入れてみただけなので詳しい事は、もっと長く使わにとわからんけど面白い
そうAppleならね。
レスを投稿する

名前・メールを直接入力できます(保存されません)。


ニューススポーツなんでも実況