特定の用語にはめっぽう反応するのにそれ以外の反論があると煽っても弱火

理由は単純、浅すぎてそこしか知らないから少し突っ込むとその事について何も言えない。煽り返すだけ。
でまかせすれば検索一発でバレるし、知っている事も検索で間違えているとすぐに分かるレベルだが、
後に引けないのか「俺は知ってる」ムーブかますだけ。
でも浅知恵wikiと言っているのと違うアホ

「メモリ差はモデルの違いでしかない」と言ってシングルかダブル(又は拡張)、反復数も無視して「モデル」しか言わない。
加えて苦し紛れの"モデル"の例が只のライブラリ最適化であって全く違う。MoEもメモリリソースを減らす物でもない。

LLMは特定のタスクに全振りさせたものではなく、
汎用のディープラーニングであって基本は変わらないんだよ。
70Bのパラメータを持っているなら16fpで16bit x 70B だけで何GB使う?
140GBだ。これを減らすなら反復を減らすしかないが、
70B回やれって言ってんのに勝手に減らす? 重複探すのに一回走査すんの?って話。
走査はしない。前に通った所をトークンとしてスキップするだけだよ。

だからモデルの違いでメモリの消費は有意義なほど差は無いし、
お前の浅知恵以下は基本すら無いの。webでチャッピーに質問してその気になっただけ。

"LLM"の話をする人間はこの事を普通に知ってんのよ。
なのに用語出して頓珍漢やってりゃ「思い込みが激しい」なんて呼ばれちゃうよね


まだやる?それとも耳塞いでアーアーしてる?
どうせ隔離スレなんだから遠慮しなくていいよ、
でも返信来なくて待ってたら眠くなったからあとでお願いね?