>>481
前節では、MoEが時代以前に使用されていたものとして説明しました。ディープラーニングディープラーニングの後、MoEは最大モデルを運用することに応用を見出しました。これは条件計算を実行する簡便な方法であり、モデルの一部のみが使用され、その部分は入力内容に応じて選択されます。19]

前時代だよそれ。ディープラーニング以前のアルゴリズムの説明。>>481の説明はcommittee machinesの話。
ディープラーニング用はこれの応用でMixture of expertsと名前を変えているよ。


量子化は最適化であってQ4で事足りるライブラリもあればfp32じゃないと精度を保証しないと言うのもあるぞ。
何勝手に量子化だけに絞ってんだよ。

デカいデータを整頓して機械から見やすくする。
と、
箱のサイズ
は、
同じ話か?

前者は明らかに一手間加える話だろ。私は後者の話しかしてねぇのよ、
なんでまた別人が過去レス読まずに絡むんだか。
誰もそんな話してないじゃなくて、勝手に割り込んでのよアンタさん