そもそもMoEはメモリ消費の削減する訳じゃなくて高速化だし
Quantは圧縮技術だし