少し知識があればこれだけで推論ではHBMよりHBFが今後使われるであろうことはわかるかと
まだ先の話だけどな


HBM（High Bandwidth Memory）はGPUと同一パッケージ内に実装されるDRAMスタックで、A100やH100といったNVIDIAのAI向けGPUで広く使われている。帯域幅は1スタックあたり1.6〜2TB/s程度に達するが、容量は1スタックで32〜64GB程度が上限だ。LLMのモデルウェイトやKVキャッシュを丸ごとオンチップに収めるには容量が明らかに足りない。

SanDiskのHBF Gen 1はこの課題を正面から攻める。公称スペックは読み取り帯域幅1.6TB/s、スタック容量512GB（ダイ16枚構成）だ。HBMと同等フットプリントで8〜16倍の容量を実現