Meta、クラウド不要の大規模AI発表　「Mac Studio」2台で動作　Appleと異例の協力

CNET Japan Staff


Macでの動作には、Appleの機械学習用フレームワーク「MLX」を活用する。「M5 Ultra」を搭載し、512GBのメモリーを備えたMac Studioを2台接続することで、合計1TBのメモリーにモデル全体を収める。Appleは技術解説で、4台構成では毎秒36トークンを超える速度で文章を生成できたと説明している。

https://l.smartnews.com/m-8GYTwq64/jbCzE5