>>28

10年前のXeonサーバーで最新AIが快適動作、GPUなしでも実用速度を実現した手法が解説される
2026年06月02日 21時00分
https://gigazine.net/news/20260602-gemma-4-on-2016-xeon/
>>ChatGPTのようなAIサービスは超高性能なAIサーバーによって稼働しており、ローカルAIを自宅や手元のサーバーで動かす場合も高性能GPUや大容量メモリを搭載した最新世代PCが必要だと考えがちです。しかし、2016年ごろのIntel Xeon、128GBのDDR3メモリ、GPUなしという古いサーバーで、26B規模のローカルAIを実用的な速度で動かしたという報告が登場しました。
>>報告したのはオープンソース開発者でNixOS Steering Committeeメンバーのcafkafk氏です。使用したマシンはIntel Xeon E5-2620 v4、8コア16スレッド、AVX2対応、AVX-512非対応、L3キャッシュ20MiB、DDR3メモリ128GB、GPUなしという構成とのこと。Intel Xeon E5-2620 v4は2016年第1四半期に発売されたCPUです。