現状70B～100Bクラスのローカルモデルを安価に運用するとしたら、ほぼmac一択なんじゃ？
学習はきついだろうが、推論はapple siliconでも結構tps出るよ
分散したりnvidia 3本積みしてる猛者もいるけど少数派だろ