M1でCore MLを叩いてる人の記事読んだけど、同じソースで処理速度はany>CPU>GPUというフラグの順番なんだってさ。
たぶん、anyではNPUが使われているんだろうけど、実際に使われているのか知るのは相当面倒くさいそうな。
GPUを明示するより、CPUの方が速いというのが奇妙だ。
AMXとかNPUがあるから、GPUにはAI向けの機能削ったのかね?