> 約21~23tok/sの速度でローカル動作
って賢さを犠牲にした特殊な環境での数字なんだなー

文字生成のスピードだけ速くともアホの子では道具としてダメダメじゃん