AI推理芯片呈现出云端训练、边缘推理的分工格局,各类NPU、TPU芯片百花齐放。推理芯片分类技术趋势低精度计算:INT8、INT4甚至INT2稀疏化加速:利用模型稀疏性存算一体:突破内存墙神经架构搜索:自动优化推理网络