返回文章列表
AI芯片

AI推理芯片:从云端到边缘的架构演进

李思颖2026/2/3142 阅读
AI推理芯片:从云端到边缘的架构演进

AI推理芯片呈现出云端训练、边缘推理的分工格局,各类NPU、TPU芯片百花齐放。

推理芯片分类

技术趋势

  • 低精度计算:INT8、INT4甚至INT2
  • 稀疏化加速:利用模型稀疏性
  • 存算一体:突破内存墙
  • 神经架构搜索:自动优化推理网络