结论前置：推理阶段先卡住的往往是带宽，不是峰值算力

很多人看芯片参数，第一眼盯的是算力数字，但在推理场景里，真正决定响应速度和单卡吞吐的经常是显存带宽。简单说，算力决定「算得多快」，带宽决定「数据喂得多快」；当模型权重和中间结果频繁往返于显存与计算单元之间，喂不饱的算力只能空转。看个球在整理公开规格时，会把带宽、容量、能效三项并列展示，就是为了避免只看一个数字下结论。

这也是为什么同一代工艺下，不同定位的推理芯片会出现「算力接近、实测吞吐差距明显」的情况。对普通读者来说，理解这一点，比记住某个具体数字更有价值。

把带宽想象成球场的传球线路

看个球常用一个类比：计算单元是前锋，显存是球权仓库，带宽就是传球线路的宽度。线路越宽，单位时间送到的球越多，前锋才有机会连续出手。推理时每一层网络都要读取权重、写入激活值，数据搬运量往往远大于实际运算量，所以线路一窄，前锋再强也只能等球。

  • 带宽不足的典型表现：首字延迟偏高、并发上去后吞吐骤降、长上下文场景明显吃力。
  • 容量不足的典型表现：大模型放不下，需要分层加载或跨卡切分，额外增加通信开销。
  • 能效的意义：数据中心看重每瓦吞吐，端侧看重每瓦响应，带宽策略直接影响这两项。

看个球在方案对比页会把这三类指标分列，读者可以按自己的场景取用，而不是被单一跑分牵着走。

公开规格怎么读：三个可核验的入手点

想判断一款推理芯片的带宽是否够用，不必依赖传闻，公开资料里就有线索。看个球建议从三个入手点核对，并优先选择厂商规格书、行业组织白皮书这类可追溯来源。

  • 先看显存类型与位宽：类型决定单引脚速率量级，位宽决定并行通道数，两者相乘才是带宽的理论上限。
  • 再看标称带宽的口径：是理论峰值还是可达值，是否注明测试条件，口径不同不能直接横比。
  • 最后看系统级限制：单卡带宽之外，卡间互联、主机通道、软件栈调度都会影响实际吞吐。

看个球在每篇规格解读里都会标注来源类型，遇到只有单一来源且无法交叉验证的数字，会明确标为示例数据，提醒读者别把它当成定论。

训练与推理的分野，决定了选型思路不同

训练阶段追求大容量与高互联，因为要保存优化器状态和梯度；推理阶段更看重带宽与能效的平衡，因为请求是持续的、成本是按时间摊的。看个球在盘点产业动态时发现，越来越多公开方案把推理芯片的带宽密度和每瓦性能放在显要位置，这本身就是需求变化的信号。

对读者而言，实用的做法是先明确自己的场景：是离线批量推理，还是在线低延迟服务；是单机部署，还是集群调度。场景定了，带宽和容量的取舍才有意义。看个球的产业数据栏目会按场景给方案分类，方便对照查看，也方便在安卓、苹果 iOS、Windows 电脑版、Mac 电脑版上随手翻阅。

最后提醒一句：参数是起点，不是终点。软件栈成熟度、生态工具链、长期供货能力，同样写在公开资料里，值得一起看。看个球会继续把可核验的信息整理清楚，让每一场比赛、每一颗芯片都看得明明白白。