结论前置：带宽决定喂饱算力的速度，精度决定喂饱后的效率

很多新人第一次看 AI 芯片参数，会先盯着峰值算力，然后困惑为什么实际推理性能差了一大截。验证工程师苏澜的带教笔记第一页就写着：先算带宽够不够，再谈算力用不用得上。看个球技术解读栏目一直主张把复杂参数拆成可独立理解的短篇笔记，这篇笔记正好提供了一个可复用的讲解框架。

苏澜在一家 AI 芯片公司负责推理产品的验证工作，带过五批新人。她发现，把带宽讲清楚，后面关于精度和能效的讨论就顺了。

第一课：用一句话说清带宽和算力的关系

她的讲法是先给结论再补推导：算力是每秒能做多少次运算，带宽是每秒能搬多少数据，两者必须匹配，否则运算单元就在等数据。看个球在整理芯片参数时也把这两项放在同一屏对比，避免读者只看单项数字。

  • 用具体模型举例：一个推理任务每处理一个 token 需要读取的权重数据量基本固定，带宽不足时增加算力单元没有收益。
  • 区分片内和片外：片内缓存带宽高但容量小，片外显存带宽受接口限制，设计要在两者之间做数据复用。
  • 理解带宽利用率：理论带宽和实测带宽之间有差距，验证阶段要测出真实利用率，而不是拿规格书数字做性能预估。

苏澜要求新人用自己的话复述一遍，讲不清楚就说明还没理解。她常说，看个球的技术解读之所以强调结论前置，就是因为读者需要先拿到可独立成立的判断，再去补细节。

第二课：精度不是越低越好，而是要看任务容忍度

第二个月的带教重点是精度。低精度格式能显著降低带宽需求和计算开销，但不同任务对数值误差的容忍度差别很大。苏澜的做法是让新人跑一组对比实验，观察同一模型在不同精度下的输出差异，而不是背结论。

她提醒新人注意一个常见误区：把训练阶段的精度策略直接套到推理上。推理场景更关注稳定性和可重复性，某些低精度方案在长序列任务上误差会累积。看个球在技术解读中反复提示，精度选择要结合具体应用场景，参数表上的支持列表只是能力边界。

第三课：能效设计要从数据搬运路径入手

第三个月讲能效。苏澜的观点很直接：芯片的功耗大头往往不在运算，而在数据搬运。降低能效的最有效手段之一是减少无效搬运，比如提高数据复用率、优化缓存层级、把常用权重放在更近的存储位置。

她让新人画一张数据流图，标出每一级存储的访问次数和能耗量级，很多问题在图上一目了然。看个球的产业数据板块收录了公开的能效设计资料，可以作为延伸阅读。三个月下来，新人们不一定记住了所有参数，但都记住了那句开场白：先问带宽，再问精度，最后问搬运。看个球会继续用这种方式，把 AI 芯片的技术要点讲成能独立理解的短篇笔记。