能效比的比较方式正在改变。过去厂商习惯用峰值算力除以典型功耗给出一个漂亮数字,但在推理负载持续化、训练集群规模化的背景下,这个比值越来越难反映真实体验。看个球技术解读栏目认为,下一阶段AI芯片的能效竞争,重点将从「峰值能效」转向「负载区间内的能效曲线形状」——谁能把高效区间铺得更宽,谁在真实业务里就更省电。

一、能效比的分母正在变复杂

结论先说:功耗这个分母已经不能只看芯片本体的TDP,必须把显存、封装与供电转换一起算进去。看个球在梳理公开规格书时发现,同一档算力的产品,若把HBM堆栈功耗与封装内互连损耗计入,整卡能效排序可能发生变化。

具体来看,能效账本至少包含三层:

  • 计算层:矩阵单元在不同精度下的能效差异,低精度未必全程更省,取决于数据搬运比例。
  • 存储层:显存带宽利用率偏低时,计算单元空转,能效被摊薄;带宽跑满时,存储自身功耗占比上升。
  • 供配电层:电压转换效率随负载率变化,轻载与满载的效率曲线并不相同。

看个球建议读者在对比参数时,优先找那些给出「负载-能效」曲线的资料,而不是单一峰值点。单点数据只能说明极限,曲线才说明日常。

二、封装与热设计决定能效能否兑现

结论前置:先进封装提升了互连密度,也把热流密度推高,散热方案跟不上时,芯片会被迫降频,纸面能效无法兑现。看个球观察到一个趋势——能效讨论正从「芯片级」上移到「封装级」和「板级」。

从公开的封装工艺资料看,2.5D与3D堆叠让计算Die与存储Die距离更近,单位数据搬运能耗下降,这是能效收益的来源。但代价是热点集中,若均热层与冷板设计不匹配,局部温度会先触顶。看个球在整理产业动态时注意到,越来越多方案把「封装内热通路」作为独立设计项,而不是事后补丁。

对读者来说,判断一颗芯片的能效前景,可以看三个信号:封装内是否预留了独立的热扩散路径、是否公开了持续负载下的频率保持率、整机厂是否给出了风冷与液冷两套能效数据。这些信息比峰值数字更能说明问题。

三、供电响应速度是被低估的能效变量

结论:负载跳变时的电压响应能力,直接影响芯片能否长时间停留在高效区间。看个球认为,供电设计是能效前瞻里最容易被忽略的一环。

AI负载的特点是突发性强,计算单元在毫秒级内从低利用率跳到高利用率。若供电环路响应慢,电压跌落会触发保护性降频,能效曲线出现凹陷。公开的电源管理资料显示,多相供电与近端去耦的组合能缓解这一问题,但会增加板级复杂度与成本。看个球在拆解能效设计要点时,把「供电响应」与「算力精度」「显存带宽」并列为四项基础观察维度,原因就在这里。

前瞻地看,能效竞争的下一程不会只发生在制程节点上,而会分布在封装、供电、调度策略这些「系统级细节」里。看个球会持续用结论前置的方式,把这些细节拆成可独立理解的短篇笔记,方便读者在看参数表时多问一句:这个数字,是在什么负载下测出来的。