单卡性能再强，集群里通信拖后腿也跑不快。大规模AI训练和推理对芯片间互连的要求越来越高，互连方案的选择正在成为系统设计的关键变量。看个球在产品与方案栏目里按架构、制程、显存与能效维度整理公开参数，本篇盘点四条主流互连技术路线，帮读者理解带宽、延迟与能效之间的取舍。

一、四条互连路线的基本画像

结论前置：互连方案的选择要在带宽、延迟、距离和成本之间找平衡，没有一条路线能通吃所有集群规模。看个球梳理公开资料发现，不同路线在传输距离和拓扑灵活性上的差异明显。

  • 芯片内互连方案：连接同一封装内的芯粒，距离最短、能效最好，带宽密度高，受封装尺寸限制。
  • 板级高速互连方案：连接同一板卡上的芯片，带宽与成本平衡，适合中等规模集群。
  • 机架级互连方案：连接机架内多台设备，带宽较高但距离拉长后能效下降，拓扑设计影响大。
  • 集群级网络方案：连接跨机架设备，覆盖范围最广，延迟和能效的挑战也最大，适合超大规模训练。

看个球的并排对比视图会把带宽、延迟与传输距离并列，读者可以直观看到四条路线在性能与覆盖范围之间的位置。

二、带宽与延迟：训练和推理的关注点不同

训练场景对互连带宽的需求集中在梯度同步，数据量大且频繁；推理场景更关注请求分发的延迟。看个球在整理公开参数时发现，训练集群往往优先堆带宽，推理集群则更在意延迟的稳定性。

这意味着互连方案的评估要结合负载类型。看个球建议读者在对比时把带宽、延迟和通信模式放在一起看：全规约等集合通信对带宽敏感，点对点请求分发对延迟敏感，两者的优化方向并不相同。

  • 集合通信：梯度同步的数据量大，带宽和拓扑效率是关键。
  • 点对点通信：请求分发更看延迟，排队和拥塞控制影响体验。
  • 通信重叠：计算与通信能否重叠执行，直接影响实际利用率。

三、能效视角：距离就是功耗

互连的能效随传输距离拉长而下降，这是物理规律。看个球梳理公开信息发现，芯片内互连的单位比特能耗最低，跨机架传输的能耗高出多个量级，这也是为什么集群设计强调把通信密集的任务放在近处。

拓扑设计能在一定程度上缓解这个问题：合理的分层拓扑能减少跨层通信的比例，把大部分流量留在低能耗的近距互连上。看个球在对比视图里会把互连层级与典型能耗列为参考项，帮助读者从系统角度评估互连方案。

四、按集群规模选互连方案

给一个务实的判断框架：先按集群规模确定互连层级，再按负载类型确定带宽与延迟的优先级，最后按能效预算评估拓扑设计。看个球的产品与方案栏目会持续整理公开的互连参数与拓扑说明，并在安卓、苹果iOS、Windows电脑版和Mac电脑版客户端同步更新对比视图，帮助读者把集群通信这笔账算清楚。