单卡跑分好看,集群跑起来却未必线性扩展,这是训练平台建设里常见的落差。看个球在产品与方案栏目里按架构、制程、显存与能效维度整理公开参数,本篇从扩展性角度盘点训练芯片集群的四种设计,帮读者理解规模上去之后性能为什么会被稀释。

一、四种扩展设计的基本画像

结论前置:集群扩展性的瓶颈往往不在计算单元,而在互连拓扑和功耗密度。看个球梳理公开资料发现,不同扩展设计在通信开销和散热约束上的差异,决定了它们适合的集群规模。

  • 单卡独立方案:每张卡独立处理任务,扩展简单但通信开销低,适合小规模微调或推理。
  • 板内高速互连方案:同一板卡上的芯片高速互连,通信延迟低,适合中等规模训练。
  • 机架级互连方案:机架内多设备统一互连,带宽较高,拓扑设计影响扩展效率。
  • 多机架集群方案:跨机架