AI 不再只是算力问题

IDC 预计，到 2030 年，横向扩展网络市场规模将达到 790 亿美元（《面向 AI 网络的数据中心 AI 基础设施支出》，2025 年 12 月）；与此同时，AI 基础设施支出总额预计将从 2025 年的 4,860 亿美元激增至 2030 年的 1.38 万亿美元（《全球季度 AI 基础设施追踪报告》，2026 年 4 月）。随着 AI NIC 出货量在 2025 至 2030 年间以 40% 的复合年增长率增长（《面向 AI 网络的数据中心 AI 基础设施支出》，2025 年 12 月），可以看出，网络层吸引投资的速度正与计算基础设施基本同步。

这些数字反映出业界对 AI 基础设施的思考方式正在发生转变。本文将分享五点洞察，探讨这一转变在实践中意味着什么，以及组织需要了解哪些关键因素，才能做出经得起规模化考验的基础设施决策。

洞察一：网络基础设施与计算基础设施应战略性地协同规划

AI 性能由计算与网络共同决定。然而，如果网络无法充分承载 GPU 所需的通信量与通信速度，GPU 利用率就可能下降。在集群规模，这种下降绝对不容忽视。如果组织先采购计算资源、之后才考虑网络决策，那么他们往往会发现早期引入的低效问题很难在后续阶段解决，除非对系统进行大规模重新设计。

将网络视为次要采购事项的团队，损失的不只是本可获得的性能，更是在基础设施中埋下了一个制约因素。随着工作负载增长和集群规模扩大，这一限制会不断加剧。

洞察二：负载类型不同以往，传统以太网架构也应改变

传统三层数据中心网络围绕南北向流量构建，即用户、应用或存储与服务器之间的流量。AI 工作负载的运行模式则截然不同。大规模训练通常要求数千个加速器同时进行高度同步的通信，由此产生的东西向流量在规模和频率上都超出了传统架构最初设计的承载范围。

胖树拓扑和 RoCEv2 部署一直是许多组织的默认方案，但随着集群规模扩大，其局限性日益凸显。如果将通用网络架构用于需求存在根本差异的工作负载，会在结构层面导致拥塞、丢包和延迟。随着规模扩大，这些低效问题还会进一步叠加。

IDC 指出，业界正明确转向下一代开放式以太网解决方案，以降低对单一供应商架构的依赖，并应对部分传统解决方案在可扩展性和运营方面的挑战。然而，并非所有以太网方案都同样适合 AI 工作负载；在这一转型过程中做出的架构决策，将对性能产生重大影响。

洞察三：网络决策决定了 AI 基础设施中的隐性成本

在 AI 基础设施规划中，硬件成本通常是最显而易见的项目，计算资源、网络设备和设施建设成本都相对容易建模。在前期，更难量化的是运营成本，包括集群上线需要多长时间，网络达到可靠性能前需要多少人工调优，以及管理基础设施故障并维持数千个节点的一致性需要投入多少工时。

集群停机成本通常会随集群规模直接增长。在小规模环境中尚可管理的升级、维护窗口和故障恢复事件，随着部署规模扩大，可能演变为影响生产效率的重大问题。初始阶段围绕韧性、流量分配和作业完成效率所做的架构决策，将决定这类事件的发生频率，以及网络恢复速度能有多快。

多平面架构具体说明了架构选择如何转化为成本结果。IDC 估计，多平面设计可以降低网络基础设施成本，主要原因是其光学器件需求更少。在评估网络架构时，不只关注初始采购成本，而是将总拥有成本纳入考量的组织，更有能力为规模化 AI 做好准备。

洞察四：专有网络技术栈可能带来长期风险，而开放、基于标准的架构旨在规避此类风险

AI 网络标准仍在持续走向成熟。传输协议、拥塞控制机制和无损网络结构规范仍是全行业持续发展的领域，今天的技术格局并不代表未来的形态。此时做出网络架构承诺的组织，实则正处在一个标准本身尚未完全定型的情形中。

在这种情境下全面采用专有技术栈，意味着将相当程度的基础设施控制权交由单一供应商的产品路线图来决定。随着市场演进，便难以引入市场上同类别的最佳部件；当需求发生变化，且技术栈的支持能力与工作负载需求之间的差距扩大时，切换成本也会增加。这些限制的战略性影响将超越性能本身，会进一步影响基础设施的长期灵活性。

开放网络方案通过实现不同供应商及基础设施组件之间的互操作性，直接应对这一问题。UEC 就绪型 RDMA 和 MRC（多路径可靠连接）等新兴规范开始解决传统协议在规模化环境中的局限。随着这些规范的不断成熟，还会推出基于标准的解决方案。可编程架构则更进一步，能够随着行业发展通过软件的方式来更新传输协议和拥塞控制机制，而无需更换硬件。

洞察五：卓越运营与投产时间正成为 AI 网络的决定性选型标准

网络的峰值性能规格只是起点，并不能反映全貌。在规模化环境中，真正决定基础设施价值的，往往是网络在完整运营生命周期中的表现，包括升级、故障、配置变更，以及大型集群部署不可避免的日常维护。若网络需要大量人工干预才能维持性能，就可能带来持续性的运营成本，而这类成本很少会在部署前规划中充分显现。

高分辨率遥测和细粒度可观测性能够从根本上改变这种运营负担。当团队可以跨逻辑接口和传输层更快地识别问题时，便能从被动故障排除转向主动管理。在集群规模之上，平均解决时间的差异并非小幅改善，而是会直接影响 GPU 利用率和作业完成率。

出于同样的原因，“出厂即用”性能也日益成为选型标准。基础设施如果能够从部署之初就提供可靠基准性能，便可缩短实现业务价值的过程。而需要大量人工调优才能获得可预测性能的架构，则会推迟这一进程。在 AI 基础设施快速扩展的当下，很少有组织能够承受这种滞后所带来的成本。

网络是决定 AI 战略成效的关键所在

未来几年，真正成功构建 AI 基础设施的组织，并不只是采购了最多计算资源的组织，而是那些及早认识到缺少适配网络会导致计算资源利用不足，并据此做出基础设施决策的组织。

网络层是性能、成本、适应能力和运营效率的交汇点；在这一层做出的决策，将决定 AI 部署所能达到的上限。IDC 的一项研究认为具有决定性意义的架构原则是：可编程性、开放标准和运营韧性。研究报告中重点介绍的 AMD AI NIC™ 技术正是围绕同样的原则打造的。

敬请阅读完整的 IDC 研究报告《为 AI 工作负载构建面向 AI 的横向扩展网络》，深入了解塑造 AI 网络设计的趋势，以及领先组织如何构建可扩展且无需妥协的基础设施。〔IDC 完整报告〕

常见问题

什么是专有网络技术栈？

专有网络技术栈是由单一供应商控制的一套封闭式网络硬件、软件和协议。与开放、基于标准的方案不同，专有技术栈会限制与其他供应商产品的互操作性。

可编程性为何重要？

可编程架构让企业网络能够随着标准进行演进，通过软件来更新传输协议和拥塞控制机制，而无需更换硬件。

什么是超以太网联盟（UEC）和多路径可靠连接（MRC）？

UEC 和 MRC 是新兴的开放网络规范，二者都是业界大范围行动的一部分，目的是为大型 GPU 集群部署建立高性能以太网传输标准。

在 AI 场景中，“无损网络”是什么意思？

无损网络有助于确保数据包在传输过程中不被丢弃。这对 AI 训练工作负载至关重要，因为丢包会导致 GPU 停顿，并直接影响作业完成时间。