什么是 AI 网络？

为什么需要 AI 网络？

AI 网络是一套专门构建的网络解决方案，旨在确保分布式 AI 工作负载在加速器、GPU 以及负责协调它们的主机 CPU 之间保持同步。

AI 网络高效且可扩展，无论是在紧密耦合的纵向扩展系统中，还是在大型横向扩展 GPU 集群中，均能稳定运行。随着 AI 工作负载不断扩展，覆盖基于数百甚至数千个 GPU 的训练、推理以及实时系统，网络的重要性已不亚于算力本身。AI 网络通过应用智能流量控制、低延迟数据传输和可编程的网络架构服务，确保这些工作负载在不断扩大的集群中保持协调运行。

随着企业深化 AI 应用，需要在 GPU 之间同步的数据量可能会急剧增加。无论是单节点或高度集成系统内的纵向扩展架构，还是跨机架或跨数据中心机组的横向扩展架构，稳定且可预测的通信能力都至关重要。传统网络往往难以满足这种需求，容易造成拥塞，从而降低整体性能和 GPU 利用率。AI 网络可提供稳定性能与分布式智能处理能力，保障大规模部署场景下系统稳定高效运行，从而弥补了这一短板。

哪些 AI 工作负载获益最大？

观察当今 AI 系统的运行方式，AI 网络的价值便一目了然：分布式训练跨多个 GPU 节点，这些节点必须持续交换数据，因此延迟和吞吐量对于训练时间至关重要。生产级推理环境跨大规模设备机群输出结果，因此需要确保稳定一致、可预测的响应时间。从自主工作流程到实时分析，各类高级 AI 系统均依靠持续的低延迟数据交换才能可靠运行。即使是初期的小规模企业级 AI 部署，也可能很快超出网络承载能力，因为低效的通信会降低 GPU 利用率并限制整体投资回报率。

随着 AI 工作负载在服务器内部纵向扩展以及在集群之间横向扩展，网络已成为制约性能和效率的主要瓶颈之一。

AI 网络有何不同？

传统数据中心网络通常无法适配现代 GPU 集群所特有的紧密同步、高压力通信模式。AI 工作负载会在 GPU 之间产生快速、高度协调的东西向流量，即使是小范围的拥塞或丢包也会减慢任务完成速度并降低 GPU 利用率。要想在大规模部署中维持稳定的性能，仅增加带宽远远不够，还需要将智能处理能力融入底层网络架构中。

AI 网络通过在整个网络中分布式部署感知能力和实时决策能力，来实现智能处理。NIC、网络架构软件和高级遥测技术协同工作，以管理拥塞，将流量引导至拥塞较少、性能更高的路径，

实现纳秒级故障检测，并维持稳定的 GPU 间通信。这些功能可使集群保持同步、降低尾延迟，并尽可能减少集合操作期间 GPU 的空闲时间。

最终，借助 AMD AI 网络解决方案，可在基于以太网的 AI 集群中形成一个可编程的网络架构，确保能够在纵向扩展和横向扩展环境中实现低延迟、高效率的 GPU 通信。支持的功能包括：路径感知拥塞控制、选择性重传、有序消息传递以及网络中断快速恢复。

AI 网络如何提升可靠性、可用性和可维护性 (RAS)

随着集群规模扩大，保持卓越运营变得更具挑战性。借助 AMD Pensando Pollara 400 AI NIC，以及更全面的 AMD AI 网络解决方案，可将故障检测和快速恢复机制直接嵌入底层网络架构，以此增强系统可靠性，从而充分减少任务中断情况并消除耗时的重启操作。高级遥测技术让运维人员能够清晰了解任务级别和底层网络架构级别的运行状况，帮助他们进行性能调优，并及早发现问题以免问题恶化。

AMD AI NIC 系列彰显了 NIC 级别的智能处理能力如何提升 AI 环境的可靠性和性能。AMD Pensando Pollara AI NIC 遵循 AMD 面向 AI 基础设施采用的开放标准战略，将可编程性和灵活性扩展至计算、网络和软件组件中，助力改善 GPU 间通信并减少拥塞。

AI 网络何时变得必不可少

一旦网络行为开始影响纵向扩展和横向扩展环境中的工作负载性能、效率和稳定性，AI 网络就变得至关重要。当集群规模超越单一紧密耦合系统，当网络停滞导致 GPU 利用率下降，或者当故障排除和性能调优消耗过多运维人力时，便会出现这种情况。如果企业希望在不替换现有基础设施的情况下灵活采用新协议或通信模型，AI 网络同样必不可少。

一旦网络行为开始影响 AI 性能，采用 AI 优化的网络就成了唯一可行的前进方向。

AMD 战略有何与众不同之处？

AMD 的 AI 基础设施战略建立在开放标准和覆盖计算、网络、软件的平台灵活性之上。AI 网络是这一整体战略的组成部分，旨在确保网络能够随快速演进的 AI 工作负载同步扩展、动态适配。AMD 确保网络解决方案遵循开放、可编程的基础设施理念，助力客户构建可扩展的 AI 系统，而不受专有技术的束缚。

基于这一方法，智能处理能力分布式部署于整个 AMD AI 网络解决方案组合（包括 AI NIC 和 DPU），以支持在大规模部署场景中实现稳定性能。AMD Pensando Pollara 400 AI NIC 凸显了 NIC 级别的智能处理能力如何提升大型 AI 集群中的通信效率和可靠性。作为 AMD 基于开放标准的整体 AI 战略的一部分，它支持可编程、可互操作且能够无缝集成到端到端 AI 基础设施中的网络层。

AMD 依托 AMD Pensando Pollara AI NIC 中的分布式智能处理能力打造了一种可编程以太网架构，旨在支持当今的 AI 系统以及纵向扩展和横向扩展架构环境中快速演进的工作负载。

构建面向未来的 AI 基础设施

AI 架构迭代速度飞快，网络也必须同步演进。可编程性和开放标准有助于确保基础设施能够灵活扩展，而无需投入高额成本进行全面替换式升级，同时支持企业在 AI 发展方向改变时灵活地调整环境。

AMD 网络解决方案组合遵循面向未来的设计理念，既能满足当下的大规模部署需求，又具备适配新一代 AI 系统所需的灵活扩展能力。

AI 网络常见问题解答

AI 网络与传统数据中心网络有何不同？
AI 网络经过优化，可支持纵向扩展和横向扩展架构下的同步、高容量 GPU 通信，同时具备传统工作负载不需要的智能拥塞管理、快速恢复和深度可观测能力。

AI NIC 与传统 NIC 有何区别？
AI NIC 具备可编程逻辑和分载功能，可优化 GPU 间通信、降低延迟和提高大规模部署的可靠性。

AI NIC 与 SmartNIC：有何区别？
AI NIC 专门用于优化和加速 GPU 间的 AI 流量；而 SmartNIC（包括 DPU）主要用于从主机 CPU 中分载网络任务和基础设施任务。在 AI 集群中，这些功能可形成互补。