AI 领域再次迎来变革
客户对于 AI 基础设施的认知可能仍然比较狭隘,且受限于过往的 AI 使用经验:AI 模型一问一答,仅输出一次结果即结束。因此,客户关注的问题主要包括选用什么 GPU、需要多少加速器显存、要运行哪些模型。
这些确实都很重要,但您如今需要做出更全面的考量。在第一波 AI 应用浪潮中,首要目标是进行试验探索,因此这些考量是合理的。随着智能体 AI 的诞生,围绕 AI 基础设施的讨论已发生转变;对合作伙伴而言,他们可以把握这一转变带来的宝贵机会,帮助客户跳出“仅关注 GPU”的狭隘视角。
AI 工作负载发生的变化
AI 正在从简单的大语言模型一问一答式工作负载演进为持续运行的自主工作负载。这意味着,客户可以依托基础设施完成更多工作,而且无需人工介入即可持续运行各类操作和工作负载。
智能体 AI 系统可以自主完成一系列工作,包括制定规划、检索信息、调用工具、与 API 交互、更新状态、查询数据库、触发工作流程以及协调多项服务。随着这类系统走向生产落地,客户需要更为强大的基础设施,以便能够应对持续运行、高并发、服务密集型工作负载,而不再仅仅是过去孤立的模型推理工作负载。
虽然 GPU 对于大规模 AI 训练与推理依然至关重要,能够提供模型计算所需的加速器性能,但在智能体环境中,GPU 仅仅是系统的一部分。要部署智能体工作流,需要多管齐下:扩展智能体沙盒、充分提升 AI 主机节点吞吐量、支持通用工作负载。
大量配套工作均由 CPU 驱动执行。如果 CPU 能力不足,即便在加速器上投入巨额成本,客户依然会遭遇系统瓶颈、高延迟、GPU 利用率低下、无法高效扩展等问题。
因此,一个均衡的 AI 平台必须两者兼备:加速器负责模型计算;高性能服务器 CPU 负责服务、编排、数据层,保障智能体 AI 可以大规模落地应用。
全新发布的 AMD EPYC(霄龙)9006 系列服务器 CPU 有助于基础设施适配这些全新需求,在智能体 AI 落地应用后持续保持卓越性能。
面向智能体时代的卓越服务器 CPU 产品组合1
AMD EPYC(霄龙)9006 系列服务器 CPU 配备多达 256 个核心和 512 个线程,时钟频率最高可达 5GHz,树立了服务器处理器单核性能标杆,可凭借卓越性能出色驾驭智能体 AI、云端、企业及高性能计算工作负载。该系列处理器配备先进的 PCIe® Gen 6 I/O,单路内存带宽高达 1.6TB/s,可助力客户成功部署要求严格的智能体工作流。
对于存在升级顾虑的客户,AMD EPYC(霄龙)服务器 CPU 早已为高密度、高效率的服务器基础设施提供基于行业标准的 x86 架构基础,而该系列全新 CPU 进一步延续此路线,满足未来部署需求,帮助客户在不中断现有生产环境的情况下实现无缝升级。
对于合作伙伴而言,该系列全新产品为与客户探讨智能体 AI 提供了三个清晰的切入点:规模化扩展、充分提升吞吐量、支持与 AI 相关的通用工作负载。
1.规模化扩展
对于需要构建沙盒环境、开展多智能体实验或部署高并发智能体服务的客户而言,高密度计算能力至关重要。在现有的功耗、机架空间和预算约束下,基础设施可以承载的智能体数量越多,客户就能越轻松地实现 AI 规模化应用,同时避免基础设施成本超出可承受范围或复杂度过高。
高核心数 AMD EPYC(霄龙)9006 系列服务器 CPU 正是为满足这一需求而设计。与上一代相比,该系列的核心数量最高提升 33%2,进而使合作伙伴能够通过提升智能体部署密度直接解决智能体承载能力瓶颈。
2.充分提升吞吐量
在具有大量加速器的系统中,服务器 CPU 依然发挥着关键作用。CPU 负责向 GPU 馈送数据、协调数据传输、支持 I/O、运行主机侧服务,以及消除模型执行与更广泛应用环境之间的交互摩擦。
高频 AMD EPYC(霄龙)9006 系列服务器 CPU 配备先进的 PCIe® Gen 6 I/O 子系统,单通道带宽是上代产品的 2 倍3,单路内存带宽最高可达 1.6TB/s,可有效消除主机侧瓶颈并助力系统内部实现高速数据传输。
对于专注于充分提升 GPU 利用率和 Token 生成效率的客户而言,该系列 CPU 可以帮助主机平台有效满足 AI 工作负载的加速器性能需求。
3.通用 AI 服务
客户的工作负载种类丰富,无法简单归为单一 AI 类别。客户的应用场景通常涵盖数据库、存储服务、CPU 推理、编排逻辑、数据分析、中间件、安全防护以及更多领域。正是这些通用工作负载,让智能体 AI 成为高效管理现代企业工作负载的强大助力。
AMD EPYC(霄龙)9006 系列服务器 CPU 产品组合品类丰富,合作伙伴可以根据客户需求为客户推荐合适的处理器型号;该系列产品不仅可以支持中小型语言模型的 CPU 推理、智能体规划与工具调用的编排调度,还可以依托 AMD SEV 和可信 I/O 功能等安全技术为机密 AI 环境提供支持。
如果客户需要在部署 AI 的同时完成现有企业基础设施现代化升级,迁移至 AMD EPYC(霄龙)9006 系列服务器 CPU 可保留现有软件栈所依赖的 x86 平台,这有助于减少迁移问题,并缩短从 AI 规划到部署落地的周期。
AMD Arena
参与关于 AMD 产品的培训,深入了解 AMD AI 解决方案、AMD EPYC(霄龙)服务器 CPU、AMD Instinct GPU 及更多其他产品,有效精进专业能力。
订阅
接收月度更新,获取 AMD 新款产品、培训资源及“遇见专家”网络研讨会的新鲜资讯。
智能体 AI 离不开高性能计算
在 AI 系统中,CPU 不会取代 GPU。如今,向智能体 AI 的转型要求基础设施兼具高性能 CPU 与 GPU,同时确保二者协同工作。合作伙伴可以利用这一转型契机,重新审视客户的整体数据中心架构,并向客户提出以下问题:
是否仍然将 AI 视为一个孤立的 GPU 项目?
是否已经在为生产规模的 AI 做规划了?
现有的服务器基础设施能否满足智能体系统的算力需求?
功耗、散热、机架空间限制是否已妨碍 AI 扩展?
是否需要一条基于标准的技术路径来支持现有企业软件与运营模式?
基于这些问题,可以将与客户的对话从“我该选购哪款加速器”,转向“什么样的基础设施能够保障我的企业以安全可靠、经济高效的方式实现 AI 规模化部署?”
向客户推介性能卓越的 AMD EPYC(霄龙)9006 系列服务器 CPU,并阐述该系列产品如何助力企业实现智能体 AI 转型。
如需了解更多信息,请联系 AMD 代表或访问 amd.com。
相关文章
附注
- EPYC-067 - 基于 AMD 2026 年 6 月针对支撑智能体 AI 系统的典型基础设施工作负载进行的内部分析与仿真建模。性能评估结果反映了在模拟的 100kW 部署场景下估算得到的机架级吞吐量,其中测试的代理工作负载涵盖 Web 服务、数据基础设施和编排层。结果基于 AMD 内部测试、第三方数据和预测综合得出,可能会因系统配置、软件栈和工作负载组合而有所不同。如需详细了解假设条件、工作负载和测算方法,请参阅“AMD 智能体 AI 机架级性能”博客以及 AMD 方法论文档。
- 9xx6-005:vCPU 承载能力取决于核心数;对比了最高规格的“Venice”CPU(256 核)与第五代 EPYC(霄龙)9965(192 核)。
- 9xx6-003:PCIe 代际对比基于 PCI-SIG 发布的规范文档,https://pcisig.com/pci-express-6.0-specification。 截至 2025 年 6 月 3 日,双路第六代 EPYC(霄龙)CPU 支持 128 条 PCIe Gen 6 通道,第五代 EPYC(霄龙)CPU 支持 128 条 PCIe Gen 5 通道。PCIe 是 PCI-SIG 公司的注册商标。
- EPYC-067 - 基于 AMD 2026 年 6 月针对支撑智能体 AI 系统的典型基础设施工作负载进行的内部分析与仿真建模。性能评估结果反映了在模拟的 100kW 部署场景下估算得到的机架级吞吐量,其中测试的代理工作负载涵盖 Web 服务、数据基础设施和编排层。结果基于 AMD 内部测试、第三方数据和预测综合得出,可能会因系统配置、软件栈和工作负载组合而有所不同。如需详细了解假设条件、工作负载和测算方法,请参阅“AMD 智能体 AI 机架级性能”博客以及 AMD 方法论文档。
- 9xx6-005:vCPU 承载能力取决于核心数;对比了最高规格的“Venice”CPU(256 核)与第五代 EPYC(霄龙)9965(192 核)。
- 9xx6-003:PCIe 代际对比基于 PCI-SIG 发布的规范文档,https://pcisig.com/pci-express-6.0-specification。 截至 2025 年 6 月 3 日,双路第六代 EPYC(霄龙)CPU 支持 128 条 PCIe Gen 6 通道,第五代 EPYC(霄龙)CPU 支持 128 条 PCIe Gen 5 通道。PCIe 是 PCI-SIG 公司的注册商标。