智能体时代的 CPU 根基 — AMD EPYC(霄龙)9006 系列服务器 CPU

Jul 23, 2026

Curved teal and orange light trails with bokeh particles on a dark background, symbolizing connectivity

AI 已具备行动能力。能够引领未来十年发展的数据中心,必定是针对智能体工作流程的每一个环节精心设计的数据中心;而这套基础设施的根基始于处理器。

从“问答式 AI”向“行动式 AI”的转变

过去数年,关于 AI 的战略讨论始终围绕着一个核心问题:模型能力究竟有多强?而这一时代即将落幕。技术前沿已经从“问答式 AI”转向“行动式 AI”。行动式 AI 系统能够围绕目标制定规划、调用工具与 API、编写并执行代码、检索企业数据并开展推理,在极少人工干预下完成多步骤复杂任务。这就是智能体 AI,它重塑了数据中心的经济模型,也颠覆了各类基础设施规划背后的固有假设。

而大多数基础设施策略仍然忽略了一点:智能体完成一项任务,绝不仅仅是在一个加速器上运行一个模型。智能体涉及一套经过编排的完整工作流程,包括规划步骤、多次工具调用、数据库检索、代码执行、加速器推理,以及智能体所要调用的各类企业服务。当智能体系统从单个智能体扩展到数千个并发运行的智能体时,发生在加速器之外的工作量增长最为迅猛。如果追踪时间和成本具体消耗在哪些环节,一个令人惊讶的事实就会浮出水面:构成智能体工作流程的许多任务,都运行于 CPU 之上。

这将重塑当下每一位 CTO 和 CIO 所面临的基础设施建设决策。智能体时代不只是 GPU 的独角戏,CPU 才是其底层核心支撑。AMD EPYC(霄龙)9006 系列服务器 CPU 正是为这一时代而生:并非依靠单颗 CPU 去适配单一工作负载,而是作为一套完整的产品组合,全面赋能智能体工作流程的每个环节,以及配套的云端、企业和高性能计算基础设施。简而言之,该产品组合是面向智能体时代的卓越服务器 CPU 产品组合1

为什么 AMD CPU 能够在各种应用场景中脱颖而出

出色的单核性能;超大智能体承载量;高效通用计算。

如果智能体工作流程包含大量依赖 CPU 的任务,那么可以得出一项关键战略洞察:这些任务对处理器的需求各不相同。由于各类任务的诉求不尽相同,如果试图对一款通用 CPU 进行优化以兼顾全部任务,就意味着在每一类任务场景下都需要做出妥协。AMD 的策略是:识别出 CPU 在智能体工作流程中承担的三种不同任务,即三种角色画像,并针对每一种角色提供专门定制的解决方案。

AMD EPYC(霄龙)9006 系列服务器 CPU 不仅具备卓越单核性能,还可灵活扩展至更高核心和线程数以提升总智能体承载量,同时还具备出色的通用计算性能以高效运行智能体所依赖的各项工具和服务。

面向智能体沙盒的 CPU:该角色由高核心数 AMD EPYC(霄龙)9006 服务器 CPU 承担,负责运行智能体本身,包括协调大量并发智能体、执行它们生成的代码和任务、管理系统状态和内存,以及处理 GPU 之外的所有控制路径逻辑和 I/O。核心需求是:吞吐量、并发处理能力和响应速度。AMD 处理器凭借卓越的单核性能让每个智能体快速运行,还具备超高线程密度2(最高可扩展至 256 个核心和 512 个线程),因此可大幅提高智能体承载量,确保单位功耗、单位成本和单个机架下可运行尽可能多的智能体3、4、5

面向 AI 主机节点的 CPU:该角色由高频 AMD EPYC(霄龙)9006 服务器 CPU 承担,负责托管加速器并为其提供数据。在数据中心内,闲置的加速器是最大的成本浪费,而主机 CPU 可以防止出现这种闲置。AMD 提供高达 5 GHz 的高频主机节点,不仅具备出色的单核性能,还配备先进的 PCIe® Gen 6 I/O 子系统(与上一代相比,每通道带宽翻倍),同时支持高达 12800 MT/s 的 MRDIMM,每插槽内存带宽高达 1.6 TB/s,可确保持续为加速器提供数据,并支撑长上下文智能体推理。

面向通用计算的 CPU:该角色由丰富的 AMD EPYC(霄龙)9006 系列服务器 CPU 产品共同承担,负责运行智能体所依赖的各项工具和企业级工作负载,包括数据库、存储、应用服务以及与 AI 支持相关的工作负载;这类 CPU 凭借强大的推理能力(token 数/秒),为实时中小型语言模型(SLM、MLM)以及批处理工作提供助力。针对这些通用工作负载,该系列 CPU 可提供卓越性能6、出色能效和超高线程密度。

我们在一个产品组合下推出针对多种任务(即多种角色画像)量身打造的不同 CPU 产品,所有产品共享统一的软件生态系统和坚固的安全基石。对于涉及敏感数据的智能体任务,AMD EPYC(霄龙)9006 系列服务器 CPU 在内部建立可信域,并通过 AMD SEV 与可信 I/O 将其延伸至支持 TDISP 的 GPU、网络和存储设备,而这依托于成熟庞大的机密计算生态系统。这一点至关重要,因为随着智能体越来越多地处理受监管、专有和机密数据,信任边界必须跟随工作流程贯穿每一个环节。这就是智能体数据中心所采用的架构,同时也是 AMD EPYC(霄龙)9006 系列服务器 CPU 产品组合背后的机密计算能力。

AMD EPYC(霄龙)9006 系列服务器 CPU

面向智能体 AI 的完备服务器 CPU 产品组合7

AMD 没有试图用一种处理器来包揽一切,而是在 AMD EPYC(霄龙)9006 服务器 CPU 产品组合下精心设计了四个处理器系列:AMD EPYC(霄龙)9006 SP7、9006 SP8、9006X SP7 和 9006 LP 服务器 CPU。每个系列瞄准智能体工作流程的特定环节,并包含多款 SKU,可适配不同性能需求与基础设施限制。至关重要的是,每个处理器系列也能胜任更广泛的数据中心工作负载,因为作用于智能体工作负载的优势同样适用于传统工作负载类别。将每个处理器系列与其最擅长处理的工作负载相匹配,能够消除智能体工作流程场景下“一刀切”方案带来的性能取舍问题:在需要大规模部署智能体的场景下,选用高密度处理器;在需要为加速器供给数据的场景下,选用高频与高带宽处理器;在需要承载企业业务的场景下,选用高能效处理器。

我们的合作伙伴正在构建运行智能体 AI 所需的企业级系统,他们同样观察到这一转变。以下是我们的合作伙伴在智能体时代逐步成型过程中所观察到的行业态势。

想要深入了解?详细了解我们产品组合中的 AMD EPYC(霄龙)9006 SP7、9006 SP8、9006X SP7 和 9006 LP 服务器 CPU,以及每个处理器系列是如何针对特定智能体工作负载及更广泛的应用场景进行专门设计。点击此处了解详情

附注

智能体数量为基于可用 CPU 线程资源的估算值,在统一理论工作负载下用作替代指标。实际智能体承载量和吞吐量将根据工作负载、模型、内存、软件、编排和系统配置而异。

  1. EPYC-067:基于 AMD 截至 2026 年 6 月对支撑智能体 AI 系统的代表性基础设施工作负载的内部分析与建模。性能评估结果反映了在模拟的 100kW 部署场景下估算得到的机架级吞吐量,其中测试的代理工作负载涵盖 Web 服务、数据基础设施和编排层。结果由 AMD 测试、第三方数据和预测综合得出,可能因系统配置、软件栈和工作负载组合而异。有关假设条件、工作负载和测量方法的详细信息,请详见 AMD 智能体 AI 机架级性能博客及 AMD 方法说明。
  2. EPYC-025D:截至 2026 年 7 月,第六代 EPYC(霄龙)9996 拥有 256 个核心和 512 个线程(启用 SMT)
  3. 9xx6-014:评估基于已发布的顶配核心数和 CPU 功耗(第六代 EPYC [霄龙] 的默认 CPU 功耗,以及第五代 EPYC [霄龙] 的热设计功耗 [TDP]);评估目标为单位 CPU 功耗可承载的最大智能体数量;评估机型包括基于以下处理器的服务器:第六代 AMD EPYC(霄龙)(400W 256 核)、AMD EPYC(霄龙)9965 (500W TDP),数据基准截至 2026 年 7 月 22 日。 每个内核 2 个线程 (SMT)。‎

    智能体数量为基于可用 CPU 线程资源的估算值,在统一理论工作负载下用作替代指标。实际智能体承载量和吞吐量将根据工作负载、模型、内存、软件、编排和系统配置而异。

    自第六代 AMD EPYC(霄龙)服务器处理器系列起,AMD 使用“默认 CPU 功耗”来描述处理器功耗,取代 AMD 此前使用的热设计功耗 (TDP) 一词。默认 CPU 功耗反映处理器计算芯片和 I/O 芯片在给定性能目标下的总功耗。默认 CPU 功耗和热设计功耗 (TDP) 均可作为处理器功耗参考,用于产品评估、平台规划和性能功耗比分析。‎‎‎
  4. 9xx6-013:评估基于已发布的顶配核心数和 1Ku 价格,评估指标为单位 CPU 成本可承载最大智能体数量以及单位 CPU 成本线程数;评估型号包括 AMD EPYC(霄龙)9006(512 个线程)和 AMD EPYC(霄龙)9005(384 个线程),数据截至 2026 年 7 月 22 日。线程数按每个核心 2 个线程计算 (SMT)。Intel 和 Xeon 是 Intel Corporation 或其子公司的商标。资料来源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf  
  5. 9xx6-012:基于 AMD EPYC(霄龙)服务器处理器在智能体 AI 方面的预估性能数据;在单机架 100kW 功耗限制下,AMD EPYC(霄龙)9996 所支持的每机架智能体数高于其他处理器。 
    与参考基准(88 个核心)的每机架核心数相比: 
    - AMD EPYC(霄龙)9996(256 个核心)提供的每机架核心数(含 SMT 线程数)为其 2.08 倍 
    - AMD EPYC(霄龙)9965(192 个核心)提供的每机架核心数(含 SMT 线程数)为其 1.86 倍 
    ‎ 
    资料来源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf  
  6. 9xx6-011:SPECrate®2026_int_base 性能评估,基于 AMD 内部对顶配双路第六代 EPYC(霄龙)CPU 和第五代 EPYC(霄龙)CPU 的性能估测数据,以及截至 2026 年 7 月 22 日的定价数据。初步性能预估基于 AMD 截至相应产品发布之日的工程预测或实测数据,可能会发生变更。双路 AMD EPYC(霄龙)9996,总共 512 个核心,600W 默认 CPU 功耗,成本 14904 美元,16x64GB 12800 MT/s MRDIMM,AOCC 6.0,性能确定性模式,SPECrate®2026_int_base 预估为 2250,SPECrate®2026_int_base/CPU 功耗预估为 1.875,SPECrate®2026_int_base/CPU 成本预估为 0.151 双路 AMD EPYC(霄龙)9965,总共 384 个核心,500W 热设计功耗 (TDP),成本 11988 美元,12x64GB DDR5-6400,AOCC 5.1,性能确定性模式,SPECrate®2026_int_base 预估为 1270,SPECrate®2026_int_base/CPU 功耗预估为 1.270,SPECrate®2026_int_base/CPU 成本预估为 0.106,2026 年 5 月 5 日,https://spec.org/cpu2026/results/res2026q2/cpu2026-20260210-00037.html SPEC® 和 SPECint® 是 Standard Performance Evaluation Corporation 的注册商标。了解更多信息,请访问 spec.org。自第六代 AMD EPYC(霄龙)服务器处理器系列起,AMD 使用“默认 CPU 功耗”来描述处理器功耗,取代 AMD 此前使用的热设计功耗 (TDP) 一词。默认 CPU 功耗反映处理器计算芯片和 I/O 芯片在给定性能目标下的总功耗。默认 CPU 功耗和热设计功耗 (TDP) 均可作为处理器功耗参考,用于产品评估、平台规划和性能功耗比分析。
  7. EPYC-068:AMD EPYC(霄龙)服务器 CPU 产品组合可覆盖业内极其广泛的数据中心部署场景,从通用企业级、云计算、电信、中小企业和高性能计算系统,到新兴 AI 环境(包括沙盒智能体 AI 部署和搭载 GPU 的主机节点服务器)。AMD EPYC(霄龙)第六代平台以独特方式融合多重优势,进一步拓宽场景适配能力:最高 512 线程的超高核心与线程密度、支持高达 16 通道 12.8 GT/s MRDIMM 的高级内存带宽、新一代 PCIe® Gen 6 连接能力;部分 SKU 最高加速频率可达 5 GHz。 
Share:

Article By


AMD 企业副总裁,服务器产品
Madhu Rangarajan 是一位经验丰富的技术高管,在服务器行业拥有超过 25 年的经验。

Contributors


Related Blogs