AMD EPYC（霄龙）9006 系列服务器 CPU 赋能智能体工作流程

智能体工作流程对基础设施提出了独特要求，既要运行智能体、为加速器提供数据，还要支持智能体所依赖的各类企业工作负载。AMD EPYC（霄龙）9006 服务器 CPU 产品组合阵容齐全，凭借覆盖三大核心角色的 CPU 产品，精准满足这些需求：大规模运行智能体沙盒、充分提升 AI 主机节点吞吐量，以及支持通用工作负载。

专用计算解决方案，赋能整个智能体工作流程

智能体工作流程并非是在单一系统上运行单一工作负载。对于基础设施负责人而言，这意味着为数据中心选择处理器不再是“一刀切”的单一决策。智能体工作流程涵盖智能体执行、加速器主机托管以及智能体完成工作所需调用的企业级服务，其中每一个环节都对 CPU 提出了不同要求。AMD EPYC（霄龙）9006 服务器 CPU 产品组合通过四个专用处理器系列来满足这些需求：AMD EPYC（霄龙）9006 SP7、AMD EPYC（霄龙）9006 SP8、AMD EPYC（霄龙）9006X SP7 和 AMD EPYC（霄龙）9006 LP 服务器 CPU。每个系列都包含多个 SKU，并针对不同工作负载和基础设施限制进行了优化。各个专用 CPU 系列都有相对应的最佳应用场景，可全面支持智能体工作流程，以及与之协同运行的云端、企业和高性能计算基础设施。

AMD EPYC（霄龙）9006 SP7 服务器 CPU：出色的单核性能，专为大规模部署而生

大规模运行智能体，为加速器提供数据，并支持智能体所依赖的工作负载

助力智能体沙盒执行。大规模智能体执行意味着，需要同时运行数千个智能体、执行它们生成的代码和任务，并大规模维持系统状态和内存，而这一切都需要超高线程密度。要满足这一需求，就需要一款将吞吐量和并发能力置于首位的 CPU。

• 响应迅速的智能体执行：出色的单核性能，结合同步多线程 (SMT) 技术，充分提升并发处理能力与利用率
• 超大智能体承载量：超高线程密度¹，配备多达 256 个核心和 512 个线程
• 高效大规模智能体运行：充分提升在单位功耗、单位成本和单个机架下运行的智能体数量^2、3、4

对于基础设施负责人而言，凭借这些能力，AMD EPYC（霄龙）9006 SP7 服务器 CPU 可提供两大优势：出色的单智能体性能和高效运行庞大智能体集群的总承载能力。

赋能 AI 主机节点。在 GPU 服务器上，让加速器得到充分利用是将原始算力转化为实际吞吐量的关键。这既要求每个 CPU 核心具备强大性能，也要求整个系统具备扩展整体吞吐量的超高容量。凭借专为 AI 主机节点设计的高频配置，AMD EPYC（霄龙）9006 SP7 服务器 CPU 可提供以下优势：

• 强大的主机节点性能：卓越的单核性能和高达 5GHz 的频率
• 更快的 CPU 到 GPU 数据传输：采用 PCIe® Gen 6，每通道带宽是上一代的 2 倍
• 维持高加速器利用率：依托高内存带宽，确保持续为加速器提供数据

支持通用服务器。对 AI 优先的数据中心进行现代化升级，意味着提高工作负载密度、为全新智能体服务腾出空间，并通过丰富的 SKU 支持具有不同限制条件的多样化工作负载。而这需要卓越的通用性能和超高线程数。

• 每机架更高的虚拟机和智能体密度：超高线程密度
• 通过整合降低总体拥有成本 (TCO)：用更少的服务器承载更多的工作负载⁵

对于超大规模数据中心和大型企业而言，这种整合有助于释放机架空间、电力和冷却能力，以支持不断增长的智能体工作负载。

AMD EPYC（霄龙）9006 SP8 服务器 CPU：按需规划企业算力，提升投资回报率 (ROI)

平衡算力、内存和 I/O，规模化部署智能体并支持企业工作负载

助力智能体沙盒执行。并非每次智能体部署都需要 256 个核心；边缘站点、小型集群和功耗受限的机架更看重效率而非密度。这类场景需要配置合理的低功耗方案，压低单智能体部署成本。

• 按需调整智能体执行：8 至 128 核心的灵活配置选项
• 高效部署：与工作负载需求相匹配的低功耗配置

AMD EPYC（霄龙）9006 SP8 服务器 CPU 系列与 AMD EPYC（霄龙）9006 SP7 服务器 CPU 系列形成有效补充，让客户能够根据每次部署的核心数和功耗要求来扩展并发智能体数量，同时帮助客户在各种基础设施限制下提高能效并降低单智能体成本。

支持通用服务器。企业运行多种不同的工作负载，包括数据库、存储、应用服务和 AI 支持任务等，而每项工作负载都有着不同的需求。因此，挑战在于为每项工作负载匹配合适的算力、内存和 I/O，使每台服务器的配置都与它所承担的任务相契合。

AMD EPYC（霄龙）9006 SP8 服务器 CPU 在计算、内存和 I/O 之间实现了均衡设计，搭配灵活多样的核心数选项，可帮助客户合理配置每台服务器，从而提高基础设施投资回报率。

• 均衡的企业级算力：兼顾算力、内存和 I/O
• 企业投资回报率：出色的单位系统成本性能、按需适配的核心数以及多线程技术，有助于降低软件许可成本

AMD EPYC（霄龙）9006X SP7 服务器 CPU：加快洞察获取速度，赋能高性能计算和技术计算

凭借大容量缓存和高带宽，加速内存敏感型工作负载

赋能高性能计算与技术计算。对于内存敏感型和数据密集型工作负载（如仿真、建模、大规模数据分析和长上下文推理），当处理器因等待内存数据而无法开展计算时，运行就会停滞。解决办法是依靠更大的缓存和带宽，让庞大的工作集尽可能靠近核心。

AMD EPYC（霄龙）9006X SP7 服务器 CPU 专为加速内存敏感型工作负载而生：

• 让更大的工作集靠近核心：通过采用 AMD 3D V-Cache 技术，使每核心的 L3 缓存容量达到同规格 AMD EPYC（霄龙）9006 SP7 SKU 的 3 倍⁶
• 更快的延迟敏感型工作负载处理速度：频率高于 5GHz
• 更高的数据吞吐量：内存带宽高达 1.6 TB/s

这些功能特性共同发挥作用，使得数据保留在核心附近，从而加速仿真、建模、大规模数据分析、检索和长上下文推理等场景下的洞察获取速度。该 CPU 系列专门面向带宽和缓存严重受限的智能体或其他工作负载。

AMD EPYC（霄龙）9006 LP 服务器 CPU：赋能新一代机架级 AI

在机架范围内实现高 AI 吞吐量

赋能 AI 主机节点。新一代 AI 基础设施以整机架为设计单位，而非单台服务器。这类搭载大量加速器的高密度系统，需要主机节点能够维持整个机架的高 AI 吞吐量，同时保持每个 GPU 的数据供给。

AMD EPYC（霄龙）9006 LP 服务器 CPU 专为赋能机架级 AI 主机节点而打造：

• 更快的 CPU 到 GPU 连接：具备 112 Gb/s xGMI
• 高频主机处理：频率高达 5GHz
• 高能效内存：支持 LPDDR5X

对于设计机架级 AI 的基础设施负责人而言，AMD EPYC（霄龙）9006 LP 服务器 CPU 将这些能力融为一体，有助于在部署规模从单节点扩展到整个 AI 工厂时，维持高加速器利用率和 AI 吞吐量。

根据工作负载选用合适的 CPU

该产品组合经过精心设计，涵盖四个处理器系列，每个系列均包括多款 SKU，分别针对不同工作负载和基础设施要求进行了优化：

• AMD EPYC（霄龙）9006 SP7 服务器 CPU：凭借出色的单核性能和扩展能力，为智能体沙盒执行、AI 主机节点和高线程密度通用计算赋能助力
• AMD EPYC（霄龙）9006 SP8 服务器 CPU：面向智能体沙盒和混合型企业工作负载，提供适配的高效算力
• AMD EPYC（霄龙）9006X SP7 服务器 CPU：凭借高缓存性能，赋能内存敏感型高性能计算和技术计算
• AMD EPYC（霄龙）9006 LP 服务器 CPU：针对新一代机架级 AI 系统而优化的 AI 主机节点

我们的合作伙伴已开始基于该产品组合构建系统、软件和内存解决方案。下面是各大内存合作伙伴的观点。

携手推动智能体 AI 发展

智能体 AI 属于一种协同编排的工作流程，涵盖智能体执行、加速器推理以及底层的各类企业级工作负载。每个环节对 CPU 的要求各不相同，因此在每个阶段选对处理器至关重要。AMD EPYC（霄龙）9006 服务器 CPU 产品组合提供了四个量身打造的处理器系列，每个系列都包含针对特定角色优化的多个 SKU，并拥有庞大生态系统的支持。这使得客户能够在智能体 AI 工作流程的各个环节，灵活地将 CPU 与对应的工作负载进行适配，且不会增加集成复杂性。依托 AMD EPYC（霄龙）9006 系列服务器 CPU，您随时可以着手打造智能体基础设施。