深入剖析智能体工作流程
智能体 AI 是由不同计算阶段组成的流水线
从网关到响应,每个阶段都对 CPU 提出了独特的要求。智能体 AI 会持续经历计算、内存、I/O、安全和加速密集型阶段。
精选资源
深入了解智能体工作流程为何会增加 CPU 需求。
CPU 角色
随着智能体 AI 的规模化落地,每个智能体都需要使用多个 CPU 来协同完成任务、管理内存、与企业软件交互并处理数据流,这全面推高了对 CPU 的需求。丰富的 AMD EPYC(霄龙)服务器 CPU 产品可满足这些算力需求:规模化部署智能体沙盒、充分提升 AI 主机节点吞吐量,以及为智能体完成工作所需的通用工作负载提供助力。
智能体沙盒 CPU
依托 AMD EPYC(霄龙)服务器 CPU 出色的性能功耗比、超高的单位成本线程数和每机架线程密度,优化智能体承载能力,从而在单位功耗、单位采购成本及单机架空间内,大幅提升可运行智能体的数量。2,3
AI 主机节点 CPU
借助高主频 AMD EPYC(霄龙)服务器 CPU,充分提高 GPU 利用率并帮助提升 Token 生成量,实现卓越的 GPU 效率并提供出色的单核性能。
通用 CPU
借助 AMD EPYC(霄龙)服务器 CPU 的广泛产品组合,统筹调度规划、工具调用与子智能体协同工作,将出色性能延伸至数据库、存储、计算和搜索等通用工作负载。
博客
常见问题解答
智能体 AI 的运行机制通常是将推理能力、规划能力、工具调用、记忆存储以及反馈循环这几大要素结合在一起。AI 智能体的工作流程是:接收目标、制定计划、选用合适的工具或数据源、执行操作、检查结果、按需调整。根据不同的应用场景,它可以连接到业务应用、数据库、API、电子邮件、聊天平台或工作流程系统。
生成式 AI 创建内容,例如文本、图像、代码、摘要或建议。智能体 AI 更进一步,能够采取行动。它可以将一个目标分解为多个步骤,决定下一步做什么,使用软件工具,检索信息,完成任务,并监控进度。在大多数情况下,智能体 AI 会使用生成式 AI,作为更大工作流程的一部分来提供智能支持。
智能体 AI 可以支持跨多个业务职能的复杂工作流程。常见的应用场景包括客户服务、销售支持、研究、软件开发、数据分析、IT 运营、市场营销、人力资源、财务和后台自动化。例如,AI 智能体可以研究潜在客户、更新 CRM、草拟跟进电子邮件并安排后续步骤。
智能体 AI 可以帮助组织提高生产力、减少重复性工作、加快决策速度并改善客户和员工体验。因为它可以管理多步骤流程,所以对于需要跨系统、团队或数据源进行协调的工作尤其有用。它还可以通过处理常规或耗时的活动,帮助员工专注于更高价值的任务。
只要在设计时加入合适的管控措施,智能体 AI 就能做到既安全又高效。重要的安全保障包括人工监督、明确的权限、数据安全、审计追踪、测试、审批工作流程以及对智能体可采取行动的限制。
资源
附注
- EPYC-068:AMD EPYC(霄龙)服务器 CPU 产品组合可覆盖业内极其广泛的数据中心部署场景,从通用企业级、云计算、电信、中小企业和高性能计算系统,到新兴 AI 环境(包括沙盒智能体 AI 部署和搭载 GPU 的主机节点服务器)。AMD EPYC(霄龙)第 6 代平台以独特方式融合多重优势,进一步拓宽场景适配能力:最高 512 线程的超高核心与线程密度、支持高达 16 通道 12.8 GT/s MRDIMM 的高级内存带宽、新一代 PCIe® Gen 6 连接能力;部分 SKU 最高加速频率可达 5 GHz。
- 9xx6-013:评估基于已发布的顶配核心数和 1Ku 价格,评估指标为单位 CPU 成本可承载最大智能体数量以及单位 CPU 成本线程数;评估型号包括 AMD EPYC(霄龙)9006(512 个线程)和 AMD EPYC(霄龙)9005(384 个线程),数据基准截至 2026 年 7 月 22 日。线程数按每个核心 2 个线程计算 (SMT)。Intel 和 Xeon 是 Intel Corporation 或其子公司的商标。
资料来源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
智能体数量为基于可用 CPU 线程资源的估算值,在统一理论工作负载下用作替代指标。实际智能体承载量和吞吐量将根据工作负载、模型、内存、软件、编排和系统配置而异。
- 9xx6-005A:vCPU 支持基于线程数,对比了顶配的第 6 代 EPYC(霄龙)9996 CPU(256 个核心,512 个线程)与第 5 代 EPYC(霄龙)9965(192 个核心,384 个线程)。
- EPYC-068:AMD EPYC(霄龙)服务器 CPU 产品组合可覆盖业内极其广泛的数据中心部署场景,从通用企业级、云计算、电信、中小企业和高性能计算系统,到新兴 AI 环境(包括沙盒智能体 AI 部署和搭载 GPU 的主机节点服务器)。AMD EPYC(霄龙)第 6 代平台以独特方式融合多重优势,进一步拓宽场景适配能力:最高 512 线程的超高核心与线程密度、支持高达 16 通道 12.8 GT/s MRDIMM 的高级内存带宽、新一代 PCIe® Gen 6 连接能力;部分 SKU 最高加速频率可达 5 GHz。
- 9xx6-013:评估基于已发布的顶配核心数和 1Ku 价格,评估指标为单位 CPU 成本可承载最大智能体数量以及单位 CPU 成本线程数;评估型号包括 AMD EPYC(霄龙)9006(512 个线程)和 AMD EPYC(霄龙)9005(384 个线程),数据基准截至 2026 年 7 月 22 日。线程数按每个核心 2 个线程计算 (SMT)。Intel 和 Xeon 是 Intel Corporation 或其子公司的商标。
资料来源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
智能体数量为基于可用 CPU 线程资源的估算值,在统一理论工作负载下用作替代指标。实际智能体承载量和吞吐量将根据工作负载、模型、内存、软件、编排和系统配置而异。 - 9xx6-005A:vCPU 支持基于线程数,对比了顶配的第 6 代 EPYC(霄龙)9996 CPU(256 个核心,512 个线程)与第 5 代 EPYC(霄龙)9965(192 个核心,384 个线程)。