智能体 AI 时代已经到来

图像缩放
Digital AI system interacting with multiple tools and environments

生成式 AI 引入了能够推理和响应的系统。

智能体 AI 增强了这些系统,使其能够制订计划、采取行动和完成任务。

在智能体 AI 中,智能体会采取行动。它将目标转化为计划,检索和处理数据,触发推理,使用软件工具,并最终验证结果,在各个阶段之间循环迭代,直到任务成功完成。

在实践中,智能体 AI 不仅仅是您“可以与之聊天”的工具。它是一个帮助完成任务的数字助理 — 由用户请求、定时任务、事件或另一个智能体触发 — 通过代您操作软件来完成任务。编码智能体、研究智能体、IT 自动化智能体和业务流程智能体是早期被用于完成任务的智能体示例。

这种从对话到行动的转变从根本上改变了算力的平衡。智能体在 CPU 上运行,因此指数级增加的 CPU 算力需求改变了 AI 的基础设施要求。虽然智能体 AI 可能会增加 CPU 的使用量,但也可能会增加 GPU 的使用量。智能体 AI 通常使用 AI 推理(GPU 密集型工作负载)来提供智能,并使用工具(CPU 密集型工作负载)来执行任务。

从模型到系统:何为“智能体”AI

传统的 AI 部署以提示/响应循环为中心:用户提供提示,AI 模型提供响应。智能体 AI 是指具有自主性的系统 — 即具有在定义的边界内独立采取行动的能力。与单一的提示/响应循环不同,智能体将该循环扩展为一个系统:

  • 请求与分词:分解输入或提示,启动智能体会话

  • 规划与检索:这一层负责将企业知识库融入上下文中,并决定下一步该做什么

  • 推理与生成:主要模型推理,向智能体提供响应或进一步的指令以完成任务
  • 工具执行:这一层跨软件、服务和 API 进行操作,以采取具体行动

  • 验证与响应:确保响应的完整性和正确性,并将结果传递给用户,或者根据需要迭代流程
Agentic AI diagram

这种独特的循环模式正在改变业务流程。AI 系统现在已经演变成了一个庞大的任务集合体。单个请求可以产生多个智能体,每个智能体虽独立运行,但仍在定义的约束条件内,与软件、数据和服务交互,然后在任务完成时终止。

为什么智能体 AI 提升了 CPU 的重要性

智能体在 CPU 上运行。每个智能体还需要多个 CPU 来处理该智能体创建的所有任务。随着智能体 AI 规模化落地,GPU 之外的工作量也在不断增加:

  • 协调大量并发智能体
  • 管理系统状态和内存
  • 连接企业软件并与之交互
  • 处理控制路径逻辑和 I/O
为了支持所有这些功能,智能体系统中存在三种基本类型的 CPU 角色

AI 主机 CPU

负责数据的前处理和后处理,以最大限度提高运行推理的 GPU 的效率。AMD EPYC(霄龙)9005 高频 CPU 能够实现卓越的 GPU 效率。

智能体 CPU

负责托管智能体框架。在 CPU 和 GPU 之间协调所有任务,包括策略控制,如身份控制、预算和优先级排序。AMD EPYC(霄龙)9005 CPU,特别是高核心数型号,提供了扩展智能体工作负载所需的计算能力。

工具 CPU

负责执行由多个智能体生成的任务,这些任务需跨标准企业平台(如数据库、存储、计算、搜索等)进行。工具 CPU 存在于各种 CPU 和服务器配置中。AMD EPYC(霄龙)9005 服务器 CPU 提供了全面的性能、丰富的核心数选择以及多样的价位,以支持几乎任何规模和扩展需求。

优秀的智能体 CPU 应具备哪些特质?

高核心数,实现扩展并发智能体并支持高效的任务执行
能效,实现充分提高数据中心内的智能体容量
成本效益,实现大规模扩展智能体来满足需求以大幅降低总体拥有成本 (TCO)
成熟的企业级工具和框架软件生态系统

这些需求反映了为什么智能体 AI 从根本上说是一种通用计算范式

AMD EPYC 9005 Series

AMD EPYC(霄龙)服务器 CPU 非常适用于智能体 AI、

AMD EPYC(霄龙)9005 系列服务器 CPU 之所以成为支持全方位智能体 AI 工作负载的出色之选,是因为它们能够提供:

  • 出色的核心密度,可并行运行多个智能体
  • 能效卓越,每 TDP 拥有领先的 vCPU 数量
  • 成本效益出色,每 TCO 拥有高核心数
  • 原生兼容强大的企业级 x86 软件生态系统

AMD EPYC(霄龙)服务器 CPU 使客户能够将基础设施与多样化的工作负载需求相匹配 — 在吞吐量主导的场景中使用高核心数 CPU,在响应速度至关重要的场景中使用高性能核心 — 而无需将智能体 AI 强塞进“一刀切”的设计模式中。

关于智能体 AI 的常见问题

智能体 AI 的运行机制通常是将推理能力、规划能力、工具调用、记忆存储以及反馈循环这几大要素结合在一起。AI 智能体的工作流程是:接收目标、制定计划、选用合适的工具或数据源、执行操作、检查结果、按需调整。根据不同的应用场景,它可以连接到业务应用、数据库、API、电子邮件、聊天平台或工作流程系统。

生成式 AI 创建内容,例如文本、图像、代码、摘要或建议。智能体 AI 更进一步,能够采取行动。它可以将一个目标分解为多个步骤,决定下一步做什么,使用软件工具,检索信息,完成任务,并监控进度。在大多数情况下,智能体 AI 会使用生成式 AI,作为更大工作流程的一部分来提供智能支持。

智能体 AI 可以支持跨多个业务职能的复杂工作流程。常见的应用场景包括客户服务、销售支持、研究、软件开发、数据分析、IT 运营、市场营销、人力资源、财务和后台自动化。例如,AI 智能体可以研究潜在客户、更新 CRM、草拟跟进电子邮件并安排后续步骤。

智能体 AI 可以帮助组织提高生产力、减少重复性工作、加快决策速度并改善客户和员工体验。因为它可以管理多步骤流程,所以对于需要跨系统、团队或数据源进行协调的工作尤其有用。它还可以通过处理常规或耗时的活动,帮助员工专注于更高价值的任务。

只要在设计时加入合适的管控措施,智能体 AI 就能做到既安全又高效。重要的安全保障包括人工监督、明确的权限、数据安全、审计追踪、测试、审批工作流程以及对智能体可采取行动的限制。

资源