从洞察到影响力：构建智能体系统所需的 AI 基础设施

AI 发展的下一个前沿不仅在于智能化，更在于智能体化。随着企业转向具备自主行动和实时决策能力的系统，对基础设施的需求不断攀升。

在这篇由 IDC 撰写的博客中，高性能计算研究经理 Madhumitha Sathish 探讨了组织如何通过灵活、安全且经济高效的 AI 基础设施策略，为这一转变做好准备。本文结合 IDC 的最新研究，重点阐述了企业现状，以及如何发挥智能体 AI 潜力以创造可衡量的切实业务成果。

请继续阅读，了解卓越组织如何构建智能体系统时代所需的基础设施。

智能体 AI 正在重塑企业发展策略

人工智能已成为企业转型的基石。2025 年，智能体 AI（即具备自主决策与动态任务执行能力的系统）崛起，重新定义了组织构建基础设施、治理体系和业务价值的方式。这类智能系统不仅能够分析数据，还能基于数据采取行动，并在数据中心、云端与边缘环境中实现实时自适应调整。

智能体 AI 可以重新分配计算资源以满足服务水平协议 (SLA)，根据延迟和合规要求协调云部署，并针对智能制造或物流场景中的传感器故障做出即时响应。然而，IDC 2025 年 7 月对 410 位 IT 及 AI 基础设施决策者的调查显示，大多数企业仍在探索如何充分释放这一技术的潜力。

IDC 洞察：75% 的企业对智能体 AI 的应用场景缺乏清晰认知

根据 IDC 调查数据，超过 75% 的企业表示不太确定智能体 AI 的应用场景。这种认知模糊会带来切实风险，可能导致相关计划停滞不前、与业务目标脱节，或引发合规挑战。自主系统需要强有力的监管。若无法明确具体的应用场景，组织所部署的模型可能会面临行为不可预测或违反内部政策的风险。

AI 规模化应用：单次落地场景不足 10 个

IDC 发现，83% 的企业单次同步落地的 AI 应用场景不足 10 个。这种谨慎的做法反映出策略碎片化以及规模化能力有限的问题。仅 21.7% 的企业会对拟定的 AI 计划进行全面的投资回报 (ROI) 分析，且仅 22.2% 的企业能确保这些计划与战略目标保持一致。其余组织则依赖于假设或基础评估，这可能导致效率低下并错失良机。

治理与安全：重要性日益凸显

随着生成式 AI 和智能体 AI 模型日益普及，治理与安全已成为企业准备工作的核心。IDC 数据表明，组织正在采取多层数据治理策略，包括：

• 限制对敏感数据的访问
• 对个人身份信息进行匿名化处理
• 应用生命周期管理策略
• 充分减少模型开发过程中的数据收集量

安全测试亦在不断演进。企业正通过模拟对抗性攻击、检测数据污染以及操纵提示词等方式来排查系统漏洞。输入净化和访问控制检查已成为标准做法，这反映出企业日益意识到 AI 安全必须贯穿整个开发流水线。

成本透明度：基础设施成本位居首位

AI 计划往往因成本结构不清晰而陷入停滞。IDC 报告表明，近三分之二的生成式 AI 项目在启动时会进行全面的成本评估，涵盖基础设施、许可、人工成本及可扩展性。最关键的成本因素包括：

• 训练专用基础设施 (60.7%)
• 用于推理的基础设施 (54.5%)
• 大语言模型 (LLM) 及专有工具的许可费用
• 云计算和存储成本
• AI 工程师及 DevOps 团队的薪资与管理开销
• 合规保障和治理框架

战略规划必须考虑到可扩展性、集成度以及长期可行性。

基础设施选择：灵活性至关重要

IDC 调查显示，不同的企业往往会选择不同的方案，包括自行构建系统、购买现成解决方案，以及与系统集成商合作。在训练方面，GPU、高速互连和集群级编排是首要考量。在推理方面，跨数据中心、云端和边缘环境实现低延迟性能至关重要。

值得注意的是，77% 的受访者认为，让服务器、笔记本电脑和边缘设备运行在统一的软硬件平台上非常重要或极其重要。这种标准化能够简化部署流程，确保性能稳定性，并支持模型的可移植性。

战略部署：数据中心、云端与边缘

推理工作负载正日益呈现分布式部署趋势。IDC 发现，63.9% 的组织在公有云环境中部署 AI 推理工作负载，而 50.7% 的组织仍在使用自有数据中心。边缘服务器在延迟敏感型应用场景中日益受到青睐，尤其是在制造和物流等行业。在最终用户设备上直接进行推理的情况依然有限，这反映出企业的战略重点在于可靠性与基础设施一致性。

展望未来：灵活敏捷、富有韧性且经济高效的基础设施

随着企业为迎接下一波 AI 创新浪潮做准备，基础设施敏捷性与治理体系完善程度将变得至关重要。智能体 AI 不仅需要具备实时响应能力，还需要高能效计算技术以及富有韧性的供应链做支撑。IDC 预测，通过优化电力和散热需求，战略性基础设施规划有助于降低运营成本，同时提高性能密度。企业还可以通过对不同 AI 环境进行工作负载感知型资源配置以及早期 ROI 建模，避免不必要的支出。可持续性将成为基础设施规划的核心，半导体供应保障也将成为战略重点。

AI 的未来不只在于更智能的模型，更在于更智能的基础设施。唯有将战略规划与业务价值、治理体系及运营灵活性相结合，企业才能在智能体时代占据领先地位。

在企业从智能体 AI 实验阶段转向落地部署阶段的过程中，AMD 始终是推动这一转型的可靠合作伙伴。依托卓越的计算引擎、开放生态系统以及全栈式解决方案，AMD 可助力组织从容自信地实现 AI 落地应用并保持韧性与敏捷性。

阅读全新发布的“IDC 分析师连线”报告

阅读全新发布的 IDC Spotlight 报告