Vultr 通过 AMD 软件组件助力企业级 AI 发展

面向大规模生产级 AI 的开放式构建块

要点速览：

• 通过与 AMD Silo AI 紧密合作，Vultr 已在 Vultr Marketplace 上提供针对 AMD Instinct GPU 优化的 AMD 企业级 AI 软件组件。
• 整套组件依托 Vultr 全球云 GPU 基础设施及配套的托管 Kubernetes 运行，包括 AMD Inference Microservices (AIM)、AMD AI Workbench 和 AMD Resource Manager。
• 通过从 Vultr Marketplace 部署 AMD AI Workbench，可消除以往复杂的设置过程，让客户立即获得生产级 AI 开发环境

Vultr 是全球最大的私营云基础设施提供商之一，现已将 AMD 企业级 AI 软件组件引入其 Marketplace。整套组件由 AMD Silo AI 打造并由 AMD Instinct GPU 提供支持，运行于 Vultr 全球云 GPU 基础设施及配套的托管 Kubernetes 之上。组件包含 AMD Inference Microservices (AIM) 目录和 AMD Resource Manager，可通过 AMD AI Workbench 部署，目前已在 Vultr Marketplace 上提供。

集群、网络和证书设置开箱即用，让用户能够从预配阶段直接进入开发阶段。

“Vultr 与 AMD 携手，依托针对 AMD Instinct GPU 进行优化的标准化开放微服务架构，帮助企业实现 AI 推理的落地应用。企业团队仅需几分钟即可在全球范围内部署安全、可扩展的推理服务，同时保持对现有基础设施的灵活控制，从而降低运营开销、提高 GPU 利用率，并加速从 AI 开发到生产部署的进程。”，Vultr 首席营销官 Kevin Cochrane 如此表示。

对于正在评估 Vultr+AMD 整套技术栈的平台团队而言，可从 Marketplace 快速上手，仅需几分钟即可生成一个安全的推理端点，省去以往繁琐的手动集成工作。

“通过在 Vultr 的托管 Kubernetes 上部署 AMD AI Workbench，可消除以往复杂的设置过程，无需进行 VKE 配置，从而大幅缩短部署时间。这套 Marketplace 解决方案真正的核心优势在于开箱即用的功能。当您从 AI Workbench 部署 AMD Inference Microservices 时，可自动获得公共 IP 分配以及 SSL 证书配置，以实现安全通信。这些并非附加功能或后期追加的功能，而是原生内置于基础架构中。这正是我们的客户理应享受到的便捷体验。”，Vultr 开发者关系总监 Mayank Debnath 如此表示。

企业级 AI 不再局限于实验阶段

企业级 AI 格局已发生根本性转变。企业不再纠结于是否要部署 AI，而是在思考如何以规模化的方式、按照自身需求来部署 AI，同时避免受控于单一供应商生态系统。

然而，对于企业级和智能体解决方案，从原型设计到量产部署的道路依然充满割裂感。开发团队需要将数十家厂商提供的推理引擎、编排器、模型注册表和监控工具拼凑在一起，而其中每一项都有其自身的要求、许可限制和集成开销。碎片化的环境会导致堆栈脆弱、成本难以预测，以及难以随着模型和需求的演进而灵活调整的架构。

整个生态体系都面临着相同的难题。无论是在本地部署、构建客户解决方案、将 AI 嵌入平台，还是提供托管服务，企业都需要一种可大规模应用、灵活开放且可靠的生产就绪型 AI 基础设施。

“对于企业级 AI 软件，我们秉持一个简单的理念：企业级 AI 基础设施应具备模块化、开放性和灵活性的特点。我们不会强制企业采用整体式平台，而是让客户能够使用可自由组合的构建块，这些构建块可与现有环境无缝集成，并支持从裸机到生产推理的完整 AI 生命周期，涵盖微调、可扩展性、安全性及治理。”，AMD Silo AI 高级总监 Alexander Finn 如此表示。

专为企业级 AI 生命周期打造的软件

AMD 的企业级 AI 软件组件专为解决一个核心问题而打造：如果企业级 AI 基础设施能够以可组合的开放式微服务（即企业可采用、调整和扩展以补充现有软件栈的构建块）形式构建，会出现什么情况？

答案并非一个整体式平台，而是一个由模块化组件组成的可组合生态系统，每个组件均可独立部署，并专为 AI 生命周期中的特定功能而打造。所有组件均通过宽松的开源许可协议提供，这意味着无需支付许可费用，并且可自由修改和商业化。

四个核心组件涵盖完整的 AI 生命周期，包括推理服务、GPU 治理、工作负载编排及应用模板，且每个组件都配备了专属功能，助力运行规模化生产级 AI。

AMD AI Workbench

AMD AI Workbench 是一个全面的开发环境，提供支持 GPU 的自助式工作空间（VSCode 和 JupyterLab）、优化的 AIM 目录，以及用于训练和微调的参考工作负载。工作台包含 AIM 引擎，这是一款 Kubernetes Operator，可在集群上统筹管理 AIM 的完整生命周期，包括可配置的推理自动扩展功能。

AMD Inference Microservices (AIM)

AIM 是容器化、可直接用于生产环境的推理微服务，通过与 OpenAI 兼容的 API 提供标准化的模型服务。它们提供针对 AMD 硬件的自动检测与优化功能、基于配置文件的智能配置，并支持庞大的开源基础模型生态系统。无论是运行单个端点还是数百个端点，均可部署任何受支持的模型，并提供统一 API、自动扩展能力和企业级可靠性。

AMD Resource Manager

AMD Resource Manager 支持企业级 GPU 治理与 AI 工作负载编排。它提供集群管理、组织与团队层级管理、GPU 配额分配与实施、基于角色的访问控制，以及 SSO/IAM 集成功能。凭借专为 AI 工作负载打造的集成式调度引擎，可实现 GPU 资源公平共享，并提供配额保障，从而充分减少 GPU 闲置时间，同时确保工作负载隔离与可预测性。此外，该引擎还配备实时监控仪表板，让您清晰掌握各个层面的运行状况。

AMD Solution Blueprints

AMD Solution Blueprints 提供了一个参考应用目录，通过将 AIM 与编排逻辑相结合，以解决现实世界中的企业和智能体挑战。凭借 15 个以上经验证的模板，涵盖智能体 RAG、文档摘要、编码助手、金融智能以及多智能体工作流程，AMD Solution Blueprints 通过提供可部署的架构，帮助团队根据自身具体需求进行定制，从而加速实现价值。

面向整个生态系统：本地部署、集成商、ISV、OEM 和 CSP

宽松的开源许可模式和模块化架构，使得 AMD 组件能够充分满足企业级 AI 生态系统的广泛需求，并针对具体情境和应用场景提供差异化优势。

本地部署企业：能够自由定制每个组件，与现有安全和治理框架无缝集成，并且可实现扩展，而无需担忧按节点许可的限制。

系统集成商：通过选择与具体项目相匹配的 AIM，并将其与专有的增值服务相结合，将这些组件作为可组合的构建块用于客户部署，从而交付全包式 AI 解决方案，而无需重新构建基础设施。

独立软件供应商 (ISV)：通过将 AIM 直接嵌入其软件产品和垂直应用中，加速基于 AI 的产品开发。宽松的开源许可可降低再分发门槛，使 ISV 能够将 AI 功能作为自身产品的一部分进行捆绑、交付并变现。

原始设备制造商 (OEM)：将 AMD Solution Blueprints 以及单个微服务或完整堆栈嵌入其平台和设备中。宽松的开源许可允许贴牌分销，而模块化架构则有助于确保清晰的集成边界。

云服务提供商 (CSP)：在现有技术栈之上构建差异化的托管 AI 服务。部署完整生态系统，或将单个组件作为平台的一部分进行集成部署。

原生开放设计：随心部署、自主修改、自由交付

从 AIM 到 AMD AI Workbench 和 Solution Blueprints，每个组件均通过宽松的开源许可协议发布。这意味着：

• 无需许可费用：可按任意规模部署，不按每节点、每 GPU 或每 token 收取费用
• 完全修改权限：可根据您的具体需求调整任何组件
• 再分发自由：可自由嵌入、捆绑和商业化，不受著佐权 (copyleft) 义务约束
• 供应商选择：这些组件基于 ROCm 和 Kubernetes 构建，并可与现有工具链集成

这样设计软件栈是有原因的。企业级 AI 想要落地成功，需要一种特定的基础设施，以便整个生态系统能够以此为基础进行构建、灵活拓展、跨硬件部署。开放标准与框架能带来部署灵活性，并摆脱供应商锁定，让企业真正从中获益。

现已提供：在 Vultr Marketplace 上试用

AMD Inference Microservices 目录和 AMD Resource Manager 现已通过 Vultr Marketplace 上的 AMD AI Workbench 提供，可助力企业加速从零起步迈向生产级 AI 推理。

开始体验：

• 请访问 Vultr Marketplace 并探索 AMD AI Workbench 及 AIM 生态系统的其他组件：discover.vultr.com/amd-ai-workbench
• 请查阅 enterprise-ai.docs.amd.com 上的文档
• 访问 GitHub 上的源代码：github.com/amd-enterprise-ai

Vultr 全球云 GPU 基础设施搭配 AMD Instinct GPU 以及预配置组件，使 AI 应用开发者和企业能够将部署周期从数月缩短至数分钟。无论是要评估堆栈以便未来进行本地部署，还是要在云端运行生产工作负载，Vultr Marketplace 都能为您提供一个即时可用的起点。

在未来，企业级 AI 将采用开放、模块化架构，并以企业的部署需求而构建。AMD 企业级 AI 软件组件正是实现这一未来愿景的基石。