面向企业级 AI 的完整参考技术栈
通过将关键的开源 AI 框架和生成式 AI 模型与企业级 Kubernetes 平台相整合,企业可依托 AMD 计算平台在短短数分钟内从裸机计算过渡到生产级 AI,从而充分缩短从 AI 实验到大规模生产所需的时间。
加速企业 AI 从试点到生产的过渡
优化算力利用率
确保您的 AI 算力可在不同用户组、项目及用例间实现高效利用。
加速实现价值
短短数分钟内,即可从裸机或云环境过渡到在生产环境中运行工作负载。
高效的 AI 运营
通过实现基础设施自动化,从而专注于发掘 AI 的真正价值。
出色的总体拥有成本 (TCO)
经济高效的高性能硬件与经过优化的软件相得益彰。
开源模块化架构
完全开源的平台确保您避免供应商锁定,并充分利用全球 AI 业界的成果。
AMD 推理微服务
预构建推理容器,集成了模型、引擎及针对 AMD 硬件的优化配置。支持 OpenAI 兼容的 API 和开放式权重模型,无需重新进行工程设计即可实现快速部署。硬件感知调谐功能可优化精度、张量并行度和吞吐量,从而实现出色性能。
大规模推理能力
提供智能推理路由和调度、模型缓存以及基于实际利用率的实时自动资源收放功能,并全面兼容行业标准 API。
优化的 AIM 容器和操作系统运行时
模型配置文件针对 AMD 硬件选项和用例特定 KPI 进行了优化。
企业级安全性和治理
通过实时监控仪表板,以及模型与密钥的生命周期管理,提供卓越的可观测性与模型管理能力。
AMD 解决方案蓝图
基于 AIM 构建、开箱即可部署的参考应用,既能实现快速部署,也可作为开发起点。借助解决方案蓝图,可轻松在微服务解决方案场景中探索 AIM,包括智能体工作流、文档总结、RAG 聊天机器人和 AI 编码助手等场景。
灵活适配企业需求
可根据您的需求灵活扩展和修改经验证的参考应用,同时保持部署一致性。此外,还可根据您的部署要求自定义解决方案蓝图。
Kubernetes 原生部署
解决方案蓝图打包为 Helm Chart,可直接在基于 AMD 计算技术的 Kubernetes 集群上进行部署。
AMD 解决方案蓝图目录
探索不断扩大的解决方案蓝图目录,其中包含演示、接口、智能体平台以及工作流程。
资源