全栈式企业级 AI

AMD 企业 AI 套件能够让企业从裸机计算直接过渡到生产级 AI,只需几分钟即可完成,其方法是将关键的开源 AI 框架和生成式 AI 模型与适用于企业的 Kubernetes 平台相连接,从而大幅缩短从 AI 实验到 AMD 计算平台上大规模生产的时间。

图表

加速企业 AI 从试点到生产的过渡

优化算力利用率

借助 AMD 企业 AI 套件,您的 AI 算力可在不同用户组、项目及用例间实现高效利用。

加速实现价值

短短数分钟内,即可从裸机或云环境过渡到在生产环境中运行工作负载。

高效的 AI 运营

通过实现基础设施自动化,从而专注于发掘 AI 的真正价值。

出色的总体拥有成本 (TCO)

经济高效的高性能硬件与经过优化的软件相得益彰。

开源模块化架构

完全开源的平台确保您避免供应商锁定,并充分利用全球 AI 业界的成果。

大规模部署、管理和加速 AI 工作负载

基于 AMD 数据中心技术构建,具备企业级扩展能力。其直观的界面能帮助各组织快速启动 AI 开发,并高效利用整个组织的计算资源。

short top curved fade divider

AMD 推理微服务

预构建推理容器,集成了模型、引擎及针对 AMD 硬件的优化配置。支持 OpenAI 兼容的 API 和开放式权重模型,无需重新进行工程设计即可实现快速部署。硬件感知调谐功能可优化精度、张量并行度和吞吐量,从而实现出色性能。

大规模推理能力

提供智能推理路由和调度、模型缓存以及基于实际利用率的实时自动资源收放功能,并全面兼容行业标准 API。


优化的 AIM 容器和操作系统运行时

模型配置文件针对 AMD 硬件选项和用例特定 KPI 进行了优化。


企业级安全性和治理

通过实时监控仪表板,以及模型与密钥的生命周期管理,提供卓越的可观测性与模型管理能力。

AMD AI 工作台

AMD AI 工作台提供了用户友好的低代码环境,便于用户管理 AIM 部署。为 AI 开发者提供低代码微调功能,内含易于使用的配置方案;同时为专家级用户提供工作空间和 CLI 参考工作负载。

图像缩放
AMD AI Workbench
部署和管理 AIM

直观易用的界面,支持您开展 AIM 部署,并对其进行交互和监控。


开发者工作空间

基于笔记本、主流 IDE 或灵活的 SSH 级别访问权限的虚拟化开发环境。


社区开发者工具

为开发者提供主流的 AI 开发工具,涵盖从实验跟踪、流水线到基准测试与性能剖析的全流程。

AMD 资源管理器

AMD 资源管理器提供稳健的集群管理、实时监控和精细的访问控制功能,助力组织高效管理计算资源。

图像缩放
AMD Resource Manager
智能资源调度

基于预定义策略和优先级进行智能工作负载调度,从而灵活分配资源,降低 GPU 闲置率。


作业队列管理

通过智能配额分配与动态资源收放,确保团队间及工作负载间的计算资源均衡分布。


指标和分析

跟踪和监控不同用户组及工作负载的算力利用率。根据实际反馈优化资源分配。

short bottom curved fade divider

立即体验