全面优化的 GPU 软件栈

AMD ROCm 是一个开放式软件栈,包含多种驱动程序、开发工具和 API,可为从底层内核到最终用户应用的 GPU 编程提供助力。ROCm 已针对生成式 AI 和 HPC 应用进行了优化,而且能够轻松将现有代码迁移到 ROCm 软件。

ROCm 7 新增功能

全面支持 AMD Instinct MI350 系列 GPU

推出 ROCm 运维平台,支持全方位的 Kubernetes 和 Slurm 集成

核心功能包括企业级安全性、群集级控制、专家并行,以及对新型数据类型 FP6 和 FP4 的支持,带来更出色的灵活性与性能

基于 LLM-d、SGLang、vLLM 实现分布式推理,以更出色的可扩展性、更低延迟、更高性能轻松应对大规模 AI 任务

出色的客户端 AI 解决方案,不仅内置 Linux 支持,还全方位支持 Windows

AMD ROCm Lockup White

ROCm 发展历程

近十年来,ROCm 得到知名企业和研究机构的广泛采用。探索 ROCm 发展历程中的各个里程碑。

合作伙伴和成功案例

轻松应对要求严苛的工作负载 

ROCm 助力 AI 和 HPC 应用开发,轻松应对一系列要求苛刻的工作负载。

AI

大语言模型

图像和视频生成

建议生成

计算机视觉

高性能计算

生命科学

计算流体力学

能源

环境科学

ROCm 为 AI 工作负载赋能

ROCm 面向 AI 工作负载提供一系列优化方案,并支持包含众多开放式框架、模型和工具的 AI 软件生态系统。

简化的模型开发

支持 Hugging Face 上的多种模型,可用于开发满足用户特定需求的解决方案

支持主流先进框架

针对 TensorFlow 和 PyTorch 等主流先进 AI 框架提供上游支持

机器学习库

提供有关机器学习的专有库,其中包括 MIOpen 和 MIVisionX 等

横向扩展部署

支持 Docker、Singularity、Kubernetes® 和 Slurm 等主要容器化工具,以实现大规模部署

AMD Data Center and Cloud Computing

AMD Developer Cloud 助力构建 AI 模型

申请体验 AMD Instinct 加速器以简化开发过程。

ROCm 助力高性能计算和超级计算

ROCm 软件助力各行各业实现高性能计算,帮助应对当今世界面临的一些严峻挑战。此外,ROCm 还在一些全球先进的超级计算机上得到采用,为应用开发提供助力。

HPC 编程语言

支持适用于 HPC 工作负载的多种编程语言,并提供一系列工具来帮助开发人员解决手头上的问题,包括 OpenMP®、HIP、OpenCL™ 和 Python™

数学和通信库

包括各种数学和通信库,使开发人员能够交付功能更强大的 HPC 代码并提升系统性能

一应俱全的开发人员工具集

AMD ROCm 软件为开发人员和研究人员带来了一系列工具,能够实现灵活管理、质控和监控等功能。 

开发工具、探查器和调试

支持一系列工具,帮助开发人员跟踪、分析和调试,从而有助于缩短应用开发时间

容器部署管理解决方案

支持主要的容器化工具,以简化系统和工作负载部署,并协助管理用于 AI 和 HPC 的大规模 AMD GPU 加速群集

系统资源监视工具

包含供系统管理员和群集管理员检测问题和排除故障的工具

远程管理器功能

包含用于简化大规模系统 GPU 监视的高级带外可管理性系统

支持的 GPU

开发人员资源

ROCm Developer screen shot

ROCm 开发人员中心

着手开发支持 AMD GPU 加速的应用。访问 ROCm 开发人员中心,获取最新的用户指南、容器、培训视频、网络研讨会等内容。

基于 AMD Radeon GPU 进行 ML 开发

使用 PyTorch 处理 ML 模型与算法时,研究人员和开发人员现在还可以在 Ubuntu® Linux® 上使用 ROCm(从 5.7 版开始),充分发挥全新 AMD Radeon 7900 系列台式机 GPU 强大的并行计算能力。²

附注

©2024 AMD 公司,版权所有。保留所有权利。AMD、AMD 箭头标识、AMD ROCm、AMD Instinct、EPYC(霄龙)、Radeon Instinct 及其组合是 AMD 公司的商标。PyTorch 是 PyTorch 公司的商标或注册商标。本文中用到的其他产品名称仅用于标识目的,可能是其各自公司的商标。

  1. 如需了解 ROCm 所支持的全部 Radeon 产品,请访问 https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html  
  2. Radeon AI 技术兼容所有 AMD Radeon 7000 系列及后续推出的显卡。购买前请先咨询您的系统制造商是否支持相关功能。GD-232。