最佳化顯示卡軟體堆疊

AMD ROCm™ 是一種開放式軟體堆疊,包括驅動程式、開發工具和 API,可編寫從低階核心到終端用戶應用程式的顯示卡程式設計。ROCm 已針對生成式 AI 和 HPC 應用程式進行最佳化,可輕鬆將現有的程式碼移轉至 ROCm 軟體。

ROCm 7 的新功能

完整支援 AMD Instinct™ MI350 系列顯示卡

ROCm 作業平台,提供完整的 Kubernetes 與 Slurm 整合

主要功能包括企業安全性、叢集規模控制、專家平行化,以及可增強彈性與效能的新資料類型 FP6 和 FP4

以 llm-d、SGLang、vLLM 實現分散式推論,可在大規模 AI 工作中提供擴充性、低延遲,以及更高的效能

內建 Linux 與完整 Windows 支援的用戶端 AI 解決方案

AMD ROCm Lockup White

ROCm 的逐年演進

頂尖企業與研究機構已運用 ROCm 近十年之久。探索 ROCm 歷史的各種里程碑。

合作夥伴與成功證明

處理需求最嚴苛的工作負載 

ROCm 可為各種需求嚴苛的工作負載實現 AI 和 HPC 應用程式開發。

AI

大型語言模型

影像和影片生成

建議

電腦視覺

HPC

生命科學

運算流體動力學

能源

環境科學

實現 AI 工作負載的 ROCm

ROCm 為 AI 工作負載提供一套最佳化功能,並支援更寬廣的 AI 軟體生態系統,包括開放架構、模型和工具等。

簡化模型開發

支援多種 Hugging Face  模型,可用於開發使用者專屬解決方案

支援頂尖架構

為 TensorFlow 和 PyTorch等頂尖 AI 架構提供上游支援

機器學習程式庫

提供專屬的機器學習程式庫,包括 MIOpen 和 MIVisionX

可擴充的部署功能

支援頂尖容器化工具(包括 Docker、Singularity、Kubernetes® 和 Slurm),以實現大規模部署

AMD Data Center and Cloud Computing

在 AMD Developer Cloud 上建置您的 AI 模型

申請 AMD Instinct™ 加速器的存取權,簡化您的開發。

實現 HPC 和超級電腦運算的 ROCm

ROCm 軟體可實現各種領域的 HPC,協助解決一些世界上最艱難的挑戰。ROCm 也協助全球頂尖的超級電腦開發應用程式。

HPC 程式設計語言

支援 HPC 工作負載的多種編程語言選項,為開發人員提供一系列工具以協助解決眼前的問題,包括 OpenMP®、HIP、OpenCL™ 與 Python™

數學和通訊程式庫

包含各種數學與通訊程式庫,協助開發人員交付功能更完善的 HPC 程式碼並提高效能

全方位的開發人員工具組

ROCm 包含全方位工具組,為開發人員與研究人員提供彈性化的管理、品質控制和監測功能。 

開發工具、分析工具與除錯功能

支援多種工具,協助開發人員追蹤、分析和除錯,進而縮短完成應用程式開發時間

適用於容器部署的管理解決方案

支援頂尖容器化工具,可協助簡化系統與工作負載部署作業,以及管理經 AMD 顯示卡加速的大規模 AI 與 HPC 叢集

系統資源監控工具

包含多種工具,可供系統管理員和叢集管理員偵測問題和進行疑難排解

遠端管理員功能

包含進階頻外易管理電路,可簡化大規模系統的顯示卡監控作業

支援的顯示卡

開發人員資源

ROCm Developer screen shot

ROCm 開發人員中心

著手開發經 AMD 顯示卡加速的應用程式。造訪 ROCm 開發人員中心,取得最新的使用者指南、容器、訓練影片,網路研討會等資訊。

AMD Radeon 顯示卡上的 ML 開發

使用 PyTorch ML 模型和演算法的研究人員和開發人員現在也可以在搭載 ROCm(從 5.7 版開始)的 Ubuntu® Linux® 上,發揮最新款 AMD Radeon 7900 系列桌上型電腦顯示卡的平行運算力。²

ROCm 時事通訊

接收最新的 ROCm 資訊。

尾註

©2024 Advanced Micro Devices, Inc. 保留所有權利。AMD、AMD 箭頭標誌、AMD ROCm、AMD Instinct、EPYC、Radeon Instinct 及其相關組合為 Advanced Micro Devices, Inc. 的商標。PyTorch 為 PyTorch 的商標或註冊商標。本出版物中使用的其他產品名僅用於識別目的,可能屬於其各自公司的商標。

  1. 如需 ROCm 支援的 Radeon 料件完整清單,請前往 https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html  
  2. Radeon™ AI 技術與所有 AMD Radeon 7000 系列以及更新的顯示卡相容。購買前,請洽詢您的系統製造商,以瞭解功能可用性。GD-232。