ROCm Core SDK
AMD ハードウェア上で GPU アクセラレーション アプリケーションを開発するために必要なすべての要素が揃っています。ROCm Core SDK には、ROCm ソフトウェア スタックの基盤となる基本的なライブラリ、ランタイム、コンパイラ、およびツールが含まれています。
ROCm 7.14 の新機能
本番環境対応の TheRock は、より高速なモジュール式の ROCm 開発を実現
AMD Instinct™ GPU、Radeon™、および Ryzen™ AI の幅広い AI ハードウェア サポート
先進的なオープンソース AI フレームワークおよび推論エンジンのサポートを最適化
クラウドネイティブのオーケストレーションと開発者向けツールを使用したエンタープライズ対応 AI 導入
分散型 AI、プロファイリング、拡張性の高い導入を実現できるようパフォーマンスを向上
ROCm 進化の道のり
およそ 10 年にわたり、業界をリードする企業や研究機関が ROCm を活用してきました。ROCm の歴史に刻まれたさまざまなマイルストーンをご覧ください。
ROCm Core SDK コンポーネント
ROCm Core SDK を支える主要コンポーネントのご紹介
HPC 向けの GPU アクセラレーションによる AI、数学、通信のライブラリ。ネイティブ roc* ライブラリは AMD GPU のパフォーマンスを最適化し、hip* ラッパーは CUDA からの移植を簡素化します。ハイパフォーマンスのマルチ GPU およびマルチノード通信ライブラリを使用して、分散型 AI および HPC ワークロードを拡張できます。
AMD コンパイラのツールチェーンとランタイムを使用して、GPU アプリケーションを効率的に開発および実行できます。AI、HPC、およびアクセラレーション コンピューティング アプリケーションを最適化するためのプロファイリングおよびデバッグ ツールを使用して、パフォーマンスの測定、GPU 使用率の分析、ボトルネックの特定を実行できます。
GPU ハードウェアの状態 (温度、電源、メモリ、リソースの割り当てを含む) をランタイム、ドライバー、OS ツールで監視および管理します。
温度、消費電力、リソース割り当てなど、GPU ハードウェアの状態を監視および管理します。
AI 推論
ROCm による本番環境対応の AI 推論
完全なオープンソース推論スタックを使用して、AMD GPU に主要なオープン モデルを展開します。事前に構築されたコンテナーとアップストリーム フレームワークのサポートにより、すぐに稼働を開始できます。
オープンですぐに利用できる推論
ワークフローの変更なしでファインチューニングからサービスの本番稼働まで
AMD ROCm は、アップストリーム フレームワーク サポート (PyTorch を含む) と vLLM および SGLang 用の検証済みコンテナーを備えた、オープンソースのエンドツーエンド推論スタックを提供しているため、ファインチューニングやベンチマークから本番サービス提供までを、AMD Instinct™ GPU 上で一貫したワークフローで進めることができます。
効率的な推論、デフォルトで最適化
高スループット、モデルごとのチューニングは不要
ROCm は、量子化されたモデル パッケージを、ネイティブの低精度実行および最適化された Transformer 用ホットパス カーネルと組み合わせて、チューニング作業を軽減しつつ、本番環境でのサービス提供のスループットと効率性を最大化します。
現代のサービスにおける分散型推論
ワークロードのプリフィル、デコード、スケールアウト対応の設計
ROCm は、プリフィル/デコード分離と、最適化されたマルチ GPU 通信およびマルチノード通信とを活かした、分散型推論に対応しており、推論スケールの拡大に合わせた応答性と使用率の維持に貢献します。
AI で Kubernetes の実稼働に対応
推論をフリート規模で確実に実行
ROCm は、AMD GPU Operator、組み込みテレメトリ、モジュール型ドライバー アーキテクチャを介して Kubernetes と統合することで、セキュアかつエアギャップ環境での自動ロールアウト、可観測性、予測可能なライフサイクル管理をサポートします。
AI トレーニング
AMD GPU 上で拡張可能なエンドツーエンド AI トレーニング
オープンなエンドツーエンドのソフトウェア プラットフォームを使用して、AMD GPU 上の AI モデルをトレーニングし、ファインチューニングできます。最適化されたフレームワーク、効率的な GPU アクセラレーション、単一 GPU からマルチノード クラスターへのシームレスなスケーリングを活用します。
最適化された AI トレーニング パフォーマンス
演算と最適化によりモデル トレーニングを加速
ROCm は AMD GPU の並列処理能力を活用して、トレーニング時間を短縮し、AI ワークロードの全体的なパフォーマンスを向上させます。最適化されたライブラリ、効率的なリソース管理、最新の AI フレームワークのサポートにより、開発者は GPU の使用率を最大化しながら、より大規模なモデルのトレーニングを加速できます。
専門性の高い AI 向けの効率的なファインチューニング
ROCm を使用してドメイン固有のタスクに基礎モデルを適応
ROCm は、最適化されたライブラリ、広範なフレームワーク互換性、効率的なリソース管理により、AMD GPU 上の大規模言語モデルやその他の基盤モデルのファインチューニングを高速化します。オープンソースのフレームワーク、モデル、ツールとシームレスに統合しながら、モデルをより高速にファインチューニングできます。
拡張性に優れた分散型トレーニング
AMD GPU クラスター上でマルチノード トレーニングを確実に実行
Primus は、分散型の実行、トポロジベースのスケジューリング、フォールトトレラントな運用により、AMD GPU クラスター全体でトレーニングの規模を拡大できるようにします。これにより、ワークロードやクラスターの成長に合わせて、より一貫性のあるトレーニングをサポートできます。
エンタープライズ対応のトレーニング運用
長時間実行ジョブのテレメトリ、検証、より迅速なリカバリ
Primus は、担当チームがトレーニングのパフォーマンスとクラスターの健全性を把握できるよう、テレメトリ、ダッシュボード、ノード健全性のベンチマークを提供します。これにより、組織は、信頼性を向上させ、トラブルシューティングを迅速化できるようになり、大規模なトレーニング ワークロードの運用が可能になります。
HPC およびスーパーコンピューティングのための ROCm
ROCm を使用して HPC アプリケーションを開発、拡張
最適化されたライブラリから主要なスーパーコンピューターに至るまで、ROCm は AMD GPU によるハイパフォーマンス コンピューティングを実現します。
HPC イノベーションの促進
科学、エンジニアリング、研究の飛躍的な進歩を促進
AMD ROCm™ は、エネルギー、分子動力学、物理学、計算化学、気候科学などの研究分野における高性能コンピューティング (HPC) およびスーパーコンピューティング ワークロードを可能にします。これにより、世界で最も複雑な計算上の課題に対処するためのオープンなソフトウェア プラットフォームを実現します。
柔軟な HPC プログラミング
アプリケーションに最適なツールで開発
ROCm は、OpenMP®、HIP、OpenCL™、Python™ などの複数の HPC プログラミング モデルをサポートしているため、開発者はワークロードに最適な言語とフレームワークを使用してアプリケーションを開発、最適化、拡張する柔軟性を得ることができます。
最適化された HPC ライブラリ
最適化されたライブラリでアプリケーションを高速化
ROCm には包括的な数学/通信ライブラリが含まれています。このライブラリは、HPC 開発を簡素化すると同時に、AMD の演算プラットフォーム全体を通したアプリケーションのパフォーマンス、拡張性、効率性を向上させるよう設計されています。
スーパーコンピューティングで実証済み
世界をリードするスーパーコンピューターを支える拡張性
AMD は、Frontier、LUMI、El Capitan システムなど、スーパーコンピューター上位 500 台のうち 177 台を支えています。ROCm は、エクサスケールをはじめとする要求レベルが非常に高い世界最大規模の HPC アプリケーションを実行するためのソフトウェア基盤を提供します。
パートナーのケース スタディ
パートナーシップと実証済みの成果
企業や世界をリードする研究機関が AMD と提携していることについて説明します。
関連ブログ記事
対応ハードウェア
開発者リソース
ROCm ニュースレター
最新の ROCm ニュースが届きます。
脚注
©2024 Advanced Micro Devices, Inc. All rights reserved.AMD、AMD Arrow ロゴ、AMD ROCm、AMD Instinct、EPYC、Radeon Instinct、およびこれらの組み合わせは、Advanced Micro Devices, Inc. の商標です。PyTorch は、PyTorch の商標または登録商標です。この資料に使用されているその他の製品名は識別目的のみに使用されており、所有するそれぞれの企業の商標である可能性があります。
- ROCm でサポートされている Radeon パーツの全リストは、https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html で閲覧できます。
©2024 Advanced Micro Devices, Inc. All rights reserved.AMD、AMD Arrow ロゴ、AMD ROCm、AMD Instinct、EPYC、Radeon Instinct、およびこれらの組み合わせは、Advanced Micro Devices, Inc. の商標です。PyTorch は、PyTorch の商標または登録商標です。この資料に使用されているその他の製品名は識別目的のみに使用されており、所有するそれぞれの企業の商標である可能性があります。
- ROCm でサポートされている Radeon パーツの全リストは、https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html で閲覧できます。