AMD Primus

複雑さを排除した AI モデルの大規模トレーニング

Primus は、トレーニング セットアップ、最適化された Transformer、実稼働運用を 1 つのモジュール型エクスペリエンスに統合します。再現可能なワークフロー、カーネル アクセラレーション、クラスター検証、監視が組み込まれているため、初回実行からフリート規模のトレーニングへ迅速に移行できます。

Primus を使ってできること
Software icon

分散ジョブを監視し、問題を迅速にデバッグ

Gear icon

単一の CLI で再現可能なトレーニング実験を開始

Fast icon

最適化された演算子を使用して Transformer ワークロードを高速化

Accomplishments icon

大規模なトレーニング実行前にクラスターを検証

Black fade

Primus プラットフォーム

Primus は、実験セットアップからクラスター規模の運用までのトレーニング ライフサイクル全体をサポートするモジュール式コンポーネントを提供します。

フレームワーク

リーダーシップ フレームワークのサポート

  • Megatron-LM
  • PyTorch TorchTitan
  • JAX MaxText

AMD Primus

AMD ROCm™ でのトレーニング ワークフロー

大規模トレーニング向けリファレンス アーキテクチャ

  • 設定
  • 検証
  • 高速化
  • 監視
  • 最適化

AI 開発者


なし

検証 + 監視

  • Primus Tuning Agent & Primus Projection
  • Primus-Bench & Primus Preflight
  • Primus-Lens
なし

本番環境事前学習

  • Primus-LM
  • Primus-Turbo
  • Primus-SaFE
なし

Production Scale RL - 近日公開

RL ワークフロー パス

  • OSS RL スタック
  • veRL、Miles、Slime のサポート
  • AMD 検証済み Docker & アップストリーム CI/CD

基盤

AMD ROCm™ Core SDK

ライブラリ | コンパイラ | ツール | ランタイム

パフォーマンス ベンチマーク

Primus ベンチマークを実行すると、顧客が AMD Instinct™ GPU の処理能力をモデル開発の高速化にどの程度、活用できているかがわかります。シングル ノードからマルチノード クラスターへとスケーリングしながら、GPU 使用率を最大化できれば、トレーニング所要時間を短縮すると共に、さまざまなモデル アーキテクチャでトレーニング効率を向上させることができます。

ROCm 10 と ROCm 7 の比較

トレーニング改善の加速

DeepSeek-V3-16B

DeepSeek-V2-Lite

Qwen3-30B-A3B

リリース間: 性能の向上
2.01x
2.54x
2.76x
平均 2.4X
各モデルで前のリリースより高速

並列化とスケジューリング

パイプライン並列化、シャーディング データ並列化、勾配オールリデュースのオーバーラップ

メモリ管理

活性化チェックポイント、FP8 混合精度、融合勾配累積

最適化されたカーネル

融合 FlashAttention (fwd + bwd)、グループ化 GEMM • 融合オプティマイザー ステップ

大規模にテスト、本番環境で実証

Zyphra がどのようにフルスタック AMD プラットフォーム上で ZAYA1 をゼロから構築したのかをご紹介します。このコラボレーションは、1,000 個以上の GPU でトレーニングされた比較対象モデルが、E2E Instinct スタック上の本番環境で収束することを示しています。

Black fade