AMD Primus

大規模訓練 AI 模型，無須面對繁複流程

Primus 將訓練設定、最佳化的轉換器與生產環境作業整合至單一模組化體驗中。透過內建而可重現的工作流程、內核加速、叢集驗證與監測功能，快速從首次執行擴大至全機群訓練。

有了 Primus，團隊可以：
Software icon

監測分散式工作，並更快速地進行問題除錯

Gear icon

只需透過單一 CLI，即可啟動可重現的訓練實驗

Fast icon

使用最佳化運算子加速轉換器工作負載

Accomplishments icon

在執行大規模訓練前驗證叢集

下載白皮書

主要元件

Primus 平台

Primus 提供模組化元件，支援從實驗設定到叢集規模作業的完整訓練生命週期。

可靠性工具

驗證與觀測

規劃訓練配置、驗證叢集整備度，並大規模監測執行。

尋找合適的訓練配置

Primus Tuning + Primus Projection

  • 尋找符合您顯示卡記憶體預算的訓練設定。
  • 預估顯示卡記憶體使用量與訓練輸送量。
  • 在完整叢集執行前找出可行的配置。
啟動前驗證叢集

Primus-Bench + Primus Preflight

  • 檢查叢集硬體與網路的健康狀態。
  • 進行效能基準測試，並標示節點極端值。
  • 在完整叢集啟動前測試訓練執行。
找出即時執行中的瓶頸

Primus-Lens

  • 監測訓練工作與叢集健康狀態。
  • 在儀表板中檢視分散式執行。
  • 使用警示來找出效能問題。

Primus Core

生產級預先訓練

透過最佳化運算子與具備韌性的叢集作業，支援大型模型訓練。

更快速啟動大型模型訓練

Primus-LM

  • 透過單一 CLI 啟動大型模型訓練。
  • 使用 YAML 與訓練方案來設定實驗。
  • 使用 Megatron-LM、PyTorch TorchTitan 或 JAX MaxText。
提升工作負載效能

Primus-Turbo

  • 透過最佳化運算子提升 Transformer 訓練輸送量。
  • 讓運算與通訊重疊以提高顯示卡使用率。
  • 與自訂訓練工作流程整合。
可靠的叢集規模執行

Primus-SaFE

  • 運用拓撲感知配置來排程工作。
  • 訓練前檢查叢集整備度。
  • 重試失敗的工作，並從檢查點繼續訓練。

RL 後訓練

生產級 RL

運用可立即執行、經驗證的 AMD ROCm™ 工作流程，透過 AMD Instinct™ 顯示卡擴充 RL 後訓練。

運用可立即執行的軟體堆疊，開始進行 RL 後訓練

ROCm 上的 veRL

  • 從軟體相依性已經過驗證的預先建置容器開始。
  • 執行 PPO、GRPO 和 DAPO 後訓練工作流程。
  • 依照您的環境自訂軟體版本與顯示卡目標。
推出與訓練各自獨立擴充

vLLM 與 SGLang 推出

  • 為推出選擇 AITER 加速的 vLLM 或 SGLang
  • 在完全非同步模式下，獨立調整推出或訓練顯示卡集區的大小。
  • 讓生成與訓練重疊以縮短對長篇回應的等候。
驗證各種訓練模式的模型品質

精準度與收斂

  • 使用適用於密集與 MoE 推論模型的已驗證範例。
  • 比較共置執行與完全非同步執行的收斂。
  • 追蹤驗證精準度、訓練獎勵，以及推出訓練一致性。

效能基準測試

Primus 基準測試展現出客戶能夠如何將 AMD Instinct™ 顯示卡的運算能力轉化為快速的模型開發成果，從單一節點擴充至多節點叢集，同時最大化顯示卡使用率、縮短訓練所需時間，並提高不同模型架構的訓練效率。

ROCm 10 對比 ROCm 7

加速提升訓練效能

DeepSeek-V3-16B

DeepSeek-V2-Lite

Qwen3-30B-A3B

版本間比較：效能提升
2.01 倍
2.54 倍
2.76 倍
平均 2.4 倍
各模型相較舊版皆有速度提升

平行化與排程

管道平行性、分片資料平行化、梯度 All-Reduce 重疊執行

記憶體管理

啟用值檢查點、FP8 混合精度、融合式梯度累積

最佳化內核

融合式 FlashAttention（正向 + 反向）、分組 GEMM • 融合式最佳化器步驟

檢視所有基準測試

實際成果

經大規模測試，通過生產環境驗證

探索 Zyphra 如何在完整堆疊的 AMD 平台上，從零開始打造 ZAYA1。此次合作展示了一個具競爭力的模型，該模型在超過 1000 張顯示卡上訓練，並在以端對端 Instinct 技術堆疊為基礎的生產環境中成功收斂。

ZAYA1-base

Qwen3-4B

Gemma3-12B-PT

Llama3.1-8B

OLMoE-1B-7B

MMLU-Pro(5) 精準度 (%)
40.43
41.92
42.25
32.71
19.71

ZAYA1-base

Qwen3-4B

Gemma3-12B-PT

Llama3.1-8B

OLMoE-1B-7B

MATH-hard(4) 完全相符率 (%)
54.15
47.05
17.98
6.50
4.68

ZAYA1-base

Qwen3-4B

Gemma3-12B-PT

Llama3.1-8B

OLMoE-1B-7B

MBPP+(3) 一次通過率 (%)
75.40
76.46
75.40
62.70
29.10
閱讀部落格
下載白皮書

開始使用 Primus

從模型選擇到大規模訓練的完整歷程

體驗經生產環境測試的參考架構，使用 Instinct 從零開始打造尖端 AI 模型。

圖示

在 Primus 生態系統中使用 Primus LM。

檢視完整堆疊說明文件
圖示

前往 GitHub 檢視最新的預發行功能與原始碼。

造訪 GitHub

資源

Black fade