AMD Primus
KI-Modelle in großem Maßstab trainieren – ohne Komplexität
Primus vereint Trainingsumgebung, optimierte Transformer und Produktionsabläufe in einer modularen Lösung. Mit reproduzierbaren Workflows, Kernel-Beschleunigung, Cluster-Validierung und integriertem Monitoring gelingt der schnelle Übergang vom ersten Durchlauf zum Training auf Flottenebene.
Mit Primus können Teams:
Verteilte Jobs überwachen und Probleme schneller beheben
Reproduzierbare Trainingsversuche mit einer einzigen CLI starten
Transformer-Workloads mit optimierten Operatoren beschleunigen
Cluster vor großen Trainingsläufen validieren
Hauptkomponenten
Die Primus-Plattform
Primus bietet modulare Komponenten, die den gesamten Trainingszyklus unterstützen – von der Versuchsvorbereitung bis hin zum Betrieb auf Cluster-Ebene.
- Validieren und beobachten
- Produktions-Vortraining
- Reinforcement Learning (RL) im Produktionsmaßstab
Tools für zuverlässiges Training
Validieren und beobachten
Planen Sie Trainingskonfigurationen, validieren Sie die Bereitschaft des Clusters und überwachen Sie die Läufe im großen Maßstab.
Die richtige Trainingskonfiguration finden
Primus Tuning + Primus Projection
- Finden Sie Trainingseinstellungen für Ihr GPU-Speicherbudget.
- Prognostizieren Sie den GPU-Speicherbedarf und den Trainingsdurchsatz.
- Identifizieren Sie umsetzbare Konfigurationen, bevor das vollständige Cluster ausgeführt wird.
Cluster vor dem Start validieren
Primus-Bench + Primus Preflight
- Prüfen Sie die Clusterhardware und den Netzwerkzustand.
- Vergleichen Sie die Performance und ermitteln Sie Ausreißer im Knoten.
- Testen Sie Trainingsläufe, bevor der vollständige Cluster gestartet wird.
Engpässe in Live-Läufen erkennen
Primus-Lens
- Überwachen Sie Trainingsjobs und den Clusterzustand.
- Prüfen Sie verteilte Läufe in Dashboards.
- Verwenden Sie Warnmeldungen, um Performance-Probleme zu erkennen.
Primus Core
Produktions-Vortraining
Unterstützen Sie das Training großer Modelle mit optimierten Operatoren und ausfallsicheren Clustervorgängen.
Large Model Training schneller starten
Primus-LM
- Starten Sie das Training großer Modelle über eine CLI.
- Richten Sie Experimente mit YAML und Trainingskonzepten ein.
- Verwenden Sie Megatron-LM, PyTorch TorchTitan oder JAX MaxText.
Workload-Performance steigern
Primus-Turbo
- Verbessern Sie den Durchsatz des Transformertrainings durch optimierte Operatoren.
- Überlappen Sie Computing und Kommunikation, um die GPU-Nutzung zu verbessern.
- Integrieren Sie in benutzerdefinierte Trainings-Workflows.
Zuverlässige Läufe auf Clusterebene
Primus-SaFE
- Planen Sie Jobs mit topologieorientierter Platzierung.
- Prüfen Sie die Bereitschaft des Clusters vor dem Training.
- Wiederholen Sie fehlgeschlagene Jobs und setzen Sie ein Training an Kontrollpunkten fort.
RL-Post-Training
Reinforcement Learning (RL) im Produktionsmaßstab
Skalieren Sie das RL-Post-Training auf AMD Instinct™ GPUs mit einsatzbereiten, validierten AMD ROCm™ Workflows.
RL Post-Training mit einem einsatzbereiten Stack
veRL auf ROCm
- Starten Sie von einem vordefinierten Container mit überprüften Softwareabhängigkeiten.
- Führen Sie PPO-, GRPO- und DAPO-Post-Training-Workflows aus.
- Passen Sie Softwareversionen und GPU-Ziele für Ihre Umgebung an.
Rollouts und Trainings unabhängig skalieren
Rollouts mit vLLM und SGLang
- Wählen Sie AITER-beschleunigtes vLLM oder SGLang für das Rollout.
- Passen Sie die Größe von Rollout und Training der GPU-Pools unabhängig im vollständig asynchronen Modus an.
- Überlappen Sie Generierung und Training, um das Warten auf lange Antworten zu verkürzen.
Modellqualität über alle Trainingsmodi hinweg validieren
Genauigkeit und Konvergenz
- Verwenden Sie validierte Beispiele für dichte und MoE-Reasoning-Modelle.
- Vergleichen Sie die Konvergenz zwischen lokaler und vollständig asynchroner Ausführung.
- Verfolgen Sie die Genauigkeit der Validierung, die Trainingsergebnisse und die Konsistenz bei der Einführung des Trainings.
Performance-Benchmarks
Primus-Benchmarks zeigen, wie Kunden die Kapazität von AMD Instinct™ GPUs für eine schnelle Modellentwicklung nutzen können – von einem einzelnen Knoten bis hin zu Multi-Node-Clustern. Dabei werden die GPU-Auslastung maximiert, die Trainingszeit verkürzt und die Trainingseffizienz bei verschiedenen Modellarchitekturen verbessert.
ROCm 10 im Vergleich zu ROCm 7
Beschleunigung der Trainingsverbesserung
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
Von Version zu Version: Performance-Verbesserung
2,01 x
2,54 x
2,76 x
Durchschnittlich
2,4 x
schneller als die vorherige Version bei allen Modellen
Parallelisierung und Planung
Pipeline-Parallelität, Sharded Data Parallel, Überlappung von Gradienten-All-Reduce
Speicherverwaltung
Aktivierungs-Checkpointing, FP8 gemischte Präzision, zusammengeführte Gradientenakkumulation
Optimierte Kernel
Zusammengeführte FlashAttention (fwd + bwd), gruppierte GEMM, zusammengeführter Optimierer-Schritt
Praxisrelevante Ergebnisse
In großem Maßstab getestet, in der Produktion bewährt
Erfahren Sie, wie Zyphra ZAYA1 mithilfe einer AMD Full-Stack-Plattform von Grund auf neu entwickelt hat. Diese Zusammenarbeit zeigt ein wettbewerbsfähiges Modell, das auf über 1.000 GPUs trainiert wurde und in der Produktion auf einem E2E Instinct-Stack zum Einsatz kommt.
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MMLU-Pro(5) Genauigkeit (%)
40,43
41,92
42,25
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MATH-hard(4) Exakte Übereinstimmung (%)
54,15
47,05
17,98
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MBPP+(3) Pass@1 (%)
75,40
76,46
75,40
Erste Schritte mit Primus
Der Weg von der Modellauswahl zum Training in großem Maßstab
Erleben Sie die praxiserprobte Referenzarchitektur, mit der Sie auf Instinct von Grund auf Frontier-KI-Modelle entwickeln können.
Symbol
Verwenden Sie Primus-LM innerhalb des Primus-Ökosystems.
Symbol
Sehen Sie sich die neuesten Prerelease-Funktionen und den Quellcode auf GitHub an.
Ressourcen
