AMD Primus
KI-Modelle in großem Maßstab trainieren – ohne Komplexität
Primus vereint Trainingsumgebung, optimierte Transformer und Produktionsabläufe in einer modularen Lösung. Mit reproduzierbaren Workflows, Kernel-Beschleunigung, Cluster-Validierung und integriertem Monitoring gelingt der schnelle Übergang vom ersten Durchlauf zum Training auf Flottenebene.
Mit Primus können Teams:
Verteilte Jobs überwachen und Probleme schneller beheben
Reproduzierbare Trainingsversuche mit einer einzigen CLI starten
Transformer-Workloads mit optimierten Operatoren beschleunigen
Cluster vor großen Trainingsläufen validieren
Die Primus-Plattform
Primus bietet modulare Komponenten, die den gesamten Trainingszyklus unterstützen – von der Versuchsvorbereitung bis hin zum Betrieb auf Cluster-Ebene.
Frameworks
Unterstützung für führende Frameworks
- Megatron-LM
- PyTorch TorchTitan
- JAX MaxText
AMD Primus
Training-Workflows auf AMD ROCm™
Referenzarchitektur für Training im großen Maßstab
- Konfigurieren
- Validieren
- Beschleunigen
- Beobachten
- Optimieren
KI-Entwickler
Keine
Validieren + Beobachten
- Primus Tuning Agent & Primus Projection
- Primus-Bench & Primus Preflight
- Primus-Lens
Keine
Reinforcement Learning (RL) im Produktionsmaßstab – demnächst erhältlich
RL-Workflow-Pfad
- OSS-RL-Stack
- Unterstützt veRL, Miles und Slime
- AMD validierte Docker und Upstream CI/CD
Basiert auf
AMD ROCm™ Core SDK
Bibliotheken | Compiler | Tools | Laufzeitumgebungen
Performance-Benchmarks
Primus-Benchmarks zeigen, wie Kunden die Kapazität von AMD Instinct™ GPUs für eine schnelle Modellentwicklung nutzen können – von einem einzelnen Knoten bis hin zu Multi-Node-Clustern. Dabei werden die GPU-Auslastung maximiert, die Trainingszeit verkürzt und die Trainingseffizienz bei verschiedenen Modellarchitekturen verbessert.
ROCm 10 im Vergleich zu ROCm 7
Beschleunigung der Trainingsverbesserung
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
Von Version zu Version: Performance-Verbesserung
2,01 x
2,54 x
2,76 x
Durchschnittlich
2,4 x
schneller als die vorherige Version bei allen Modellen
Parallelisierung und Planung
Pipeline-Parallelität, Sharded Data Parallel, Überlappung von Gradienten-All-Reduce
Speicherverwaltung
Aktivierungs-Checkpointing, FP8 gemischte Präzision, zusammengeführte Gradientenakkumulation
Optimierte Kernel
Zusammengeführte FlashAttention (fwd + bwd), gruppierte GEMM, zusammengeführter Optimierer-Schritt
In großem Maßstab getestet, in der Produktion bewährt
Erfahren Sie, wie Zyphra ZAYA1 mithilfe einer AMD Full-Stack-Plattform von Grund auf neu entwickelt hat. Diese Zusammenarbeit zeigt ein wettbewerbsfähiges Modell, das auf über 1.000 GPUs trainiert wurde und in der Produktion auf einem E2E Instinct-Stack zum Einsatz kommt.
Erste Schritte mit Primus
Der Weg von der Modellauswahl zum Training in großem Maßstab
Erleben Sie die praxiserprobte Referenzarchitektur, mit der Sie auf Instinct von Grund auf Frontier-KI-Modelle entwickeln können.
1
Verwenden Sie Primus-LM innerhalb des Primus-Ökosystems.
2
Sehen Sie sich die neuesten Funktionen und den Quellcode auf GitHub an.
Ressourcen
