AMD Primus
Entraînez des modèles d'IA à grande échelle, sans complexité
Primus regroupe la configuration de l'entraînement, les transformateurs optimisés et les opérations de production au sein d'une expérience modulaire unique. Passez rapidement du premier essai à l'entraînement à l'échelle du parc, grâce à des flux de travail reproductibles, à l'accélération par noyau, à la validation des clusters et à la surveillance intégrées.
Avec Primus, les équipes peuvent :
Surveiller les tâches distribuées et résoudre les problèmes plus rapidement
Lancer des expériences d'entraînement reproductibles à l'aide d'une seule interface CLI
Accélérer les charges de travail des transformateurs à l'aide d'opérateurs optimisés
Valider les clusters avant les sessions d'entraînement à grande échelle
La plateforme Primus
Primus propose des composants modulaires qui prennent en charge l'ensemble du cycle de vie de la formation, de la mise en place des expériences aux opérations à l'échelle d'un cluster.
Frameworks
Assistance pour les structures phares
- Megatron-LM
- PyTorch TorchTitan
- JAX MaxText
AMD Primus
Flux de travail d'entraînement sur AMD ROCm™
Architecture de référence pour l'entraînement à grande échelle
- Configurer
- Valider
- Accélérer
- Observer
- Optimiser
Développeurs IA
aucun
Valider + Observer
- Primus Tuning Agent et Primus Projection
- Primus-Bench et Primus Preflight
- Primus-Lens
aucun
Échelle de production RL - Bientôt disponible
Parcours du flux de travail RL
- Pile OSS RL
- Prise en charge de veRL, Miles & Slime
- Dockers validés par AMD et CI/CD en amont
Basé sur
SDK de base AMD ROCm™
Bibliothèques | Compilateurs | Outils | Exécutions
Benchmarks de performances
Les tests de performances Primus montrent comment les clients peuvent tirer parti de la capacité des GPU AMD Instinct™ pour accélérer le développement de modèles : ils permettent de passer d'un nœud unique à des clusters à plusieurs nœuds, tout en optimisant l'utilisation des GPU, en réduisant la durée d'entraînement et en améliorant l'efficacité de l'entraînement sur diverses architectures de modèles.
ROCm 10 par rapport à ROCm 7
Accélérer l'amélioration de l'entraînement
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
D'une version à l'autre : Amélioration des performances
2,01x
2,54x
2,76x
En moyenne
2,4X
plus rapide que la version précédente, tous modèles confondus
Parallélisation et planification
Parallélisme en pipeline, parallélisme des données fragmentées, chevauchement « gradient all-reduce »
Gestion de la mémoire
Points de contrôle d'activation, précision mixte FP8, accumulation fusionnée des gradients
Noyaux optimisés
FlashAttention fusionnée (fwd + bwd), GEMM groupées • étape d'optimisation fusionnée
Testé à grande échelle, éprouvé en production
Découvrez comment Zyphra a développé ZAYA1, entièrement à partir de zéro, sur une plateforme AMD full-stack. Cette collaboration présente un modèle compétitif, entraîné sur plus de 1 000 GPU, qui converge en environnement de production sur une pile Instinct de bout en bout.
Se lancer avec Primus
Le parcours, de la sélection du modèle à l'entraînement à grande échelle
Découvrez l'architecture de référence, testée en production, pour créer des modèles d'IA de pointe à partir de zéro sur Instinct !
1
Utilisez Primus LM au sein de l'écosystème Primus.
2
Découvrez les dernières fonctionnalités en avant-première et le code source sur GitHub !
Ressources
