GPU AMD Instinct
Découvrez comment les accélérateurs AMD Instinct dynamisent l'IA et le HPC.
Présentation
Pile software optimisée pour GPU
AMD ROCm™ est une plateforme software open source qui aide les équipes de centres de données à configurer, déployer et faire évoluer rapidement des charges de travail d'IA et de calculs hautes performances sur l'ensemble des GPU et nœuds. Les développeurs peuvent travailler avec des frameworks familiers, ajuster le code critique en matière de performances et utiliser HIP pour adapter les applications et frameworks GPU existants au hardware AMD pris en charge.
Zoom sur l'image
← Regarder la vidéo
ROCm.AI : accélération de la vitesse de développement et optimisation des performances
Une expérience développeur conçue pour l'IA, qui accélère le développement avec ROCm, simplifie la création et l'optimisation des charges de travail d'IA, et maximise les performances sur le hardware AMD
Développement
Développez, entraînez et déployez l'IA à grande échelle avec le software AMD ROCm
Le software AMD ROCm™ réunit des frameworks ouverts, des bibliothèques optimisées, des outils dédiés aux modèles et une infrastructure scale-out afin de prendre en charge le développement de l'IA, de l'expérimentation jusqu'à la production.
Création
Développement de modèle simplifié
Développez avec PyTorch, TensorFlow et JAX à l'aide de flux de travail et de conteneurs optimisés par AMD, compatibles avec les modèles ouverts les plus populaires, dont plus de 3 millions de modèles sur Hugging Face.
Entraînement
AMD Primus : entraînez vos modèles d'IA à grande échelle
Utilisez AMD Primus et les bibliothèques de communication ROCm pour le pré-entraînement, le réglage de pointe et l'entraînement distribué sur les GPU AMD Instinct™.
Optimisation
Optimisez vos modèles d'IA et mettez-les en service
Utilisez AMD Quark, AITER, vLLM et SGLang pour optimiser vos modèles, accélérer les opérations critiques et déployer des inférences à haut débit.
Déploiement
Déployez sur votre infrastructure IA
Passez d'un GPU unique à des environnements multinœuds grâce aux conteneurs, à Kubernetes, à Slurm, aux outils de télémétrie et aux solutions de gestion du cycle de vie.
Créez, optimisez, faites évoluer et exécutez vos calculs hautes performances avec AMD ROCm
Le software AMD ROCm™ aide les développeurs de calculs hautes performances à créer ou mettre en place des applications scientifiques, à analyser et ajuster les performances, puis à passer d'un GPU unique à des exécutions sur plusieurs nœuds.
Création
Créez et mettez en place des applications scientifiques
Développez du code accéléré par GPU à l'aide de HIP ou du déchargement OpenMP®, travaillez avec des frameworks de calculs hautes performances tels que Kokkos et RAJA, et utilisez HIPIFY pour faciliter la conversion du code CUDA® existant.
Optimisation
Analysez et ajustez les performances
Analysez les noyaux et les transferts de données avec les outils ROCm, puis utilisez des bibliothèques optimisées pour l'algèbre linéaire, les FFT, les solveurs numériques et les opérations sur matrices creuses. Validez vos résultats tout au long du réglage.
Scale
Passez à l'échelle sur plusieurs GPU et nœuds
Utilisez MPI compatible GPU pour les applications distribuées et rocSHMEM pour les communications initiées par GPU, puis mesurez les performances à mesure que le nombre de GPU et de nœuds augmente.
Exécution
Exécutez vos applications sur une infrastructure de calculs hautes performances
Créez des conteneurs de calculs hautes performances pour vos applications et soumettez vos travaux au cluster avec Slurm. ROCm est utilisé sur des systèmes de référence tels qu'El Capitan, Frontier et LUMI.
Nouveautés
ROCm 10.0 : conçu pour l'ère de l'IA agentique
Icône
Créez avec l'expertise AMD
Les compétences AMD intègrent des connaissances AMD sélectionnées et des flux de travail validés directement dans les agents de codage IA, qui aident les développeurs à créer des applications optimisées par AMD grâce à des conseils accessibles à partir des outils qu'ils utilisent déjà.
Icône
Simplifiez vos flux de travail
L'interface CLI ROCm fournit une interface unifiée pour configurer, gérer et exploiter les charges de travail d'IA sur le hardware AMD.
Icône
Optimisez l'inférence de bout en bout
ROCm Hyperloom utilise l'IA agentique pour analyser les charges de travail, identifier les goulots d'étranglement, mettre en œuvre des optimisations et valider les performances du code hôte et des noyaux GPU.
Icône
Appuyez-vous sur le SDK de base ROCm modulaire
Le SDK de base ROCm fournit une base modulaire pour développer, déployer et optimiser les charges de travail d'IA sur les plateformes AMD.
Écosystème et partenaires
Un vaste écosystème d'IA ouvert, construit avec les principaux frameworks, partenaires technologiques et développeurs afin d'accélérer l'innovation, de favoriser la portabilité et de faire évoluer les solutions d'IA du développement jusqu'à la production.
Hardware pris en charge
Ressources pour les développeurs
Foire aux questions
AMD ROCm™ est une pile software ouverte destinée au développement d'applications d'IA et de calculs hautes performances sur les GPU AMD pris en charge. Les équipes l'utilisent pour entraîner et déployer des modèles d'IA, créer des softwares accélérés par GPU et exécuter des charges de travail scientifiques sur plusieurs GPU et nœuds.
ROCm et CUDA sont deux plateformes de calcul GPU distinctes. ROCm fournit une pile software ouverte pour les GPU AMD pris en charge, et son modèle de programmation HIP permet de mettre en place du code source CUDA. Les outils et API ne sont pas directement interchangeables. L'effort de migration dépend donc de l'application et de ses dépendances.
Pas nécessairement. Les applications reposant sur des frameworks d'IA compatibles peuvent souvent fonctionner à partir d'une version prenant en charge ROCm. En revanche, les applications appelant des API CUDA ou utilisant des bibliothèques spécifiques à CUDA peuvent nécessiter des adaptations. HIPIFY aide à convertir le code CUDA compatible vers HIP. Les développeurs doivent ensuite vérifier le bon fonctionnement de l'application et ajuster ses performances si besoin.
ROCm prend notamment en charge PyTorch, TensorFlow, JAX pour le développement de l'IA, mais aussi vLLM et SGLang pour la mise en service de modèles. Les versions prises en charge dépendent de la version de ROCm et de la configuration système utilisée. Vérifiez toujours la matrice de compatibilité actuelle avant de choisir une version de framework.
Commencez par vérifier la matrice de compatibilité correspondant à votre GPU et à votre système d'exploitation. Suivez ensuite le guide d'installation AMD adapté à votre configuration. AMD Infinity Hub propose des conteneurs préconfigurés, tandis que l'interface CLI ROCm peut vous aider pour l'installation et le diagnostic sur les systèmes compatibles. Testez une charge de travail afin de valider votre environnement avant le déploiement.
Recevez les dernières actualités concernant ROCm.
Notes de bas de page
©2024 Advanced Micro Devices, Inc. Tous droits réservés. AMD, le logo AMD avec la flèche, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct et leurs combinaisons sont des marques commerciales d'Advanced Micro Devices, Inc. PyTorch est une marque commerciale ou une marque déposée de PyTorch. Les autres noms de produits cités dans cette publication ne sont mentionnés qu'à des fins d'identification et peuvent être des marques déposées de leurs sociétés respectives.
- Pour une liste complète des pièces Radeon prises en charge par ROCm, rendez-vous sur : https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.
Notes de bas de page
©2024 Advanced Micro Devices, Inc. Tous droits réservés. AMD, le logo AMD avec la flèche, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct et leurs combinaisons sont des marques commerciales d'Advanced Micro Devices, Inc. PyTorch est une marque commerciale ou une marque déposée de PyTorch. Les autres noms de produits cités dans cette publication ne sont mentionnés qu'à des fins d'identification et peuvent être des marques déposées de leurs sociétés respectives.
- Pour une liste complète des pièces Radeon prises en charge par ROCm, rendez-vous sur : https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.