Les technologies d'IA ont un impact majeur sur une variété de secteurs
L'IA transforme profondément les charges de travail et les industries, en stimulant l'efficacité, l'innovation et la compétitivité. De l'automatisation des processus dans la fabrication et la construction automobile à la lutte contre la fraude financière, en passant par l'accélération de la recherche médicale, les entreprises peuvent exploiter la puissance des technologies d'IA pour saisir de nouvelles opportunités, optimiser les opérations et offrir une valeur ajoutée aux clients de manière révolutionnaire.
AMD propulse toutes les charges de travail des centres de données
L'adoption de l'IA dans votre entreprise peut être déstabilisante. Comprendre comment la gamme AMD prend en charge l'ensemble des charges de travail d'IA peut clarifier vos besoins en matière d'applications. Par ailleurs, comprendre comment les charges de travail d'IA sont déployées et gérées dans les centres de données d'entreprise permet de clarifier les besoins en termes d'infrastructure.
Utilisation générale
Inférence d'IA
Entraînement de l'IA
Faire progresser des solutions d'IA idéales
Libérez de l'espace et de la puissance en intégrant l'IA à votre centre de données
De nombreux centres de données fonctionnent déjà au maximum de leurs capacités ou presque compte tenu de l'espace ou de la puissance disponible, voire les deux1. Les serveurs équipés de processeurs AMD EPYC offrent des performances et une efficacité de pointe pour développer la consolidation matérielle des charges de travail, libérant ainsi l'espace et la puissance nécessaires pour prendre en charge les nouvelles charges de travail d'IA dans vos centres de données existants.
Remplacer 100 anciens serveurs basés sur des CPU Intel® Xeon® Platinum 8280 par 14 nouveaux serveurs basés sur des CPU AMD EPYC™ 99652.
*pour fournir un total d'environ 39 000 unités de performances de calcul d'entiers.
Jusqu'à 86 % de serveurs en moins
Jusqu'à 69 % d'énergie en moins
Jusqu'à 65 % de réduction du TCO (coût total de possession) sur 3 ans
Réduisez les coûts et le TCO (coût total de possession) des serveurs équipés d'un CPU AMD EPYC™ 9965 par rapport aux serveurs équipés d'un CPU Intel Xeon® Platinum 8592+2
*pour fournir un total d'environ 39 000 unités de performances de calcul d'entiers.
Jusqu'à 60 % de serveurs en moins
Jusqu'à 40 % d'énergie en moins
Jusqu'à 41 % de réduction du TCO (coût total de possession) sur 3 ans
Performances d'inférence de pointe
Les serveurs équipés de processeurs AMD EPYC offrent la plate-forme d'IA basée sur CPU idéale pour exécuter l'inférence sur une grande variété de modèles et de cas d'utilisation. Les CPU AMD EPYC offrent la flexibilité nécessaire pour prendre en charge des exigences allant de l'inférence en temps réel à l'inférence par lots ou hors ligne.
Les processeurs AMD EPYC™ 9965 à 192 cœurs offrent un débit d'inférence 3 fois supérieur à celui des processeurs haut de gamme Intel Xeon 8592+ à 64 cœurs (nombre moyen d'exécutions/heure de serveurs 2P exécutant le modèle populaire de renforcement du gradient XGBoost (ensemble de données Higgs) avec une précision de FP32)3.
Le CPU hôte adapté aux GPU
Pour exécuter des charges de travail d'IA plus importantes et plus exigeantes, les GPU constituent le choix idéal. Le rôle du CPU hôte est de se mettre au service des GPU pour atteindre un débit maximal. Cependant, pour tirer le meilleur parti de ces précieux GPU, il est essentiel de choisir la bonne plateforme hôte. Les serveurs équipés de processeurs AMD EPYC offrent les performances, l'évolutivité, la compatibilité et l'efficacité énergétique nécessaires pour prendre en charge l'hébergement de moteurs d'IA de GPU avancés. Découvrez quelles sont les fonctionnalités de CPU importantes pour l'hébergement des GPU.
Faites votre choix parmi des centaines de systèmes certifiés accélérés par GPU propulsés par des CPU AMD EPYC pour accélérer les charges de travail d'IA. Découvrez les solutions accélérées par GPU AMD Instinct™.
Demandez d'autres solutions certifiées ou validées accélérées par GPU auprès des principaux fournisseurs de solutions de plateforme, notamment Asus, Dell, Gigabyte, HPE, Lenovo et Supermicro.
Témoignages clients
Ressources
Adopter une approche pragmatique pour une infrastructure prête pour l'IA
Étudiez les stratégies d'infrastructure d'IA, en vous concentrant sur le dimensionnement des solutions dans la modernisation des centres de données et en optimisant l'utilisation du CPU-GPU pour des tâches de taille et de complexité variables.
S'abonner aux informations sur les centres de données d'AMD
Demandez à être contacté par un expert commercial AMD EPYC
Notes de bas de page
- Analyse basée sur des données internes AMD
- 9xx5TCO-001B : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil d'estimation du TCO (coût total de possession) des émissions de gaz à effet de serre et des serveurs AMD version 1.12 compare certaines solutions de serveur basées sur les CPU AMD EPYC™ et Intel® Xeon® requises pour offrir des PERFORMANCES TOTALES de 39100 unités de performances SPECrate2017_int_base en date du 10 octobre 2024. Ce scénario compare un serveur existant équipé d'un 2P Intel Xeon 28 cœurs Platinum_8280 avec un score de 391 avec un serveur basé sur un 2P EPYC 9965 (192 cœurs) avec un score de 3 000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) ainsi qu'une mise à niveau de serveur équipé d'un 2P Intel Xeon Platinum 8592+ (64 cœurs) avec un score de 1 130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). Le score réel SPECrate®2017_int_base pour le 2P EPYC 9965 varie en fonction des publications des OEM. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2024 International Country Specific Electricity Factors 10 – Juillet 2024 », et l'outil de calcul des équivalences de gaz à effet de serre de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency Greenhouse Gas Equivalencies Calculator).
- 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
Notes de bas de page
- Analyse basée sur des données internes AMD
- 9xx5TCO-001B : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil d'estimation du TCO (coût total de possession) des émissions de gaz à effet de serre et des serveurs AMD version 1.12 compare certaines solutions de serveur basées sur les CPU AMD EPYC™ et Intel® Xeon® requises pour offrir des PERFORMANCES TOTALES de 39100 unités de performances SPECrate2017_int_base en date du 10 octobre 2024. Ce scénario compare un serveur existant équipé d'un 2P Intel Xeon 28 cœurs Platinum_8280 avec un score de 391 avec un serveur basé sur un 2P EPYC 9965 (192 cœurs) avec un score de 3 000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) ainsi qu'une mise à niveau de serveur équipé d'un 2P Intel Xeon Platinum 8592+ (64 cœurs) avec un score de 1 130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). Le score réel SPECrate®2017_int_base pour le 2P EPYC 9965 varie en fonction des publications des OEM. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2024 International Country Specific Electricity Factors 10 – Juillet 2024 », et l'outil de calcul des équivalences de gaz à effet de serre de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency Greenhouse Gas Equivalencies Calculator).
- 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.