Emirates NBD
« Nous avons constaté que les processeurs AMD EPYC™ étaient en moyenne 42 % plus rapides qu'une autre solution. »
Choisir AMD peut transformer votre centre de données et faire progresser votre entreprise
Les processeurs AMD EPYC™ sont les meilleurs processeurs pour centre de données du monde. Ils offrent aux centres de données les performances de calcul dont les entreprises ont besoin pour répondre aux exigences des clients. Nos processeurs peuvent également réduire l'encombrement des racks, offrir des performances économes en énergie et permettre de déployer des charges de travail d'IA à grande échelle.
Modernisez et consolidez votre infrastructure en vue d'initiatives d'IA
Les entreprises mettent en œuvre des technologies d'IA pour rester compétitives, mais cela peut s'avérer difficile pour les responsables informatiques. L'ajout d'applications d'IA à l'infrastructure d'entreprise peut mettre à rude épreuve les capacités du centre de données existant. C'est pourquoi la modernisation est essentielle. Par exemple, en effectuant la mise à niveau à partir d'Intel Xeon Gold 6143 vers des processeurs AMD EPYC 9334 de 4e génération, les entreprises peuvent atteindre une réduction maximale de 73 % du nombre de serveurs, de 70 % du nombre de racks et de 65 % de la consommation énergétique, pour atteindre un score SPECrate® en nombre entier d'au moins 80 0001
Pourquoi choisir AMD EPYC™ ?
En choisissant le bon processeur pour déployer de futurs serveurs, votre entreprise informatique obtiendra des performances hors pair et une plus grande densité, tout en maintenant ou en réduisant l'empreinte de son centre de données.
Par exemple, pour atteindre un score SPECrate® en nombre entier d'au moins 10 000, il faut 11 serveurs équipés des derniers processeurs Intel Xeon Platinum 8490H à double socket, alors que 6 serveurs propulsés par AMD EPYC 9654 à double socket suffisent.2
Les serveurs propulsés par des processeurs AMD EPYC de 4e génération peuvent vous aider à :
- Exécuter les mêmes charges de travail avec moins de serveurs
- Réduire les coûts d'exploitation et d'énergie
- Économiser de l'espace et de l'énergie dans le centre de données et réaffecter ce gain à de nouvelles charges de travail et de nouveaux services
Choisissez AMD pour vos déploiements d'IA dans votre centre de données
En ce qui concerne les charges de travail d'IA, les exigences sont diverses et continuent d'évoluer. Les CPU et les GPU peuvent tous deux exceller dans l'exécution des charges de travail d'inférence d'IA, avec des caractéristiques et des scénarios de déploiement différents. AMD offre des performances et une efficacité de pointe en matière d'IA pour les CPU et les accélérateurs GPU lors des déploiements de centres de données.
Les meilleurs processeurs pour centre de données au monde
Les processeurs AMD EPYC de 4e génération aident les entreprises à extraire des informations plus rapidement, accélérant ainsi leur activité. Il est préférable de déployer l'inférence d'IA sur les processeurs EPYC lorsque les modèles sont de plus petite taille et lorsque l'IA représente un pourcentage plus faible dans la combinaison globale des charges de travail d'un serveur.
La charge de calcul de l'IA est l'un des nombreux facteurs qui ont un impact sur la performance globale d'un serveur lors d'un déploiement dans l'entreprise. Pour mieux comprendre les capacités globales d'un serveur, il est important d'examiner le pipeline de bout en bout. Par rapport aux serveurs équipés de 2 processeurs haut de gamme Xeon 64c de 5e génération, les serveurs déployés avec 2 processeurs EPYC 96c de 4e génération offrent des performances 1,65 fois supérieures par serveur selon le benchmark TPCx-AI SF30.³
Accélérateurs GPU pour centre de données les plus performants au monde
Les accélérateurs AMD Instinct™ offrent les meilleures performances du marché pour les charges de travail d'IA et HPC les plus exigeantes, le MI300X offrant des performances jusqu'à 1,3 fois supérieures en termes de précision de l'IA par rapport aux accélérateurs NVIDIA H100 SXM (80 Go)⁴. En plus d'aider à l'entraînement des modèles d'IA, les GPU AMD Instinct sont parfaits pour l'inférence via des déploiements d'IA dédiés, lorsque l'IA est majoritaire dans la combinaison globale des charges de travail d'un serveur, ou lorsque la réponse d'inférence en temps réel est critique pour l'application.
Solutions
AMD collabore avec divers partenaires à la conception et au développement de solutions optimisées dotées de processeurs AMD EPYC de 4e génération.
Faites-en davantage avec AMD EPYC
Les processeurs AMD EPYC de 4e génération sont conçus pour fournir des résultats commerciaux plus rapidement en consolidant l'infrastructure et en aidant à réduire les coûts d'investissement et d'exploitation.
Découvrez comment rendre votre centre de données plus efficace et plus performant en réduisant les coûts, la consommation d'énergie et l'empreinte des serveurs.
Des milliers d'entreprises leur font confiance
Sur site ou dans le cloud, découvrez comment d'autres entreprises ont déployé avec succès des processeurs AMD EPYC.
Abonnez-vous pour recevoir les dernières actualités et informations sur les centres de données.
Notes de bas de page
- SP5TCO-055 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (outil d'estimation de TCO de matériel nu et de gaz à effet de serre) version 9.37 Pro Refresh compare les solutions de serveurs basés sur des CPU AMD EPYC™ et Intel® Xeon® requises pour fournir une PERFORMANCE_TOTALE de 80 000 unités de performances de calcul d'entiers, d'après les scores publiés pour les serveurs basés sur des CPU Intel Xeon et AMD EPYC™ à la date du 1er juin 2023. Cette estimation reflète une période de 3 ans avec un PUE de 1,7 et un coût de l'énergie aux États-Unis de 0,128$/kWh. Cette analyse compare un serveur 2P propulsé par des CPU AMD EPYC™ 9334 32 cœurs ayant obtenu un score SPECrate®2017_int_base de 725, https://spec.org/cpu2017/results/res2023q1/cpu2017-20230102-33282.pdf ; avec un serveur 2P propulsé par des CPU Intel Xeon Gold_6143 16 cœurs ayant obtenu un score SPECrate®2017_int_base de 197, https://spec.org/cpu2017/results/res2017q4/cpu2017-20171114-00863.pdf. En raison de la grande variation des coûts immobiliers ou d'administration, ce coût total de possession n'inclut pas ces coûts dans l'analyse. Les nouveaux coûts d'exploitation des serveurs propulsés par des processeurs AMD incluent uniquement l'énergie. Les coûts d'exploitation pour la base installée existante de serveurs équipés de CPU Intel se composent de l'énergie et des coûts d'extension de garantie. Le coût de l'extension de la garantie du serveur est calculé à 20 % du prix d'achat initial par an, calculé à l'aide des coûts 2023. Sur la base de ces calculs et des coûts énergétiques, le coût total de possession de la solution AMD sur 3 ans est inférieur de plus de 2,5 millions de dollars (soit 62 %), avec des coûts d'exploitation annuels de 1,2 million de dollars, inférieurs de 93 %. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2020 Grid Electricity Emissions Factors v1.4 – Septembre 2020 », et l'outil de calcul des équivalences de gaz à effet de serre (Greenhouse Gas Equivalencies Calculator) de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency). Pour obtenir plus de détails, consultez https://www.amd.com/en/claims/epyc4#SP5TCO-055
- SP5TCO-032 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (outil d'estimation de TCO de matériel nu et de gaz à effet de serre) version 6.80 compare les solutions de serveurs à base de CPU AMD EPYC™ et Intel® Xeon® requises pour fournir une PERFORMANCE_TOTALE de 10 000 unités de performance de calcul en nombre entier, sur la base des scores publiés pour les serveurs à base de CPU Intel Xeon et AMD EPYC™ à la date du 10 janvier 2023. Cette estimation reflète une période de 3 ans avec un PUE de 1,7 et un coût de l'énergie aux États-Unis de 0,16 $/kWh. Cette analyse compare un serveur propulsé par un CPU 2P AMD EPYC Série 9654 96 cœurs ayant obtenu un score SPECrate2017_int_base estimé de 1790, https://spec.org/cpu2017/results/res2022q4/cpu2017-20221024-32607.pdf, à un serveur doté d'un 2P Intel Xeon 60 cœurs Platinum_8490H ayant obtenu un score SPECrate2017_int_base de 991, https://spec.org/cpu2017/results/res2023q1/cpu2017-20221206-33039.pdf. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2020 Grid Electricity Emissions Factors v1.4 – Septembre 2020 », et l'outil de calcul des équivalences de gaz à effet de serre (Greenhouse Gas Equivalencies Calculator) de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency). Pour obtenir plus de détails, consultez https://www.amd.com/en/claims/epyc4#SP5TCO-032.
- SP5-051A : comparaison de la charge de travail dérivée TPCx-AI SF30 basée sur les tests internes AMD exécutant plusieurs instances de machine virtuelle au 13/04/2024. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. Configuration du système AMD : Processeurs : 2 AMD EPYC 9654 ; Fréquences : 2,4 GHz | 3,7 GHz ; Cœurs : 96 cœurs par socket (1 domaine NUMA par socket) ; Cache L3 : 384 Mo/socket (768 Mo au total) ; Mémoire : 1,5 To (24) DIMM DDR5-5600 64 Go à double rang, 1DPC (la plateforme prend en charge jusqu'à 4 800 MHz) ; Carte réseau : 2 x 100 GbE Mellanox CX-5 (MT28800) ; Stockage : Samsung MO003200KYDNC U.3 NVMe 3,2 To ; BIOS : 1.56 ; Paramètres du BIOS : SMT = activé, détermination = puissance, NPS = 1, PPL = 400 W, Turbo Boost = activé ; Système d'exploitation : Ubuntu® 22.04.3 LTS ; Configuration de test : 6 instances, 64 CPU virtuels/instance, 2 663 cas d'utilisation d'IA agrégés/min par rapport à la configuration système Intel : Processeurs : 2 Intel® Xeon® Platinum 8592+ ; Fréquences : 1,9 GHz | 3,9 GHz ; Cœurs : 64 cœurs par socket (1 domaine NUMA par socket) ; Cache L3 : 320 Mo/socket (640 Mo au total) ; Mémoire : 1 To (16) DIMM DDR5-5600 64 Go à double rang, 1DPC ; Carte réseau : 4 x Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe 1GbE ; Stockage : KIOXIA KCMYXRUG3T84 NVMe 3,84 To ; BIOS : ESE124B-3.11 ; Paramètres du BIOS : Hyperthreading = activé, Turbo Boost = activé, SNC = désactivé ; Système d'exploitation : Ubuntu® 22.04.3 LTS ; Configuration de test : 4 instances, 64 CPU virtuels/instance, 1 607 cas d'utilisation d'IA agrégés/min. Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions logicielles et les paramètres du BIOS. TPC, TPC Benchmark et TPC-C sont des marques déposées du Transaction Processing Performance Council.
- MI300-17 : Les mesures réalisées par AMD Performance Labs au 11 novembre 2023 sur le GPU AMD Instinct™ MI300X (750 W) conçu avec la technologie de processus AMD CDNA™ 3 FinFET 5 nm | 6 nm à une fréquence du processeur boostée maximale de 2 100 MHz ont donné des performances de calcul en virgule flottante de 653,7 TFLOPS en crête en format TensorFloat-32 théorique (TF32), de 1 307,4 TFLOPS en crête en demi-précision théorique (FP16), de 1 307,4 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 2 614,9 TFLOPS en crête en précision 8 bits théorique (FP8) et de 2 614,9 TOPS en format INT8. Profitant d'une dispersion structurelle précise, l'efficacité mathématique du MI300X est estimée 2 fois supérieure, donnant ainsi des performances de calcul en virgule flottante avec dispersion de 1 307,4 TFLOPS en crête en format TensorFloat-32 théorique (TF32), de 2 614,9 TFLOPS en crête en demi-précision théorique (FP16), de 2 614,9 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 5 229,8 TFLOPS en crête en précision 8 bits théorique (FP8) et de 5 229,8 TOPS en format INT8. Les résultats publiés sur le GPU Nvidia H100 SXM (80 Go) 700 W ont donné des performances de calcul en virgule flottante, avec dispersion, de 989,4 TFLOPS en crête en format TensorFloat-32 (TF32), de 1 978,9 TFLOPS en crête en demi-précision théorique (FP16), de 1 978,9 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 3 957,8 TFLOPS en crête en précision 8 bits théorique (FP8) et de 3,957,8 TOPS en crête de format INT8 théorique. Source Nvidia H100 : https://resources.nvidia.com/en-us-tensor-core. MI300-17
Notes de bas de page
- SP5TCO-055 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (outil d'estimation de TCO de matériel nu et de gaz à effet de serre) version 9.37 Pro Refresh compare les solutions de serveurs basés sur des CPU AMD EPYC™ et Intel® Xeon® requises pour fournir une PERFORMANCE_TOTALE de 80 000 unités de performances de calcul d'entiers, d'après les scores publiés pour les serveurs basés sur des CPU Intel Xeon et AMD EPYC™ à la date du 1er juin 2023. Cette estimation reflète une période de 3 ans avec un PUE de 1,7 et un coût de l'énergie aux États-Unis de 0,128$/kWh. Cette analyse compare un serveur 2P propulsé par des CPU AMD EPYC™ 9334 32 cœurs ayant obtenu un score SPECrate®2017_int_base de 725, https://spec.org/cpu2017/results/res2023q1/cpu2017-20230102-33282.pdf ; avec un serveur 2P propulsé par des CPU Intel Xeon Gold_6143 16 cœurs ayant obtenu un score SPECrate®2017_int_base de 197, https://spec.org/cpu2017/results/res2017q4/cpu2017-20171114-00863.pdf. En raison de la grande variation des coûts immobiliers ou d'administration, ce coût total de possession n'inclut pas ces coûts dans l'analyse. Les nouveaux coûts d'exploitation des serveurs propulsés par des processeurs AMD incluent uniquement l'énergie. Les coûts d'exploitation pour la base installée existante de serveurs équipés de CPU Intel se composent de l'énergie et des coûts d'extension de garantie. Le coût de l'extension de la garantie du serveur est calculé à 20 % du prix d'achat initial par an, calculé à l'aide des coûts 2023. Sur la base de ces calculs et des coûts énergétiques, le coût total de possession de la solution AMD sur 3 ans est inférieur de plus de 2,5 millions de dollars (soit 62 %), avec des coûts d'exploitation annuels de 1,2 million de dollars, inférieurs de 93 %. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2020 Grid Electricity Emissions Factors v1.4 – Septembre 2020 », et l'outil de calcul des équivalences de gaz à effet de serre (Greenhouse Gas Equivalencies Calculator) de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency). Pour obtenir plus de détails, consultez https://www.amd.com/en/claims/epyc4#SP5TCO-055
- SP5TCO-032 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (outil d'estimation de TCO de matériel nu et de gaz à effet de serre) version 6.80 compare les solutions de serveurs à base de CPU AMD EPYC™ et Intel® Xeon® requises pour fournir une PERFORMANCE_TOTALE de 10 000 unités de performance de calcul en nombre entier, sur la base des scores publiés pour les serveurs à base de CPU Intel Xeon et AMD EPYC™ à la date du 10 janvier 2023. Cette estimation reflète une période de 3 ans avec un PUE de 1,7 et un coût de l'énergie aux États-Unis de 0,16 $/kWh. Cette analyse compare un serveur propulsé par un CPU 2P AMD EPYC Série 9654 96 cœurs ayant obtenu un score SPECrate2017_int_base estimé de 1790, https://spec.org/cpu2017/results/res2022q4/cpu2017-20221024-32607.pdf, à un serveur doté d'un 2P Intel Xeon 60 cœurs Platinum_8490H ayant obtenu un score SPECrate2017_int_base de 991, https://spec.org/cpu2017/results/res2023q1/cpu2017-20221206-33039.pdf. Estimations de l'impact environnemental effectuées en transposant ces données au moyen des facteurs électriques spécifiques par pays et région, d'après le rapport « 2020 Grid Electricity Emissions Factors v1.4 – Septembre 2020 », et l'outil de calcul des équivalences de gaz à effet de serre (Greenhouse Gas Equivalencies Calculator) de l'agence de protection de l'environnement des États-Unis (United States Environmental Protection Agency). Pour obtenir plus de détails, consultez https://www.amd.com/en/claims/epyc4#SP5TCO-032.
- SP5-051A : comparaison de la charge de travail dérivée TPCx-AI SF30 basée sur les tests internes AMD exécutant plusieurs instances de machine virtuelle au 13/04/2024. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. Configuration du système AMD : Processeurs : 2 AMD EPYC 9654 ; Fréquences : 2,4 GHz | 3,7 GHz ; Cœurs : 96 cœurs par socket (1 domaine NUMA par socket) ; Cache L3 : 384 Mo/socket (768 Mo au total) ; Mémoire : 1,5 To (24) DIMM DDR5-5600 64 Go à double rang, 1DPC (la plateforme prend en charge jusqu'à 4 800 MHz) ; Carte réseau : 2 x 100 GbE Mellanox CX-5 (MT28800) ; Stockage : Samsung MO003200KYDNC U.3 NVMe 3,2 To ; BIOS : 1.56 ; Paramètres du BIOS : SMT = activé, détermination = puissance, NPS = 1, PPL = 400 W, Turbo Boost = activé ; Système d'exploitation : Ubuntu® 22.04.3 LTS ; Configuration de test : 6 instances, 64 CPU virtuels/instance, 2 663 cas d'utilisation d'IA agrégés/min par rapport à la configuration système Intel : Processeurs : 2 Intel® Xeon® Platinum 8592+ ; Fréquences : 1,9 GHz | 3,9 GHz ; Cœurs : 64 cœurs par socket (1 domaine NUMA par socket) ; Cache L3 : 320 Mo/socket (640 Mo au total) ; Mémoire : 1 To (16) DIMM DDR5-5600 64 Go à double rang, 1DPC ; Carte réseau : 4 x Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe 1GbE ; Stockage : KIOXIA KCMYXRUG3T84 NVMe 3,84 To ; BIOS : ESE124B-3.11 ; Paramètres du BIOS : Hyperthreading = activé, Turbo Boost = activé, SNC = désactivé ; Système d'exploitation : Ubuntu® 22.04.3 LTS ; Configuration de test : 4 instances, 64 CPU virtuels/instance, 1 607 cas d'utilisation d'IA agrégés/min. Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions logicielles et les paramètres du BIOS. TPC, TPC Benchmark et TPC-C sont des marques déposées du Transaction Processing Performance Council.
- MI300-17 : Les mesures réalisées par AMD Performance Labs au 11 novembre 2023 sur le GPU AMD Instinct™ MI300X (750 W) conçu avec la technologie de processus AMD CDNA™ 3 FinFET 5 nm | 6 nm à une fréquence du processeur boostée maximale de 2 100 MHz ont donné des performances de calcul en virgule flottante de 653,7 TFLOPS en crête en format TensorFloat-32 théorique (TF32), de 1 307,4 TFLOPS en crête en demi-précision théorique (FP16), de 1 307,4 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 2 614,9 TFLOPS en crête en précision 8 bits théorique (FP8) et de 2 614,9 TOPS en format INT8. Profitant d'une dispersion structurelle précise, l'efficacité mathématique du MI300X est estimée 2 fois supérieure, donnant ainsi des performances de calcul en virgule flottante avec dispersion de 1 307,4 TFLOPS en crête en format TensorFloat-32 théorique (TF32), de 2 614,9 TFLOPS en crête en demi-précision théorique (FP16), de 2 614,9 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 5 229,8 TFLOPS en crête en précision 8 bits théorique (FP8) et de 5 229,8 TOPS en format INT8. Les résultats publiés sur le GPU Nvidia H100 SXM (80 Go) 700 W ont donné des performances de calcul en virgule flottante, avec dispersion, de 989,4 TFLOPS en crête en format TensorFloat-32 (TF32), de 1 978,9 TFLOPS en crête en demi-précision théorique (FP16), de 1 978,9 TFLOPS en crête en précision de format Bfloat16 théorique (BF16), de 3 957,8 TFLOPS en crête en précision 8 bits théorique (FP8) et de 3,957,8 TOPS en crête de format INT8 théorique. Source Nvidia H100 : https://resources.nvidia.com/en-us-tensor-core. MI300-17