Fiches de performances et documents techniques
Trouvez toutes les ressources techniques dont vous avez besoin pour construire votre infrastructure avec les CPU pour serveur AMD EPYC 9005.
Présentation des CPU pour serveur AMD EPYC de 5e génération
Spécialement conçus pour accélérer les charges de travail des centres de données, du cloud et de l'IA, les CPU pour serveur AMD EPYC 9005 offrent aux entreprises des performances de calcul sans précédent.
Le processeur de référence pour l'IA1
Les CPU pour serveur AMD EPYC™ 9005 offrent des performances IA de bout en bout.
Optimisation des performances par serveur
Les CPU AMD EPYC™ 9005 peuvent égaler les performances de calcul d'entiers du hardware existant avec jusqu'à 88 % de racks en moins2. Cela réduit considérablement l'encombrement physique, la consommation énergétique et le nombre de licences software nécessaires et libère de l'espace pour les charges de travail d'IA nouvelles ou étendues.
Performances d'inférence d'IA de pointe
De nombreuses charges de travail d'IA, comme des modèles de langage avec 13 milliards de paramètres et moins, des systèmes d'analyse des images et des fraudes ou des systèmes de recommandation s'exécutent efficacement sur des serveurs exclusivement dotés de CPU AMD EPYC™ 9005. Les serveurs équipés de deux processeurs AMD EPYC 9965 de 5e génération offrent un débit d'inférence jusqu'à 2 fois supérieur à ceux de la génération précédente.3
Optimisation de l'accélération du GPU
La gamme AMD EPYC™ 9005 inclut des options optimisées pour servir de CPU hôtes pour les systèmes équipés de GPU afin d'améliorer les performances sur certaines charges de travail d'IA et d'améliorer le retour sur investissement de chaque serveur GPU. Par exemple, lors de tests de performances d'inférence de moyenne géométrique sur 8 modèles et 4 cas d'utilisation, un serveur haute fréquence équipé d'un CPU AMD EPYC 9575F et de 8 GPU offre un temps d'obtention du premier jeton jusqu'à 13 % plus rapide et un débit d'inférence global supérieur de 6,6 % à celui d'un serveur équivalent équipé de 8 GPU et de CPU Intel Xeon 6960P.4,5,6
Découvrez comment les processeurs AMD EPYC de 5e génération contribuent à améliorer l'efficacité et les performances de l'IA dans l'ensemble du centre de données. Qu'il s'agisse d'ajouter de l'espace et de la puissance à votre centre de données, d'exécuter l'inférence directement sur le CPU ou d'améliorer les performances sur les GPU, les processeurs AMD EPYC font progresser l'IA d'entreprise pour qu'elle atteigne de nouveaux sommets.
Performances d'entreprise, optimisées
Les CPU pour serveur AMD EPYC 9005 fournissent d'excellentes performances ainsi qu'une efficacité énergétique de premier plan et un coût de possession (TCO) faible pour soutenir les impératifs clés de l'entreprise.
Les meilleures performances de calcul d'entiers du marché
Les serveurs équipés d'un CPU AMD EPYC 9005 exploitent les nouveaux cœurs « Zen 5 » pour offrir des mesures de performances générales intéressantes, notamment des performances de calcul d'entiers multipliées par 2,3 par rapport aux principales offres de la concurrence.7
Conçu pour le Cloud
Les CPU pour serveur AMD EPYC™ 9005 offrent densité et performances pour les charges de travail sur le cloud. Avec 192 cœurs, le processeur AMD EPYC 9965 haut de gamme prend en charge 33 % de CPU virtuels (vCPU) en plus par rapport au processeur Intel® Xeon 6E « Sierra Forest » à 144 cœurs, qui est le plus répandu sur le marché (1 cœur par vCPU).
Efficacité du leadership et coût total de possession
Les centres de données exigent plus d'énergie que jamais. Les CPU pour serveur AMD EPYC™ 9005 continuent à offrir les avantages en matière d'efficacité énergétique et de coût total de possession des générations précédentes d'AMD EPYC.
Leadership en matière de performances, de densité et d'efficacité
Dotés d'une bande passante mémoire et d'une capacité exceptionnelles, les CPU pour serveur AMD EPYC Série 9005 incluent jusqu'à 192 cœurs « Zen 5 » ou « Zen 5c ». L'architecture chiplet AMD innovante offre des solutions hautes performances et économes en énergie adaptées à vos différents besoins en matière de calcul.
« Zen 5 »
« Zen 5c »
Un vaste écosystème de soutien, auquel les principaux acteurs du secteur font confiance.
AMD collabore avec un vaste réseau de fournisseurs de solutions équipées de CPU pour serveur AMD EPYC™ 9005. Les entreprises et les organismes gouvernementaux du monde entier choisissent AMD pour leurs charges de travail les plus importantes.
Spécifications du modèle
Ressources
Notes de bas de page
- 9xx-151 : résultats de débit de taille d'instance 32 cœurs multi-instances TPCxAI à SF30 basés sur les tests internes d'AMD en date du 01/04/2025 exécutant plusieurs instances de machine virtuelle. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. 2P AMD EPYC 9965 (6 067,53 AIUCpm au total, 384 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu® 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P AMD EPYC 9755 (4 073,42 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P Intel Xeon 6980P (3 550,50 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de production, DDR5-6400 1,5 To 24x64 Go, Broadcom NetXtreme BCM5719 4 x 1 GbE, Gigabit Ethernet PCIe, NVMe SAMSUNG MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, biais de performances, atténuations activées) Les résultats peuvent varier en fonction de facteurs tels que, sans s'y limiter, les configurations système, les versions software et les paramètres du BIOS. TPC, TPC Benchmark et TPC-H sont des marques commerciales du Transaction Processing Performance Council.
- 9xx5TCO-018 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil d'estimation du TCO (coût total de possession) des émissions de gaz à effet de serre et des serveurs AMD version 1.53 compare certaines solutions de serveur basées sur les CPU AMD EPYC™ et Intel® Xeon® requises pour offrir des PERFORMANCES TOTALES de 391 000 unités de performances SPECrate2017_int_base en date du 3 décembre 2025. Cette analyse compare un serveur propulsé par 2P AMD 192 cœurs EPYC_9965 avec un score SPECrate2017_int_base de 3 230, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf ;
à un serveur 2P Intel Xeon 128 cœurs Xeon_6980P avec un score SPECrate2017_int_base de 2 510, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf ; par rapport à un serveur traditionnel 2P Intel Xeon 28 cœurs Platinum_8280 avec un score SPECrate2017_int_base de 391, https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
Les estimations de l'impact environnemental ont été réalisées à partir du rapport 2025 International Country Specific Electricity Factors et sont disponibles à l'adresse suivante : https://www.carbondi.com/# electricity-factors/ et l'outil de calcul des équivalences de gaz à effet de serre de l'Agence de protection de l'environnement des États-Unis utilisé dans cette analyse a été obtenu le 04/09/2024 et est consultable à l'adresse suivante : https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator.
Pour obtenir plus de détails, rendez-vous sur https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018.
- 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
- 9xx5-258 : résultats du débit d'inférence GPU basés sur les tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en jetons par seconde 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3(R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instance llama3.1-8b-instruct 1,144 NIM Multi-instance qwen2_5-coder-32b-instruct 1,014 Moyenne géométrique globale 1,066 Meilleur résultat 1,144 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-259 : Résultats du temps de latence d'inférence GPU (temps au premier jeton) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3(R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instance llama3.1-8b-instruct 1,355 NIM Multi-instance qwen2_5-coder-32b-instruct 1,012 Moyenne géométrique globale 1,133 Meilleur résultat 1,355 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-260 : Résultats du temps de latence des jetons d'inférence GPU (temps par jeton de sortie) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3(R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instance llama3.1-8b-instruct 1,102 NIM Multi-instance qwen2_5-coder-32b-instruct 1,033 Moyenne géométrique globale 1,055 Meilleur résultat 1,128 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-002F : Comparaison SPECrate®2017_int_base basée sur les scores publiés à l'adresse suivante le 11/12/2025 : www.spec.org.
2P AMD EPYC 9654, 96C, 360 W, 8 452 $ USD, 1 830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, 10 631 $ USD, 1 950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, 10 931 $ USD, 2 850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, 11 988 $ USD, 3 230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, 8 513 $ USD, 1 420, 4,303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, 12 460 $ USD, 2 510, 5,020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, 11 600 $ USD, 1 130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Rendez-vous sur www.spec.org pour plus d'informations. Prix des CPU AMD en date du 11/12/2025. W et prix des CPU Intel sur le site https://ark.intel.com/ en date du 11/12/2025.
Notes de bas de page
- 9xx-151 : résultats de débit de taille d'instance 32 cœurs multi-instances TPCxAI à SF30 basés sur les tests internes d'AMD en date du 01/04/2025 exécutant plusieurs instances de machine virtuelle. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. 2P AMD EPYC 9965 (6 067,53 AIUCpm au total, 384 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu® 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P AMD EPYC 9755 (4 073,42 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P Intel Xeon 6980P (3 550,50 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de production, DDR5-6400 1,5 To 24x64 Go, Broadcom NetXtreme BCM5719 4 x 1 GbE, Gigabit Ethernet PCIe, NVMe SAMSUNG MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, biais de performances, atténuations activées) Les résultats peuvent varier en fonction de facteurs tels que, sans s'y limiter, les configurations système, les versions software et les paramètres du BIOS. TPC, TPC Benchmark et TPC-H sont des marques commerciales du Transaction Processing Performance Council.
- 9xx5TCO-018 : Ce scénario contient de nombreuses hypothèses et estimations. Bien que basé sur les recherches internes d'AMD et sur les meilleures approximations, il doit être considéré comme un exemple fourni uniquement à titre indicatif et ne saurait se substituer à des tests réels lors de prises de décision. L'outil d'estimation du TCO (coût total de possession) des émissions de gaz à effet de serre et des serveurs AMD version 1.53 compare certaines solutions de serveur basées sur les CPU AMD EPYC™ et Intel® Xeon® requises pour offrir des PERFORMANCES TOTALES de 391 000 unités de performances SPECrate2017_int_base en date du 3 décembre 2025. Cette analyse compare un serveur propulsé par 2P AMD 192 cœurs EPYC_9965 avec un score SPECrate2017_int_base de 3 230, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf ;
à un serveur 2P Intel Xeon 128 cœurs Xeon_6980P avec un score SPECrate2017_int_base de 2 510, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf ; par rapport à un serveur traditionnel 2P Intel Xeon 28 cœurs Platinum_8280 avec un score SPECrate2017_int_base de 391, https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
Les estimations de l'impact environnemental ont été réalisées à partir du rapport 2025 International Country Specific Electricity Factors et sont disponibles à l'adresse suivante : https://www.carbondi.com/# electricity-factors/ et l'outil de calcul des équivalences de gaz à effet de serre de l'Agence de protection de l'environnement des États-Unis utilisé dans cette analyse a été obtenu le 04/09/2024 et est consultable à l'adresse suivante : https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator.
Pour obtenir plus de détails, rendez-vous sur https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018. - 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
- 9xx5-258 : résultats du débit d'inférence GPU basés sur les tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en jetons par seconde 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3(R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instance llama3.1-8b-instruct 1,144 NIM Multi-instance qwen2_5-coder-32b-instruct 1,014 Moyenne géométrique globale 1,066 Meilleur résultat 1,144 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-259 : Résultats du temps de latence d'inférence GPU (temps au premier jeton) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3(R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instance llama3.1-8b-instruct 1,355 NIM Multi-instance qwen2_5-coder-32b-instruct 1,012 Moyenne géométrique globale 1,133 Meilleur résultat 1,355 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-260 : Résultats du temps de latence des jetons d'inférence GPU (temps par jeton de sortie) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3(R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instance llama3.1-8b-instruct 1,102 NIM Multi-instance qwen2_5-coder-32b-instruct 1,033 Moyenne géométrique globale 1,055 Meilleur résultat 1,128 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-002F : Comparaison SPECrate®2017_int_base basée sur les scores publiés à l'adresse suivante le 11/12/2025 : www.spec.org.
2P AMD EPYC 9654, 96C, 360 W, 8 452 $ USD, 1 830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, 10 631 $ USD, 1 950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, 10 931 $ USD, 2 850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, 11 988 $ USD, 3 230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, 8 513 $ USD, 1 420, 4,303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, 12 460 $ USD, 2 510, 5,020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, 11 600 $ USD, 1 130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Rendez-vous sur www.spec.org pour plus d'informations. Prix des CPU AMD en date du 11/12/2025. W et prix des CPU Intel sur le site https://ark.intel.com/ en date du 11/12/2025.