Fiches de performances et documents techniques
Trouvez toutes les ressources techniques dont vous avez besoin pour construire votre infrastructure avec les CPU pour serveur AMD EPYC 9005.
Présentation des CPU pour serveur AMD EPYC de 5e génération
Spécialement conçus pour accélérer les charges de travail des centres de données, du cloud et de l'IA, les CPU pour serveur AMD EPYC 9005 offrent aux entreprises des performances de calcul sans précédent.
Le processeur de référence pour l'IA1
Les CPU pour serveur AMD EPYC™ 9005 offrent des performances IA de bout en bout.
L'ère de l'IA agentique
L'IA agentique va au-delà de la simple création de texte, d'images et de code pour s'orienter vers l'exécution de tâches concrètes. Elle peut décomposer un objectif en étapes, décider de la prochaine action à entreprendre, utiliser des outils software, récupérer des informations, accomplir des tâches et suivre les progrès. Les CPU pour serveur AMD EPYC 9005 vous permettent de prendre en charge l'ensemble des charges de travail de l'IA agentique grâce à une densité de cœurs de pointe, une excellente efficacité énergétique et un rapport coût-performance optimal, ainsi qu'une compatibilité native avec les écosystèmes software x86 d'entreprise.
Performances d'inférence d'IA de pointe
De nombreuses charges de travail d'IA, comme des modèles de langage avec 13 milliards de paramètres et moins, des systèmes d'analyse des images et des fraudes ou des systèmes de recommandation s'exécutent efficacement sur des serveurs exclusivement dotés de CPU AMD EPYC™ 9005. Les serveurs équipés de deux CPU AMD EPYC 9965 de 5e génération offrent un débit d'inférence jusqu'à 2 fois supérieur par rapport à la génération précédente2.
Optimisation de l'accélération du GPU
La gamme AMD EPYC™ 9005 inclut des options optimisées pour servir de CPU hôtes pour les systèmes équipés de GPU afin d'améliorer les performances sur certaines charges de travail d'IA et d'améliorer le retour sur investissement de chaque serveur GPU. Par exemple, lors de tests de performances d'inférence de moyenne géométrique sur 8 modèles et 4 cas d'utilisation, un serveur haute fréquence équipé de CPU AMD EPYC 9575F et de 8 GPU offre un temps d'obtention du premier jeton jusqu'à 13 % plus rapide et un débit d'inférence global supérieur de 6,6 % par rapport à un serveur équivalent équipé de 8 GPU et de CPU Intel Xeon 6960P3,4,5.
Découvrez comment les processeurs AMD EPYC de 5e génération contribuent à améliorer l'efficacité et les performances de l'IA dans l'ensemble du centre de données. Qu'il s'agisse d'ajouter de l'espace et de la puissance à votre centre de données, d'exécuter l'inférence directement sur le CPU ou d'améliorer les performances sur les GPU, les processeurs AMD EPYC font progresser l'IA d'entreprise pour qu'elle atteigne de nouveaux sommets.
Performances d'entreprise, optimisées
Les CPU pour serveur AMD EPYC 9005 fournissent d'excellentes performances ainsi qu'une efficacité énergétique de premier plan et un coût de possession (TCO) faible pour soutenir les impératifs clés de l'entreprise.
Les meilleures performances de calcul d'entiers du marché
Les serveurs équipés de CPU AMD EPYC 9005 exploitent les nouveaux cœurs « Zen 5 » pour offrir des mesures de performances générales intéressantes, notamment des performances de calcul d'entiers multipliées par 2,3 par rapport aux principales offres de la concurrence.6
Conçu pour le Cloud
Les CPU pour serveur AMD EPYC™ 9005 offrent densité et performances pour les charges de travail sur le cloud. Avec 192 cœurs, le processeur AMD EPYC 9965 haut de gamme prend en charge 33 % de CPU virtuels (vCPU) en plus par rapport au processeur Intel® Xeon 6E « Sierra Forest » à 144 cœurs, qui est le plus répandu sur le marché (1 cœur par vCPU).
Efficacité du leadership et coût total de possession
Les centres de données exigent plus d'énergie que jamais. Les CPU pour serveur AMD EPYC™ 9005 continuent à offrir les avantages en matière d'efficacité énergétique et de coût total de possession des générations précédentes d'AMD EPYC.
Leadership en matière de performances, de densité et d'efficacité
Dotés d'une bande passante mémoire et d'une capacité exceptionnelles, les CPU pour serveur AMD EPYC Série 9005 incluent jusqu'à 192 cœurs « Zen 5 » ou « Zen 5c ». L'architecture chiplet AMD innovante offre des solutions hautes performances et économes en énergie adaptées à vos différents besoins en matière de calcul.
« Zen 5 »
« Zen 5c »
Un vaste écosystème de soutien, auquel les principaux acteurs du secteur font confiance.
AMD collabore avec un vaste réseau de fournisseurs de solutions équipées de CPU pour serveur AMD EPYC™ 9005. Les entreprises et les organismes gouvernementaux du monde entier choisissent AMD pour leurs charges de travail les plus importantes.
Spécifications du modèle
Ressources
Notes de bas de page
- 9xx-151 : résultats de débit de taille d'instance 32 cœurs multi-instances TPCxAI à SF30 basés sur les tests internes d'AMD en date du 01/04/2025 exécutant plusieurs instances de machine virtuelle. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. 2P AMD EPYC 9965 (6 067,53 AIUCpm au total, 384 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu® 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P AMD EPYC 9755 (4 073,42 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P Intel Xeon 6980P (3 550,50 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de production, DDR5-6400 1,5 To 24x64 Go, Broadcom NetXtreme BCM5719 4 x 1 GbE, Gigabit Ethernet PCIe, NVMe SAMSUNG MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, biais de performances, atténuations activées) Les résultats peuvent varier en fonction de facteurs tels que, sans s'y limiter, les configurations système, les versions software et les paramètres du BIOS. TPC, TPC Benchmark et TPC-H sont des marques commerciales du Transaction Processing Performance Council.
- 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
- 9xx5-258 : résultats du débit d'inférence GPU basés sur les tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en jetons par seconde 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3(R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instance llama3.1-8b-instruct 1,144 NIM Multi-instance qwen2_5-coder-32b-instruct 1,014 Moyenne géométrique globale 1,066 Meilleur résultat 1,144 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-259 : Résultats du temps de latence d'inférence GPU (temps au premier jeton) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3(R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instance llama3.1-8b-instruct 1,355 NIM Multi-instance qwen2_5-coder-32b-instruct 1,012 Moyenne géométrique globale 1,133 Meilleur résultat 1,355 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-260 : Résultats du temps de latence des jetons d'inférence GPU (temps par jeton de sortie) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3(R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instance llama3.1-8b-instruct 1,102 NIM Multi-instance qwen2_5-coder-32b-instruct 1,033 Moyenne géométrique globale 1,055 Meilleur résultat 1,128 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-002F : Comparaison SPECrate®2017_int_base basée sur les scores publiés à l'adresse suivante le 11/12/2025 : www.spec.org.
2P AMD EPYC 9654, 96C, 360 W, 8 452 $ USD, 1 830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, 10 631 $ USD, 1 950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, 10 931 $ USD, 2 850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, 11 988 $ USD, 3 230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, 8 513 $ USD, 1 420, 4,303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, 12 460 $ USD, 2 510, 5,020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, 11 600 $ USD, 1 130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Rendez-vous sur www.spec.org pour plus d'informations. Prix des CPU AMD en date du 11/12/2025. W et prix des CPU Intel sur le site https://ark.intel.com/ en date du 11/12/2025.
Notes de bas de page
- 9xx-151 : résultats de débit de taille d'instance 32 cœurs multi-instances TPCxAI à SF30 basés sur les tests internes d'AMD en date du 01/04/2025 exécutant plusieurs instances de machine virtuelle. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI. 2P AMD EPYC 9965 (6 067,53 AIUCpm au total, 384 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu® 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P AMD EPYC 9755 (4 073,42 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de référence AMD, DDR5-6400 1,5 To 24x64 Go, Mellanox CX-7 (MT2910) 2 x 40 GbE, NVMe Samsung MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, déterminisme = alimentation, atténuations activées) 2P Intel Xeon 6980P (3 550,50 AIUCpm au total, 256 cœurs au total, TDP de 500 W, système de production, DDR5-6400 1,5 To 24x64 Go, Broadcom NetXtreme BCM5719 4 x 1 GbE, Gigabit Ethernet PCIe, NVMe SAMSUNG MZWLO3T8HCLS-00A07 3,84 To, noyau Ubuntu 24.04 LTS 6.13, SMT activé, biais de performances, atténuations activées) Les résultats peuvent varier en fonction de facteurs tels que, sans s'y limiter, les configurations système, les versions software et les paramètres du BIOS. TPC, TPC Benchmark et TPC-H sont des marques commerciales du Transaction Processing Performance Council.
- 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
- 9xx5-258 : résultats du débit d'inférence GPU basés sur les tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en jetons par seconde 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3(R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instance llama3.1-8b-instruct 1,144 NIM Multi-instance qwen2_5-coder-32b-instruct 1,014 Moyenne géométrique globale 1,066 Meilleur résultat 1,144 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-259 : Résultats du temps de latence d'inférence GPU (temps au premier jeton) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3(R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instance llama3.1-8b-instruct 1,355 NIM Multi-instance qwen2_5-coder-32b-instruct 1,012 Moyenne géométrique globale 1,133 Meilleur résultat 1,355 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-260 : Résultats du temps de latence des jetons d'inférence GPU (temps par jeton de sortie) basés sur des tests internes d'AMD en date du 24/10/2025. Configurations de la charge de travail : version vLLM, version NIM, jetons d'entrée/sortie : 128/128, 1024/128, 128/1024, 1024/1024, résultats en secondes 2P AMD EPYC 9575F (128 cœurs au total) Système de production avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1, SMT désactivé, atténuations désactivées, déterminisme d'alimentation, CUDA 13.0, NPS1 2P Système de production Intel Xeon 6960P (128 cœurs au total) avec 8 GPU NVIDIA B200, 24x64 Go DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 NVMe de 3,84 To, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT désactivé, atténuations désactivées, déterminisme énergétique, CUDA 13.0, NPS1 Résultats : Modèle de cadre relatif NIM llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3(R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instance llama3.1-8b-instruct 1,102 NIM Multi-instance qwen2_5-coder-32b-instruct 1,033 Moyenne géométrique globale 1,055 Meilleur résultat 1,128 Les résultats varient selon plusieurs facteurs, tels que les configurations système, les versions logicielles et les paramètres du BIOS.
- 9xx5-002F : Comparaison SPECrate®2017_int_base basée sur les scores publiés à l'adresse suivante le 11/12/2025 : www.spec.org.
2P AMD EPYC 9654, 96C, 360 W, 8 452 $ USD, 1 830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, 10 631 $ USD, 1 950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, 10 931 $ USD, 2 850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, 11 988 $ USD, 3 230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, 8 513 $ USD, 1 420, 4,303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, 12 460 $ USD, 2 510, 5,020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, 11 600 $ USD, 1 130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Rendez-vous sur www.spec.org pour plus d'informations. Prix des CPU AMD en date du 11/12/2025. W et prix des CPU Intel sur le site https://ark.intel.com/ en date du 11/12/2025.