Resumos de desempenho e documentação técnica
Encontre os recursos técnicos necessários para desenvolver sua infraestrutura com as CPUs de servidor AMD EPYC 9005
Apresentamos as CPUs de servidor AMD EPYC de 5ª geração
Criadas para acelerar cargas de trabalho de data center, nuvem e IA; as CPUs de servidor AMD EPYC 9005 estão impulsionando novos níveis de desempenho de computação empresarial.
A melhor CPU para IA1
As CPUs de servidor AMD EPYC™ 9005 fornecem desempenho de IA de ponta a ponta.
Maximizando o desempenho por servidor
As CPUs AMD EPYC™ 9005 podem combinar o desempenho inteiro do hardware legado com até 88% menos racks2, reduzindo drasticamente o espaço físico ocupado, o consumo de energia e a quantidade de licenças de software necessárias, liberando espaço para cargas de trabalho de IA novas ou expandidas.
Liderança no desempenho de AI Inference
Muitas cargas de trabalho de IA: modelos de linguagem com até 13 bilhões de parâmetros, análise de imagem e fraude ou sistemas de recomendação são executados de forma eficiente em servidores apenas de CPU que possuem CPUs AMD EPYC™ 9005. Os servidores que executam duas CPUs AMD EPYC 9965 de 5ª geração oferecem até o dobro da produtividade de inferência em comparação com as ofertas das gerações anteriores.3
Maximizando a aceleração da GPU
A família AMD EPYC™ 9005 inclui opções otimizadas para serem CPUs host de sistemas habilitados para GPU, a fim de ajudar a aumentar o desempenho em cargas de trabalho de IA selecionadas e melhorar o ROI de cada servidor de GPU. Por exemplo, em testes de desempenho de inferência de média geométrica em 8 modelos e 4 casos de uso, um servidor baseado em CPU AMD EPYC 9575F de alta frequência com 8 GPUs oferece um tempo até o primeiro token até 13% mais rápido e uma produtividade de inferência geral 6,6% maior do que um servidor equivalente com 8 GPUs equipado com CPUs Intel Xeon 6960P.4,5,6
Saiba como os processadores AMD EPYC da 5a geração ajudam a impulsionar a eficiência e o desempenho da IA em todo o data center. Da criação de espaço e energia em seu data center à execução de inferência diretamente na CPU e à melhoria do desempenho nas GPUs, os processadores AMD EPYC levam a IA empresarial a novos patamares
Desempenho empresarial otimizado
As CPUs de servidor AMD EPYC 9005 entregam desempenho excepcional e são líderes em eficiência de energia e valor do TCO (Total Cost of Ownership, Custo total de propriedade) para atender às principais exigências dos negócios.
Desempenho inteiro líder do setor
Os servidores com tecnologia de CPU AMD EPYC 9005 aproveitam os novos núcleos "Zen 5" para oferecer métricas de desempenho convencional atrativas, como 2,3 vezes mais desempenho inteiro, quando comparados com as principais ofertas da concorrência.7
Criados para a nuvem
As CPUs de servidor AMD EPYC™ 9005 fornecem densidade e desempenho para cargas de trabalho na nuvem. Com 192 núcleos, o processador de primeira linha AMD EPYC 9965 é compatível com 33% mais CPUs virtuais (vCPUs) do que o principal processador disponível Intel® Xeon 6E "Sierra Forest" com 144 núcleos (1 núcleo por vCPU).
Liderança em eficiência e TCO
Os data centers estão exigindo mais energia do que nunca. As CPUs de servidor AMD EPYC™ 9005 continuam a fornecer os benefícios de eficiência de energia e TCO encontrados nas gerações anteriores do AMD EPYC.
Liderança em desempenho, densidade e eficiência
As CPUs de servidor AMD EPYC Série 9005 incluem até 192 núcleos "Zen 5" ou "Zen 5c" com largura de banda e capacidade de memória excepcionais. A inovadora arquitetura de chiplet AMD possibilita soluções de alto desempenho e eficientes em termos de energia, otimizadas para atender às suas diferentes necessidades de computação.
"Zen 5"
“Zen 5c”
Ampla compatibilidade de ecossistema, confiado por líderes do setor
A AMD trabalha em parceria com uma ampla rede de provedores de soluções com CPUs de servidor AMD EPYC™ 9005. Empresas e organizações governamentais em todo o mundo escolhem a AMD para suas cargas de trabalho mais importantes.
Especificações do modelo
Recursos
Notas de rodapé
- 9xx-151: Resultados de produtividade do TPCxAI @SF30 com tamanho de instância de 32 núcleos de várias instâncias com base em testes internos da AMD em 01/04/2025 executando várias instâncias de VM. O teste de produtividade de IA de ponta a ponta agregado é derivado da avaliação de desempenho TPCx-AI e, como tal, não é comparável aos resultados publicados do TPCx-AI, já que os resultados de teste de produtividade de IA de ponta a ponta não estão em conformidade com a especificação do TPCx-AI. AMD EPYC 9965 2P (AIUCpm Total 6067,53, 384 núcleos totais, TDP de 500 W, sistema de referência da AMD, 1,5 TB, 24 DDR5-6400 de 64 GB, 2 Mellanox CX-7 de 40 GbE (MT2910), NVMe Samsung MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu® 24.04 LTS kernel 6.13, SMT = ATIVADO, Determinismo = Potência, Mitigações = ATIVADAS), AMD EPYC 9755 2P (AIUCpm Total 4073,42, 256 núcleos totais, TDP de 500 W, sistema de referência da AMD, 1,5 TB, 24 DDR5-6400 de 64 GB, 2 Mellanox CX-7 de 40 GbE (MT2910), NVMe Samsung MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu 24.04 LTS kernel 6.13, SMT = ATIVADO, Determinismo = Potência, Mitigações = ATIVADAS), Intel Xeon 6980P 2P (AIUCpm Total 3550,50, 256 núcleos totais, TDP de 500 W, sistema de produção, 1,5 TB, 24 DDR5-6400 de 64 GB, 4 Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe de 1 GbE, NVMe SAMSUNG MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu 24.04 LTS kernel 6.13, SMT = ATIVADO, Viés de desempenho, Mitigações = ATIVADAS). Os resultados podem variar com base em fatores que incluem, mas não se limitam a, configurações do sistema, versões do software e configurações do BIOS. TPC, TPC Benchmark e TPC-H são marcas comerciais do Transaction Processing Performance Council.
- 9xx5TCO-018: Este cenário contém muitas suposições e estimativas e, embora seja baseado nas pesquisas internas da AMD e nas melhores aproximações, deve ser considerado um exemplo apenas para fins informativos e não deve ser usado como base para a tomada de decisões em vez dos testes reais. A ferramenta de estimativa de TCO (Total Cost of Ownership, Custo total de propriedade) do servidor AMD e de emissões de gases de efeito estufa – versão 1.53 compara as soluções de servidor selecionadas baseadas em CPUs AMD EPYC™ e Intel® Xeon® necessárias para fornecer um DESEMPENHO TOTAL de 391.000 unidades de desempenho SPECrate2017_int_base em 3 de dezembro de 2025. Esta análise compara um servidor com tecnologia 2P AMD EPYC_9965 com 192 núcleos e pontuação SPECrate2017_int_base de 3230, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf;
em comparação com um servidor baseado em Intel Xeon 128 núcleos Xeon_6980P de 2P com uma pontuação SPECrate2017_int_base de 2510, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf; em comparação com o servidor antigo baseado em Intel Xeon 28 núcleos Platinum_8280 com uma pontuação SPECrate2017_int_base de 391, https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
As estimativas do impacto ambiental foram feitas com base nos dados dos Fatores Específicos de Eletricidade por País para 2025 e podem ser encontradas em https://www.carbondi.com/# electricity-factors/. A Calculadora de Equivalências de Gases de Efeito Estufa da EPA dos EUA utilizada nesta análise foi obtida em 04/09/2024 e pode ser encontrada em https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator.
Para obter mais detalhes, consulte https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018.
- 9xx5-040A: resultados de produtividade (execuções/hora) do XGBoost com base em testes internos da AMD em 05/09/2024. Configurações do XGBoost: v2.2.1, conjunto de dados Higgs, instâncias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totais), 12 instâncias de 32 núcleos, DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9755 (256 núcleos totais), DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), 1DPC, NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9654 (192 núcleos totais), DDR5-4800 de 1,5 TB 24x64GB, 1DPC, 2 Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT= desativado, Determinismo = potência), NPS=1, em comparação com o 2P Xeon Platinum 8592+ (128 núcleos totais), AMX ativado, DDR5-5600 de 1 TB 16x64 GB, 1DPC, NetXtreme BCM5719 Gigabit Ethernet PCIe de 1,0 Gbps, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT= desativado, Determinismo = potência, Turbo Boost = ativado) Resultados: produtividade relativa mediana da CPU Run 1 Run 2 Run 3 entre gerações 2P Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA. Os resultados podem variar de acordo com fatores que incluem configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-258: Resultados de produtividade de inferência da GPU com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resulta em tokens por segundo Sistema de produção 2P AMD EPYC 9575F (128 núcleos totais) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT DESLIGADO, Mitigações DESATIVADAS, Determinismo de energia, CUDA 13.0, NPS1 2P Sistema de produção Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3 (R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instância llama3. 1-8b-instruct 1.144 NIM Multi-instância qwen2_5-coder-32b-instruct 1.014 Média geométrica geral 1.066 Melhor resultado 1.144 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-259: Resultados da latência de inferência da GPU (tempo até o primeiro token) com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resultados em segundos Sistema de produção 2P AMD EPYC 9575F (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT DESLIGADO, Mitigações DESATIVADAS, Determinismo de energia, CUDA 13.0, NPS1 2P Sistema de produção Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3 (R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instância llama3. 1-8b-instruct 1,355 NIM Multi-instância qwen2_5-coder-32b-instruct 1,012 Média geométrica geral 1,133 Melhor resultado 1,355 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-260: Resultados de latência do token de inferência de GPU (tempo por token de saída) com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resultados em segundos Sistema de produção 2P AMD EPYC 9575F (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1., SMT desativado, Mitigações desativadas, Determinismo de energia, CUDA 13.0, NPS1 Sistema de produção 2P Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3 (R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instância llama3. 1-8b-instruct 1.102 NIM Multi-instância qwen2_5-coder-32b-instruct 1.033 Média geométrica geral 1.055 Melhor resultado 1.128 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS
- 9xx5-002F: Comparação SPECrate®2017_int_base com base nas pontuações publicadas em www.spec.org em 11/12/2025.
2P AMD EPYC 9654, 96C, 360 W, US$ 8452, 1830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, US$ 10.631, 1950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, US$ 10.931, 2850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, US$ 11.988, 3230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, US$ 8.513, 1.420, 4.303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, US$ 12.460, 2510, 5.020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, US$ 11.600, 1130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® e SPECrate® são marcas registradas da Standard Performance Evaluation Corporation. Consulte www.spec.org para obter mais informações. Preços de CPU AMD a partir de 11/12/2025. CPU Intel W e preços em https://ark.intel.com/ em 11/12/2025
Notas de rodapé
- 9xx-151: Resultados de produtividade do TPCxAI @SF30 com tamanho de instância de 32 núcleos de várias instâncias com base em testes internos da AMD em 01/04/2025 executando várias instâncias de VM. O teste de produtividade de IA de ponta a ponta agregado é derivado da avaliação de desempenho TPCx-AI e, como tal, não é comparável aos resultados publicados do TPCx-AI, já que os resultados de teste de produtividade de IA de ponta a ponta não estão em conformidade com a especificação do TPCx-AI. AMD EPYC 9965 2P (AIUCpm Total 6067,53, 384 núcleos totais, TDP de 500 W, sistema de referência da AMD, 1,5 TB, 24 DDR5-6400 de 64 GB, 2 Mellanox CX-7 de 40 GbE (MT2910), NVMe Samsung MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu® 24.04 LTS kernel 6.13, SMT = ATIVADO, Determinismo = Potência, Mitigações = ATIVADAS), AMD EPYC 9755 2P (AIUCpm Total 4073,42, 256 núcleos totais, TDP de 500 W, sistema de referência da AMD, 1,5 TB, 24 DDR5-6400 de 64 GB, 2 Mellanox CX-7 de 40 GbE (MT2910), NVMe Samsung MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu 24.04 LTS kernel 6.13, SMT = ATIVADO, Determinismo = Potência, Mitigações = ATIVADAS), Intel Xeon 6980P 2P (AIUCpm Total 3550,50, 256 núcleos totais, TDP de 500 W, sistema de produção, 1,5 TB, 24 DDR5-6400 de 64 GB, 4 Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe de 1 GbE, NVMe SAMSUNG MZWLO3T8HCLS-00A07 de 3,84 TB, Ubuntu 24.04 LTS kernel 6.13, SMT = ATIVADO, Viés de desempenho, Mitigações = ATIVADAS). Os resultados podem variar com base em fatores que incluem, mas não se limitam a, configurações do sistema, versões do software e configurações do BIOS. TPC, TPC Benchmark e TPC-H são marcas comerciais do Transaction Processing Performance Council.
- 9xx5TCO-018: Este cenário contém muitas suposições e estimativas e, embora seja baseado nas pesquisas internas da AMD e nas melhores aproximações, deve ser considerado um exemplo apenas para fins informativos e não deve ser usado como base para a tomada de decisões em vez dos testes reais. A ferramenta de estimativa de TCO (Total Cost of Ownership, Custo total de propriedade) do servidor AMD e de emissões de gases de efeito estufa – versão 1.53 compara as soluções de servidor selecionadas baseadas em CPUs AMD EPYC™ e Intel® Xeon® necessárias para fornecer um DESEMPENHO TOTAL de 391.000 unidades de desempenho SPECrate2017_int_base em 3 de dezembro de 2025. Esta análise compara um servidor com tecnologia 2P AMD EPYC_9965 com 192 núcleos e pontuação SPECrate2017_int_base de 3230, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf;
em comparação com um servidor baseado em Intel Xeon 128 núcleos Xeon_6980P de 2P com uma pontuação SPECrate2017_int_base de 2510, https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf; em comparação com o servidor antigo baseado em Intel Xeon 28 núcleos Platinum_8280 com uma pontuação SPECrate2017_int_base de 391, https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
As estimativas do impacto ambiental foram feitas com base nos dados dos Fatores Específicos de Eletricidade por País para 2025 e podem ser encontradas em https://www.carbondi.com/# electricity-factors/. A Calculadora de Equivalências de Gases de Efeito Estufa da EPA dos EUA utilizada nesta análise foi obtida em 04/09/2024 e pode ser encontrada em https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator.
Para obter mais detalhes, consulte https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018. - 9xx5-040A: resultados de produtividade (execuções/hora) do XGBoost com base em testes internos da AMD em 05/09/2024. Configurações do XGBoost: v2.2.1, conjunto de dados Higgs, instâncias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totais), 12 instâncias de 32 núcleos, DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9755 (256 núcleos totais), DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), 1DPC, NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9654 (192 núcleos totais), DDR5-4800 de 1,5 TB 24x64GB, 1DPC, 2 Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT= desativado, Determinismo = potência), NPS=1, em comparação com o 2P Xeon Platinum 8592+ (128 núcleos totais), AMX ativado, DDR5-5600 de 1 TB 16x64 GB, 1DPC, NetXtreme BCM5719 Gigabit Ethernet PCIe de 1,0 Gbps, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT= desativado, Determinismo = potência, Turbo Boost = ativado) Resultados: produtividade relativa mediana da CPU Run 1 Run 2 Run 3 entre gerações 2P Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA. Os resultados podem variar de acordo com fatores que incluem configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-258: Resultados de produtividade de inferência da GPU com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resulta em tokens por segundo Sistema de produção 2P AMD EPYC 9575F (128 núcleos totais) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT DESLIGADO, Mitigações DESATIVADAS, Determinismo de energia, CUDA 13.0, NPS1 2P Sistema de produção Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,133 NIM qwen2_5-coder-32b-instruct 1,034 VLLM Vllm_Deepseek_V3 (R1) 1,036 VLLM Vllm_Llama4_scout 1,049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,073 NIM Multi-instância llama3. 1-8b-instruct 1.144 NIM Multi-instância qwen2_5-coder-32b-instruct 1.014 Média geométrica geral 1.066 Melhor resultado 1.144 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-259: Resultados da latência de inferência da GPU (tempo até o primeiro token) com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resultados em segundos Sistema de produção 2P AMD EPYC 9575F (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.5, SMT DESLIGADO, Mitigações DESATIVADAS, Determinismo de energia, CUDA 13.0, NPS1 2P Sistema de produção Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 0,996 NIM gpt-oss-120b 1,22 NIM qwen2_5-coder-32b-instruct 1,062 VLLM Vllm_Deepseek_V3 (R1) 1,059 VLLM Vllm_Llama4_scout 1,246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,164 NIM Multi-instância llama3. 1-8b-instruct 1,355 NIM Multi-instância qwen2_5-coder-32b-instruct 1,012 Média geométrica geral 1,133 Melhor resultado 1,355 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS.
- 9xx5-260: Resultados de latência do token de inferência de GPU (tempo por token de saída) com base em testes internos da AMD em 24/10/2025. Configurações de carga de trabalho: versão vLLM, versão NIM, tokens de entrada/saída: 128/128, 1024/128, 128/1024, 1024/1024, resultados em segundos Sistema de produção 2P AMD EPYC 9575F (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1., SMT desativado, Mitigações desativadas, Determinismo de energia, CUDA 13.0, NPS1 Sistema de produção 2P Intel Xeon 6960P (128 núcleos no total) com 8 GPUs NVIDIA B200, 24x64 GB DDR5-6400, SAMSUNG MZWLO3T8HCLS-00A07 3,84 TB NVMe, Ubuntu 24.04 6.8.0-85-generic, BIOS 1.2, SMT DESLIGADO, Mitigações DESLIGADAS, Determinismo de energia, CUDA 13.0, NPS1 Resultados: Modelo de estrutura NIM relativo llama3.3-70b-instruct 1,053 NIM gpt-oss-120b 1,128 NIM qwen2_5-coder-32b-instruct 1,019 VLLM Vllm_Deepseek_V3 (R1) 1,025 VLLM Vllm_Llama4_scout 1,025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1,062 NIM Multi-instância llama3. 1-8b-instruct 1.102 NIM Multi-instância qwen2_5-coder-32b-instruct 1.033 Média geométrica geral 1.055 Melhor resultado 1.128 Os resultados podem variar devido a fatores como configurações do sistema, versões de software e configurações do BIOS
- 9xx5-002F: Comparação SPECrate®2017_int_base com base nas pontuações publicadas em www.spec.org em 11/12/2025.
2P AMD EPYC 9654, 96C, 360 W, US$ 8452, 1830, 5,083, 0,217, https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754, 128C, 360 W, US$ 10.631, 1950, 5,417, 0,183, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755, 128C, 500 W, US$ 10.931, 2850, 5,70, 0,261, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965, 192C, 500 W, US$ 11.988, 3230, 6,460, 0,269, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E, 144C, 330 W, US$ 8.513, 1.420, 4.303, 0,167, https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P, 128C, 500 W, US$ 12.460, 2510, 5.020, 0,201, https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+, 64C, 350 W, US$ 11.600, 1130, 3,229, 0,097, https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®, SPEC CPU® e SPECrate® são marcas registradas da Standard Performance Evaluation Corporation. Consulte www.spec.org para obter mais informações. Preços de CPU AMD a partir de 11/12/2025. CPU Intel W e preços em https://ark.intel.com/ em 11/12/2025