As tecnologias de IA trazem amplo impacto para o setor
A IA está transformando profundamente as cargas de trabalho e setores, impulsionando a eficiência, a inovação e a competitividade. Desde a automação de processos na fabricação e no setor automotivo até a redução da fraude financeira e a aceleração da pesquisa médica, as empresas podem aproveitar o poder das tecnologias de IA para desbloquear novas oportunidades, otimizar operações e fornecer valor aos clientes de maneiras que antes eram inimagináveis.
A AMD capacita toda a gama de cargas de trabalho de data center
Adotar a IA em sua empresa pode ser um desafio. Entender como o portfólio da AMD oferece suporte a toda a variedade de cargas de trabalho de IA pode esclarecer os requisitos da sua aplicação. Entender como as cargas de trabalho de IA são implantadas e mantidas em data centers corporativos ajuda a esclarecer as necessidades de infraestrutura.
Uso geral
AI Inference
Treinamento de IA
Avançando as soluções ideais de IA
Libere o espaço e a energia para acomodar a IA em seu data center
Muitos data centers já estão funcionando com ou perto da capacidade em termos de espaço, de energia disponível ou de ambos.1 Os servidores baseados no processador AMD EPYC oferecem desempenho e eficiência de liderança para permitir a consolidação da carga de trabalho de material, permitindo mais espaço e energia para suportar novas cargas de trabalho de IA em seus data centers existentes.
Substitua 100 servidores antigos baseados em CPU 2P Intel® Xeon® Platinum 8280 por 14 novos servidores baseados em CPU AMD EPYC™ 99652
*para fornecer um total de aproximadamente 39.000 unidades de desempenho inteiro.
Até 86% menos servidores
Até 69% menos energia
TCO de 3 anos até 65% menor
Ajude a diminuir os custos e o TCO: servidores baseados em CPU AMD EPYC™ 9965 vs servidores baseados em CPU Intel® Xeon® Platinum 8592+2
*para fornecer um total de aproximadamente 39.000 unidades de desempenho inteiro.
Até 60% menos servidores
Até 40% menos energia
TCO de 3 anos até 41% menor
Desempenho de inferência de liderança
Os servidores baseados no processador AMD EPYC são a plataforma de IA baseada em CPU ideal para executar inferência em uma variedade de modelos e casos de uso. As CPUs AMD EPYC são flexíveis e compatíveis com requisitos que variam de inferência em tempo real a inferência em lote ou off-line.
Os processadores AMD EPYC™ 9965 de 192 núcleos oferecem o triplo da produtividade de inferência dos processadores de primeira linha Intel Xeon 8592+ de 64 núcleos (média de execuções/hora de servidores 2P executando o modelo popular de aumento de gradiente XGBoost (conjunto de dados Higgs) com precisão de FP32).3
A CPU de host certa para GPUs
Para executar cargas de trabalho de IA maiores e mais exigentes, as GPUs são a escolha certa. Servir as GPUs para alcançar o máximo de produtividade é o trabalho da CPU de host. Para aproveitar ao máximo essas valiosas GPUs, é importante escolher a plataforma de host certa. Os servidores baseados no processador AMD EPYC apresentam o desempenho, a escalabilidade, a compatibilidade e a eficiência de energia para serem compatíveis com a hospedagem de mecanismos avançados de IA de GPU. Saiba quais recursos de CPU são importantes para hospedar GPUs.
Escolha entre centenas de sistemas certificados com aceleração por GPU e equipados com CPUs AMD EPYC para acelerar as cargas de trabalho de IA. Confira as soluções aceleradas por GPU do AMD Instinct™.
Consulte outras soluções aceleradas por GPU certificadas ou validadas disponíveis nos principais fornecedores de soluções de plataforma, incluindo Asus, Dell, Gigabyte, HPE, Lenovo e Supermicro.
Depoimentos de clientes
Recursos
Adotando uma abordagem pragmática para a infraestrutura pronta para IA
Investigue estratégias de infraestrutura de IA, concentrando-se em soluções de dimensionamento correto na modernização do datacenter e otimizando o uso de CPU-GPU para tarefas de diferentes tamanhos e complexidades.
Assine os Insights do data center da AMD
Solicite contato de um especialista em vendas da AMD EPYC
Notas de rodapé
- Análise baseada em dados internos da AMD
- 9xx5TCO-001B: Este cenário contém muitas suposições e estimativas e, embora seja baseado nas pesquisas internas da AMD e nas melhores aproximações, deve ser considerado um exemplo apenas para fins informativos e não deve ser usado como base para a tomada de decisões em vez dos testes reais. A ferramenta de estimativa de TCO (custo total de propriedade) de servidor AMD e emissões de gases de efeito estufa – versão 1.12 compara as soluções de servidor selecionadas baseadas em CPUs AMD EPYC™ e Intel® Xeon® necessárias para fornecer um TOTAL_PERFORMANCE de 39.100 unidades de desempenho SPECrate2017_int_base em 10 de outubro de 2024. Esse cenário compara um servidor legado 2P Intel Xeon de 28 núcleos Platinum_8280 com uma pontuação de 391 com um servidor com tecnologia 2P EPYC 9965 (192 núcleos) com uma pontuação de 3.000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf), juntamente a um upgrade de comparação para um servidor 2P Intel Xeon Platinum 8592+ (64 núcleos) com uma pontuação de 1.130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). A pontuação real do SPECrate®2017_int_base para o EPYC 9965 2P varia de acordo com as publicações do OEM. As estimativas de impacto ambiental foram feitas com base nesses dados, usando os fatores de eletricidade específicos do país/região de "International Country Specific Electricity Factors 10" de 2024, em julho de 2024, e a Calculadora de Equivalências de Gás de Efeito Estufa ("Greenhouse Gas Equivalencies Calculator") da Agência de Proteção Ambiental dos Estados Unidos ("United States Environmental Protection Agency").
- 9xx5-040A: resultados de produtividade (execuções/hora) do XGBoost com base em testes internos da AMD em 05/09/2024. Configurações do XGBoost: v2.2.1, conjunto de dados Higgs, instâncias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totais), 12 instâncias de 32 núcleos, DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9755 (256 núcleos totais), DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), 1DPC, NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9654 (192 núcleos totais), DDR5-4800 de 1,5 TB 24x64GB, 1DPC, 2 Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT= desativado, Determinismo = potência), NPS=1, em comparação com o 2P Xeon Platinum 8592+ (128 núcleos totais), AMX ativado, DDR5-5600 de 1 TB 16x64 GB, 1DPC, NetXtreme BCM5719 Gigabit Ethernet PCIe de 1,0 Gbps, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT= desativado, Determinismo = potência, Turbo Boost = ativado) Resultados: produtividade relativa mediana da CPU Run 1 Run 2 Run 3 entre gerações 2P Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA. Os resultados podem variar de acordo com fatores que incluem configurações do sistema, versões de software e configurações do BIOS.
Notas de rodapé
- Análise baseada em dados internos da AMD
- 9xx5TCO-001B: Este cenário contém muitas suposições e estimativas e, embora seja baseado nas pesquisas internas da AMD e nas melhores aproximações, deve ser considerado um exemplo apenas para fins informativos e não deve ser usado como base para a tomada de decisões em vez dos testes reais. A ferramenta de estimativa de TCO (custo total de propriedade) de servidor AMD e emissões de gases de efeito estufa – versão 1.12 compara as soluções de servidor selecionadas baseadas em CPUs AMD EPYC™ e Intel® Xeon® necessárias para fornecer um TOTAL_PERFORMANCE de 39.100 unidades de desempenho SPECrate2017_int_base em 10 de outubro de 2024. Esse cenário compara um servidor legado 2P Intel Xeon de 28 núcleos Platinum_8280 com uma pontuação de 391 com um servidor com tecnologia 2P EPYC 9965 (192 núcleos) com uma pontuação de 3.000 (https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf), juntamente a um upgrade de comparação para um servidor 2P Intel Xeon Platinum 8592+ (64 núcleos) com uma pontuação de 1.130 (https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). A pontuação real do SPECrate®2017_int_base para o EPYC 9965 2P varia de acordo com as publicações do OEM. As estimativas de impacto ambiental foram feitas com base nesses dados, usando os fatores de eletricidade específicos do país/região de "International Country Specific Electricity Factors 10" de 2024, em julho de 2024, e a Calculadora de Equivalências de Gás de Efeito Estufa ("Greenhouse Gas Equivalencies Calculator") da Agência de Proteção Ambiental dos Estados Unidos ("United States Environmental Protection Agency").
- 9xx5-040A: resultados de produtividade (execuções/hora) do XGBoost com base em testes internos da AMD em 05/09/2024. Configurações do XGBoost: v2.2.1, conjunto de dados Higgs, instâncias de 32 núcleos, FP32 2P AMD EPYC 9965 (384 núcleos totais), 12 instâncias de 32 núcleos, DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9755 (256 núcleos totais), DDR5-6400 de 1,5 TB 24x64 GB (a 6000 MT/s), 1DPC, NetXtreme BCM5720 Gigabit Ethernet PCIe de 1,0 Gbps, Samsung MZWLO3T8HCLS-00A07 NVMe® de 3,5 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT= desativado, Determinismo = potência, Turbo Boost = ativado), NPS=1 2P AMD EPYC 9654 (192 núcleos totais), DDR5-4800 de 1,5 TB 24x64GB, 1DPC, 2 Samsung MZQL21T9HCJR-00A07 NVMe® de 1,92 TB, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT= desativado, Determinismo = potência), NPS=1, em comparação com o 2P Xeon Platinum 8592+ (128 núcleos totais), AMX ativado, DDR5-5600 de 1 TB 16x64 GB, 1DPC, NetXtreme BCM5719 Gigabit Ethernet PCIe de 1,0 Gbps, KIOXIA KCMYXRUG3T84 NVMe® de 3,84 TB, Ubuntu 22.04.4 LTS, 6.5.0-35 generic (desempenho de produtividade de perfil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT= desativado, Determinismo = potência, Turbo Boost = ativado) Resultados: produtividade relativa mediana da CPU Run 1 Run 2 Run 3 entre gerações 2P Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA. Os resultados podem variar de acordo com fatores que incluem configurações do sistema, versões de software e configurações do BIOS.