Emirates NBD
“Vimos que las CPU AMD EPYC™ eran, en promedio, un 42 % más veloces que sus alternativas”.
Elegir AMD puede transformar tu centro de datos y hacer avanzar tu negocio
Los procesadores AMD EPYC™ son las mejores CPU para centros de datos del mundo. Ofrecen el rendimiento informático para centros de datos que las empresas necesitan a fin de satisfacer las exigencias de los clientes; además, permiten optimizar el uso de espacio de los racks, brindar un rendimiento de bajo consumo energético e implementar cargas de trabajo de IA a escala.
Modernización y consolidación para prepararse para las iniciativas de IA
Las empresas están implementando tecnologías de IA para mantenerse competitivas, pero esto puede ser un reto para los líderes de TI. Incorporar aplicaciones de IA a las empresas puede poner a prueba las capacidades de la infraestructura del centro de datos existente. Por eso la modernización es fundamental. Por ejemplo, cuando se actualizan de Intel Xeon Gold 6143 a AMD EPYC 9334 de 4.ª generación, las organizaciones pueden utilizar hasta un 73 % menos servidores, un 70 % menos racks y un 65 % menos energía para alcanzar una puntuación de enteros SPECrate® de al menos 80 0001.
¿Por qué elegir AMD EPYC™?
Seleccionar el procesador de centro de datos correcto para tu próxima implementación de servidores puede ayudar a tu organización de TI a obtener más rendimiento y densidad, y mantener o reducir el tamaño de su centro de datos.
Por ejemplo, para lograr una puntuación de enteros SPECrate® de al menos 10 000, se necesitarían 11 servidores con Intel Xeon Platinum 8490H de doble socket, pero apenas 6 servidores con tecnología de AMD EPYC 9654 de doble socket2.
Los servidores con tecnología de los procesadores AMD EPYC de 4.a generación pueden ayudarte con lo siguiente:
- Ejecutar las mismas cargas de trabajo con menos servidores
- Reducir los costos operativos y de energía
- Liberar espacio y energía valiosos del centro de datos y asignar esta capacidad a nuevos servicios y cargas de trabajo
Elige AMD para las implementaciones de IA en tus centros de datos
Cuando se trata de cargas de trabajo de IA, los requisitos son diversos y continúan evolucionando. Tanto las CPU como las GPU pueden sobresalir en la ejecución de cargas de trabajo de inferencia de IA, con diferentes características y escenarios de implementación. AMD ofrece liderazgo en eficiencia y rendimiento de IA para CPU y aceleradores de GPU en implementaciones de centros de datos.
Las mejores CPU para centros de datos del mundo
Los procesadores AMD EPYC de 4.ª generación ayudan a las empresas a obtener información más rápido con el fin de acelerar los negocios. La inferencia de IA se implementa mejor en las CPU EPYC cuando los tamaños de modelo son más pequeños y cuando la IA es de un porcentaje menor en la combinación de carga de trabajo del servidor general.
La carga de procesamiento de IA es uno de los numerosos factores que inciden en el rendimiento general de un servidor cuando se implementa en una empresa. Para tener una mejor idea de las capacidades generales de un servidor, es importante analizar el flujo de procesamiento completo. En comparación con servidores que tienen dos procesadores Xeon de 5.a generación de 64 núcleos de primera calidad, los servidores implementados con dos procesadores EPYC de 4.a generación de 96 núcleos ofrecen 1,65 veces más de rendimiento por servidor con la evaluación comparativa TPCx-AI SF30³.
Los aceleradores de GPU para centros de datos de más alto rendimiento del mundo
Los aceleradores AMD Instinct™ ofrecen un excelente rendimiento en las cargas de trabajo de IA y HPC más exigentes. El modelo MI300X proporciona hasta 1,3 veces más rendimiento en precisiones de IA en comparación con los aceleradores Nvidia H100 SXM (80 GB)⁴. Además del entrenamiento de modelos de IA, las GPU AMD Instinct son ideales para inferencia en implementaciones de IA dedicadas, en que la IA comprende una porción mayor de la combinación general de cargas de trabajo del servidor, o bien cuando la respuesta de inferencia en tiempo real es crítica para la aplicación.
Soluciones
AMD trabaja con diversos socios para diseñar y desarrollar soluciones optimizadas que incluyen AMD EPYC de 4.ª generación.
Ofrece mayores capacidades con AMD EPYC
Los procesadores AMD EPYC de 4.ª generación están diseñados para lograr resultados comerciales acelerados, ya que consolidan la infraestructura y ayudan a reducir los gastos operativos y de capital.
Obtén más información sobre cómo mejorar el rendimiento y la eficiencia de tu centro de datos, lo que permite reducir costos, el consumo energético y el espacio de los servidores.
Miles de empresas confían en nosotros
Ya sea de forma local o en la nube, descubre cómo otras empresas han implementado con éxito los procesadores AMD EPYC.
Regístrate para recibir las últimas novedades y contenido sobre centros de datos.
Notas al pie
- SP5TCO-055: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (v9.37 Pro Refresh), diseñada para calcular el coso total de propiedad, compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un RENDIMIENTO TOTAL de 80 000 unidades de rendimiento de enteros, según los puntajes publicados para estos servidores específicos basados en CPU Intel Xeon y AMD EPYC, al 1 de junio de 2023. Este estimado refleja un período de 3 años con un PUE de 1,7 y un costo de energía de USD 0,128/kWh. En este análisis, se compara un servidor con tecnología equipado con CPU 2P AMD EPYC 9334 de 32 núcleos con un puntaje SPECrate®2017_int_base de 725, https://spec.org/cpu2017/results/res2023q1/cpu2017-20230102-33282.pdf; con un servidor 2P Intel Xeon Gold_6143 de 16 núcleos con un puntaje SPECrate®2017_int_base de 197, https://spec.org/cpu2017/results/res2017q4/cpu2017-20171114-00863.pdf. Debido a la amplia variación de costos inmobiliarios o de administración, este TCO no incluye sus costos en este análisis. El nuevo servidor para gastos operativos con tecnología AMD solo se compone de energía. Los gastos operativos para la base de instalación heredada de los servidores con CPU Intel constan de energía, además de los costos de garantía extendidos. El costo para extender el soporte de la garantía del servidor se calcula en un 20 % anual del precio de compra inicial, que se calcula con los costos del año 2023. El uso de esto y los costos de energía significa que la solución de AMD para un TCO de 3 años es más de USD 2,5 millones menos (un 62 % menos) y tiene un gasto operativo anual de USD 1,2 millones o un 93 % menos. Estimaciones de impacto ambiental realizadas aprovechando estos datos usando los factores de electricidad correspondientes al país o la región que se especifican en “2020 Grid Electricity Emissions Factors v1.4, septiembre de 2020” y en la “Calculadora de equivalencias de gases de efecto invernadero” (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos. Para obtener más información, consulta https://www.amd.com/en/claims/epyc4#SP5TCO-055
- SP5TCO-032: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (versión 6.80) compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un RENDIMIENTO TOTAL de 10 000 unidades de rendimiento de enteros, según los puntajes publicados para estos servidores basados en CPU Intel Xeon y AMD EPYC específicos al 10 de enero del 2023. Este estimado refleja un período de 3 años con un PUE de 1,7 y un costo de energía de USD 0,16/kWh. En este análisis, se compara un servidor con tecnología AMD EPYC_9654 de 2P y 96 núcleos, con un puntaje SPECrate2017_int_base de 1790 (https://spec.org/cpu2017/results/res2022q4/cpu2017-20221024-32607.pdf), en contraste con un servidor con tecnología Intel Xeon Platinum_8490H de 2P y 60 núcleos, con un puntaje SPECrate2017_int_base de 991 (https://spec.org/cpu2017/results/res2023q1/cpu2017-20221206-33039.pdf). Estimaciones de impacto ambiental realizadas aprovechando estos datos usando los factores de electricidad correspondientes al país o la región que se especifican en “2020 Grid Electricity Emissions Factors v1.4, septiembre de 2020” y en la “Calculadora de equivalencias de gases de efecto invernadero” (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos. Para obtener más información, consulta https://www.amd.com/en/claims/epyc4#SP5TCO-032.
- SP5-051A: comparación de la carga de trabajo derivada de TPCx-AI SF30 basada en pruebas internas de AMD con ejecución de varias instancias de VM al 13/4/24. La prueba de rendimiento de IA integral adicional se deriva la evaluación comparativa TPCx-AI y, como tal, no es comparable con los resultados publicados de TPCx-AI, ya que los resultados de la prueba de rendimiento de IA de extremo a extremo no cumplen con la especificación TPCx-AI. Configuración del sistema AMD: Procesadores: 2 AMD EPYC 9654; frecuencias: 2,4 GHz | 3,7 GHz; núcleos: 96 núcleos por socket (1 dominio NUMA por socket); caché L3: 384 MB/socket (768 MB en total); memoria: 1,5 TB (24) módulos DIMM DDR5 de 64 GB a 5600 MHz de doble rango, 1 DPC (la plataforma admite hasta 4800 MHz); NIC: 2 Mellanox CX-5 (MT28800) de 100 GbE; almacenamiento: NVMe Samsung MO003200KYDNC U.3 de 3,2 TB; BIOS: 1.56; configuración del BIOS: SMT = encendido, determinismo = potencia, NPS = 1, PPL = 400 W, Turbo Boost = activado; SO: Ubuntu® 22.04.3 LTS; configuración de prueba: 6 instancias, 64 vCPU/instancia, 2663 casos de uso de IA agregados/min en comparación con la configuración del sistema Intel: Procesadores: 2 Intel® Xeon® Platinum 8592+; frecuencias: 1,9 GHz | 3,9 GHz; núcleos: 64 núcleos por socket (1 dominio NUMA por socket); caché L3: 320 MB/socket (640 MB en total); memoria: 1 TB (16) módulos DIMM DDR5 de 64 GB a 5600 MHz de doble rango, 1 DPC; NIC: 4 puertos PCIe Ethernet Gigabit Broadcom NetXtreme BCM5719 de 1 GbE; almacenamiento: NVMe KIOXIA KCMYXRUG3T84 de 3,84 TB; BIOS: ESE124B-3.11; configuración del BIOS: Hyperthreading = activado, Turbo Boost = activado, SNC = desactivado; SO: Ubuntu® 22.04.3 LTS; configuración de prueba: 4 instancias, 64 CPU/instancia, 1607 casos de uso de IA agregados/min Los resultados pueden variar debido a factores como las configuraciones del sistema, las versiones de software y la configuración del BIOS. TPC, TPC Benchmark y TPC-C son marcas comerciales de Transaction Processing Performance Council.
- MI300-17: Las mediciones realizadas por los laboratorios de rendimiento de AMD al 11 de noviembre del 2023 en la GPU AMD Instinct™ MI300X (750 W) diseñada con la tecnología de proceso FinFET de 5 nm | 6 nm AMD CDNA™ 3 a una frecuencia de reloj de motor con impulso máximo de 2100 MHz alcanzaron los 653,7 TFLOPS de precisión máxima teórica de TensorFloat-32 (TF32), 1307,4 TFLOPS de precisión media máxima teórica (FP16), 1307,4 TFLOPS de precisión máxima teórica de formato Bfloat16 (BF16), 2614,9 TFLOPS de precisión máxima teórica de 8 bits (FP8), 2614,9 TOPS INT8 de rendimiento de punto flotante. Se espera que MI300X sea capaz de aprovechar la sparsity de la estructura precisa proporcionando una mejora estimada del doble de la eficiencia matemática, lo que da como resultado 1307,4 TFLOP de precisión máxima teórica TensorFloat-32 (TF32), 2614,9 TFLOP de precisión media máxima teórica (FP16), 2614,9 TFLOP de precisión máxima teórica de formato Bfloat16 (BF16), 5229,8 TFLOP de precisión máxima teórica de 8 bits (FP8), 5229,8 TOP INT8 de rendimiento de punto flotante con sparsity. Los resultados publicados de la GPU Nvidia H100 SXM (80 GB) de 700 W dieron como resultado 989,4 TFLOPS máxima TensorFloat-32 (TF32) con sparsity, 1978,9 TFLOPS de precisión media teórica máxima (FP16) con sparsity, 1978,9 TFLOPS de precisión de formato Bfloat16 máxima teórica (BF16) con sparsity, 3957,8 TFLOPS de precisión de 8 bits máxima teórica (FP8) con sparsity, 3957,8 TOPS de rendimiento de punto flotante INT8 con sparsity máxima teórica. Fuente NVIDIA H100: https://resources.nvidia.com/en-us-tensor-core. MI300-17
Notas al pie
- SP5TCO-055: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (v9.37 Pro Refresh), diseñada para calcular el coso total de propiedad, compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un RENDIMIENTO TOTAL de 80 000 unidades de rendimiento de enteros, según los puntajes publicados para estos servidores específicos basados en CPU Intel Xeon y AMD EPYC, al 1 de junio de 2023. Este estimado refleja un período de 3 años con un PUE de 1,7 y un costo de energía de USD 0,128/kWh. En este análisis, se compara un servidor con tecnología equipado con CPU 2P AMD EPYC 9334 de 32 núcleos con un puntaje SPECrate®2017_int_base de 725, https://spec.org/cpu2017/results/res2023q1/cpu2017-20230102-33282.pdf; con un servidor 2P Intel Xeon Gold_6143 de 16 núcleos con un puntaje SPECrate®2017_int_base de 197, https://spec.org/cpu2017/results/res2017q4/cpu2017-20171114-00863.pdf. Debido a la amplia variación de costos inmobiliarios o de administración, este TCO no incluye sus costos en este análisis. El nuevo servidor para gastos operativos con tecnología AMD solo se compone de energía. Los gastos operativos para la base de instalación heredada de los servidores con CPU Intel constan de energía, además de los costos de garantía extendidos. El costo para extender el soporte de la garantía del servidor se calcula en un 20 % anual del precio de compra inicial, que se calcula con los costos del año 2023. El uso de esto y los costos de energía significa que la solución de AMD para un TCO de 3 años es más de USD 2,5 millones menos (un 62 % menos) y tiene un gasto operativo anual de USD 1,2 millones o un 93 % menos. Estimaciones de impacto ambiental realizadas aprovechando estos datos usando los factores de electricidad correspondientes al país o la región que se especifican en “2020 Grid Electricity Emissions Factors v1.4, septiembre de 2020” y en la “Calculadora de equivalencias de gases de efecto invernadero” (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos. Para obtener más información, consulta https://www.amd.com/en/claims/epyc4#SP5TCO-055
- SP5TCO-032: Este caso contiene muchas suposiciones y estimaciones y, si bien se basa en la investigación interna de AMD y en las mejores aproximaciones, debe considerarse solo como un ejemplo a título informativo y no usarse como base para la toma de decisiones por sobre las pruebas reales. La herramienta Bare Metal Server Greenhouse Gas Emissions TCO Estimator Tool (versión 6.80) compara las soluciones de servidor basadas en CPU AMD EPYC™ e Intel® Xeon® seleccionadas que son necesarias para ofrecer un RENDIMIENTO TOTAL de 10 000 unidades de rendimiento de enteros, según los puntajes publicados para estos servidores basados en CPU Intel Xeon y AMD EPYC específicos al 10 de enero del 2023. Este estimado refleja un período de 3 años con un PUE de 1,7 y un costo de energía de USD 0,16/kWh. En este análisis, se compara un servidor con tecnología AMD EPYC_9654 de 2P y 96 núcleos, con un puntaje SPECrate2017_int_base de 1790 (https://spec.org/cpu2017/results/res2022q4/cpu2017-20221024-32607.pdf), en contraste con un servidor con tecnología Intel Xeon Platinum_8490H de 2P y 60 núcleos, con un puntaje SPECrate2017_int_base de 991 (https://spec.org/cpu2017/results/res2023q1/cpu2017-20221206-33039.pdf). Estimaciones de impacto ambiental realizadas aprovechando estos datos usando los factores de electricidad correspondientes al país o la región que se especifican en “2020 Grid Electricity Emissions Factors v1.4, septiembre de 2020” y en la “Calculadora de equivalencias de gases de efecto invernadero” (Greenhouse Gas Equivalencies Calculator) de la Agencia de Protección Medioambiental de los Estados Unidos. Para obtener más información, consulta https://www.amd.com/en/claims/epyc4#SP5TCO-032.
- SP5-051A: comparación de la carga de trabajo derivada de TPCx-AI SF30 basada en pruebas internas de AMD con ejecución de varias instancias de VM al 13/4/24. La prueba de rendimiento de IA integral adicional se deriva la evaluación comparativa TPCx-AI y, como tal, no es comparable con los resultados publicados de TPCx-AI, ya que los resultados de la prueba de rendimiento de IA de extremo a extremo no cumplen con la especificación TPCx-AI. Configuración del sistema AMD: Procesadores: 2 AMD EPYC 9654; frecuencias: 2,4 GHz | 3,7 GHz; núcleos: 96 núcleos por socket (1 dominio NUMA por socket); caché L3: 384 MB/socket (768 MB en total); memoria: 1,5 TB (24) módulos DIMM DDR5 de 64 GB a 5600 MHz de doble rango, 1 DPC (la plataforma admite hasta 4800 MHz); NIC: 2 Mellanox CX-5 (MT28800) de 100 GbE; almacenamiento: NVMe Samsung MO003200KYDNC U.3 de 3,2 TB; BIOS: 1.56; configuración del BIOS: SMT = encendido, determinismo = potencia, NPS = 1, PPL = 400 W, Turbo Boost = activado; SO: Ubuntu® 22.04.3 LTS; configuración de prueba: 6 instancias, 64 vCPU/instancia, 2663 casos de uso de IA agregados/min en comparación con la configuración del sistema Intel: Procesadores: 2 Intel® Xeon® Platinum 8592+; frecuencias: 1,9 GHz | 3,9 GHz; núcleos: 64 núcleos por socket (1 dominio NUMA por socket); caché L3: 320 MB/socket (640 MB en total); memoria: 1 TB (16) módulos DIMM DDR5 de 64 GB a 5600 MHz de doble rango, 1 DPC; NIC: 4 puertos PCIe Ethernet Gigabit Broadcom NetXtreme BCM5719 de 1 GbE; almacenamiento: NVMe KIOXIA KCMYXRUG3T84 de 3,84 TB; BIOS: ESE124B-3.11; configuración del BIOS: Hyperthreading = activado, Turbo Boost = activado, SNC = desactivado; SO: Ubuntu® 22.04.3 LTS; configuración de prueba: 4 instancias, 64 CPU/instancia, 1607 casos de uso de IA agregados/min Los resultados pueden variar debido a factores como las configuraciones del sistema, las versiones de software y la configuración del BIOS. TPC, TPC Benchmark y TPC-C son marcas comerciales de Transaction Processing Performance Council.
- MI300-17: Las mediciones realizadas por los laboratorios de rendimiento de AMD al 11 de noviembre del 2023 en la GPU AMD Instinct™ MI300X (750 W) diseñada con la tecnología de proceso FinFET de 5 nm | 6 nm AMD CDNA™ 3 a una frecuencia de reloj de motor con impulso máximo de 2100 MHz alcanzaron los 653,7 TFLOPS de precisión máxima teórica de TensorFloat-32 (TF32), 1307,4 TFLOPS de precisión media máxima teórica (FP16), 1307,4 TFLOPS de precisión máxima teórica de formato Bfloat16 (BF16), 2614,9 TFLOPS de precisión máxima teórica de 8 bits (FP8), 2614,9 TOPS INT8 de rendimiento de punto flotante. Se espera que MI300X sea capaz de aprovechar la sparsity de la estructura precisa proporcionando una mejora estimada del doble de la eficiencia matemática, lo que da como resultado 1307,4 TFLOP de precisión máxima teórica TensorFloat-32 (TF32), 2614,9 TFLOP de precisión media máxima teórica (FP16), 2614,9 TFLOP de precisión máxima teórica de formato Bfloat16 (BF16), 5229,8 TFLOP de precisión máxima teórica de 8 bits (FP8), 5229,8 TOP INT8 de rendimiento de punto flotante con sparsity. Los resultados publicados de la GPU Nvidia H100 SXM (80 GB) de 700 W dieron como resultado 989,4 TFLOPS máxima TensorFloat-32 (TF32) con sparsity, 1978,9 TFLOPS de precisión media teórica máxima (FP16) con sparsity, 1978,9 TFLOPS de precisión de formato Bfloat16 máxima teórica (BF16) con sparsity, 3957,8 TFLOPS de precisión de 8 bits máxima teórica (FP8) con sparsity, 3957,8 TOPS de rendimiento de punto flotante INT8 con sparsity máxima teórica. Fuente NVIDIA H100: https://resources.nvidia.com/en-us-tensor-core. MI300-17