GPU AMD Instinct™ Serie MI350

Establecer nuevos estándares

Desde su creación, los aceleradores AMD Instinct™ han proporcionado rendimiento, eficiencia y escalabilidad a los clientes de centros de datos y a aquellos que quieren acercarse a las posibilidades de la IA. Cada generación ha establecido nuevos estándares, proporcionado especificaciones líderes en la industria y ayudado a optimizar el rendimiento y reducir el costo total de propiedad¹.

Ahora, con la introducción de las GPU AMD Instinct™ Serie MI350 al mercado como parte del reciente evento Advancing AI, AMD eleva las expectativas una vez más.

Con IA, optimización para HPC y rendimiento líder

Es el momento de presentar a tus clientes las nuevas GPU AMD Instinct™ MI350X y AMD Instinct™ MI355X y sus respectivas plataformas, cada una basada en la arquitectura vanguardista AMD CDNA™ de 4.ª generación y que cuentan con una capacidad de hasta 288 GB de memoria HBM3E y 8 TB/s de ancho de banda. Diseñadas para todo, desde entrenamiento masivo de modelos de IA e inferencia de alta velocidad hasta cargas de trabajo complejas de HPC, las GPU AMD Instinct MI350X ofrecen hasta 2,05 veces el rendimiento de FP6 de la plataforma B200 de Nvidia², mientras que las GPU AMD Instinct MI355X cuentan con dos veces la ventaja de FP6 por sobre la GB200³ a fin de establecer un nuevo nivel para la densidad, la eficacia y el rendimiento a escala.

A medida que aumentaron las exigencias de los clientes y la infraestructura, AMD diseñó estos aceleradores para mantener el ritmo. Estas nuevas GPU con sistema de refrigeración por aire se integran perfectamente en las plataformas AMD Instinct™ Serie MI300 de la generación anterior e incluso en infraestructuras de terceros, lo que las convierte en una actualización rentable y sencilla para prácticamente cualquier situación en la cual la informática de mayor densidad es una necesidad.

Ambas GPU AMD Instinct ofrecen un soporte ampliado para los tipos de datos FP6 y FP4, además de un soporte mejorado para el procesamiento de FP16 y FP8, lo que proporciona un rendimiento computacional y una utilización de ancho de banda de memoria sin concesiones mientras se maximiza la eficiencia energética. Las GPU AMD Instinct Serie MI350 también ofrecen hasta 7 veces mejor rendimiento al ejecutar FP4 en comparación con las GPU AMD Instinct MI300X que ejecutan FP16⁴, lo que les permite ofrecer un rendimiento increíble cuando se trata de modelos avanzados de IA generativa y superar los límites del espacio más lejos que nunca.

Integra software AMD ROCm™ de próxima generación

Con base en el compromiso de AMD con la innovación de código abierto, las GPU AMD Instinct Serie MI350 están integradas en la pila de software AMD ROCm™ de próxima generación, la principal alternativa abierta de la industria para cargas de trabajo de IA y HPC.

Junto con el lanzamiento de estos nuevos aceleradores, las mejoras más recientes del software AMD ROCm llevan las cargas de trabajo de IA al siguiente nivel, lo que optimiza aún más la inferencia de IA, el entrenamiento de IA y la compatibilidad de marco, lo que proporciona un alto rendimiento, resultados de baja latencia para cargas de trabajo exigentes, como el NLP (Natural Language Processing, procesamiento de lenguaje natural), la visión artificial y mucho más.

El software ROCm proporciona soporte de día 0 para plataformas y modelos de IA proporcionados por líderes como OpenAI, Meta, PyTorch, Hugging Face, Databricks, Lamini y más, gracias a colaboraciones estratégicas y profundas con socios clave. Todo esto se suma a garantizar que las GPU AMD Instinct estén optimizadas para ejecutar los últimos modelos y marcos de IA a medida que se lanzan, lo que permite a desarrolladores y empresas acelerar la forma en que integran la IA en sus flujos de trabajo.

Hay una razón por la cual titanes de la industria como Microsoft y Meta confían en las GPU AMD Instinct para impulsar implementaciones de inteligencia artificial a gran escala para modelos como Llama 405B y GPT. Habla con tu representante de AMD o visita amd.com para obtener más información y ayudar a tus clientes con el poder de los aceleradores AMD Instinct.