Ayudamos a los clientes a construir la infraestructura detrás de la IA agéntica

El panorama de IA está cambiando de nuevo

Es probable que tus clientes sigan pensando en la infraestructura de IA desde una perspectiva limitada, basada en cómo han utilizado la IA hasta la fecha: respuestas individuales de llamada y respuesta, y preguntas como qué GPU usar, cuánta memoria aceleradora necesitan y qué modelos les gustaría ejecutar.

Todos estos son factores importantes, pero ya no son el panorama completo. Tenían sentido durante la primera ola de adopción de la IA, cuando la prioridad era la experimentación. Con el surgimiento de la IA agéntica, la conversación sobre la infraestructura ha cambiado y, con ella, surge la oportunidad para que los socios ayuden a los clientes a ir más allá de una visión centrada exclusivamente en la GPU.

Cómo están cambiando las cargas de trabajo de IA

La IA se está transformando: pasó de cargas de trabajo simples de respuesta a peticiones en LLM a cargas de trabajo continuas e independientes que permiten a los clientes hacer mucho más con su infraestructura que antes mediante la ejecución de operaciones y cargas de trabajo continuas sin intervención humana.

Los sistemas de IA agéntica pueden planificar de forma autónoma, recuperar información, invocar herramientas, interactuar con API, actualizar estados, consultar bases de datos, activar flujos de trabajo y coordinar múltiples servicios. A medida que esos sistemas se mueven a la producción, los clientes necesitan una infraestructura que pueda admitir cargas de trabajo continuas, simultáneas, de servicio pesado, no solo la inferencia del modelo aislado anterior.

Si bien las GPU siguen siendo esenciales para el entrenamiento y la inferencia de IA a gran escala, y proporcionan el rendimiento de acelerador necesario para el procesamiento de modelos, son solo una parte del sistema en entornos agénticos. La implementación de flujos de trabajo agénticos depende de una combinación de escalabilidad de entornos aislados de agentes, la maximización del rendimiento de los nodos host de IA y el impulso de las cargas de trabajo de uso general.

Gran parte de ese trabajo complementario depende del procesamiento de la CPU. Si la CPU no puede mantener el ritmo, los clientes se encontrarán con cuellos de botella, alta latencia, baja utilización de la GPU o escalamiento ineficiente, incluso después de invertir fuertemente en aceleradores.

Por lo tanto, una plataforma de IA equilibrada requiere ambos elementos: aceleradores para el procesamiento de modelos y procesadores de servidor de alto rendimiento para las capas de servicio, orquestación y datos que hacen que la IA agéntica sea utilizable a escala.

Con la presentación de CPU para servidores AMD EPYC™ Serie 9006, las infraestructuras pueden evolucionar para satisfacer estas nuevas exigencias y seguir ofreciendo un rendimiento de vanguardia a medida que se adopta la IA agéntica.

La mejor cartera de CPU para servidores para la era agéntica¹

Las CPU para servidores AMD EPYC Serie 9006 ofrecen un rendimiento de liderazgo en lo que respecta a cargas de trabajo de IA agéntica, la nube, empresas y computación de alto rendimiento, ya que cuentan con hasta 256 núcleos, 512 subprocesos y velocidades de reloj de hasta 5 GHz, con un rendimiento por núcleo extraordinario para un procesador para servidores. Con E/S PCIe® Gen 6 líder en la industria y un ancho de banda de memoria de hasta 1,6 TB/s por socket, estos procesadores marcan la pauta para los clientes que se enfrentan a los flujos de trabajo agénticos más exigentes.

Para los clientes preocupados por las actualizaciones, las CPU para servidores AMD EPYC ya ofrecen una base x86 basada en estándares para una infraestructura de servidor densa y eficiente, y esta próxima generación de CPU amplía esa hoja de ruta para futuras implementaciones, lo que ayuda a los clientes a actualizarse de forma fluida sin interrupciones en sus entornos de producción actuales.

Para los socios, esta nueva gama de productos ofrece tres puntos de entrada claros a la conversación sobre IA con los clientes: escalabilidad, maximización del rendimiento y potenciación de cargas de trabajo de propósito general relacionadas con la IA.

1. Escalabilidad vertical

Para los clientes que construyen entornos aislados, experimentación con múltiples agentes o servicios agénticos de alta concurrencia, el procesamiento denso es clave. Cuantos más agentes pueda instalar un cliente dentro de las limitaciones de potencia, espacio en rack y presupuesto disponibles, más fácil le resultará ampliar la adopción de la IA sin generar costos de infraestructura insostenibles ni una complejidad excesiva.

Las CPU para servidores AMD EPYC Serie 9006 con un alto número de núcleos están diseñadas para satisfacer esta necesidad, lo cual ofrece hasta un 33 % más de núcleos que la generación anterior², lo que brinda a los socios una forma directa de abordar la capacidad agéntica a través de una mayor concentración de agentes.

2. Maximización del rendimiento

En sistemas con un alto nivel de aceleración, las CPU para servidores siguen teniendo un rol fundamental. Ayudan a alimentar las GPU, coordinan el movimiento de datos, admiten la E/S, ejecutan servicios en el lado del host y reducen la fricción entre la ejecución del modelo y el entorno de aplicaciones más amplio.

Las CPU para servidores AMD EPYC Serie 9006 de alta frecuencia cuentan con subsistemas de E/S PCIe® Gen 6 líderes en la industria que ofrecen el doble de ancho de banda por carril en comparación con los productos de la generación anterior³ y hasta 1,6 TB/s de ancho de banda de memoria por socket, lo que ayuda a reducir los cuellos de botella del host y admite un movimiento rápido de datos en todo el sistema.

Para los clientes que buscan maximizar la utilización de la GPU y la generación de tokens, estas CPU ayudan a garantizar que la plataforma host pueda seguir el ritmo del rendimiento del acelerador del que dependen sus cargas de trabajo de IA.

3. Servicios de IA de uso general

Muchas cargas de trabajo de los clientes no encajarán de manera precisa en una sola categoría de IA. Sus casos de uso abarcarán bases de datos, servicios de almacenamiento, inferencia en CPU, lógica de orquestación, análisis, middleware, seguridad y mucho más. Estos son precisamente los tipos de cargas de trabajo de uso general que hacen de la IA agéntica una adición tan potente para la gestión de las cargas de trabajo empresariales modernas.

La amplitud de la cartera de CPU para servidores AMD EPYC Serie 9006 permite a los socios asignar los requisitos de los clientes al procesador adecuado dentro de la familia de productos, a fin de ofrecer inferencia en CPU para modelos de lenguaje pequeños y medianos, orquestación para la planificación y el uso de herramientas, o compatibilidad para entornos de IA confidenciales a través de tecnologías de seguridad de AMD como AMD SEV y capacidades de E/S de confianza.

Para los clientes que modernizan su infraestructura empresarial existente al mismo tiempo que adoptan la IA, el cambio a las CPU para servidores AMD EPYC Serie 9006 mantiene la plataforma x86 en la que se basa su pila de software, lo que ayuda a reducir los problemas de migración y acorta el camino desde la planificación de la IA hasta su implementación.