Descripción general
La era de la IA está evolucionando y crea demandas para una nueva clase de procesamiento, lo que cambia la ecuación de CPU/GPU. La IA generativa introdujo sistemas que podrían razonar y responder en un bucle de solicitud y respuesta. La IA agéntica aumenta estos sistemas con agencia para planificar tareas, realizar acciones en ellas y completarlas. Las CPU para servidores AMD EPYC™ pueden preparar tu centro de datos para la era de la IA agéntica.
La IA agéntica está transformando las necesidades de los centros de datos
Madhusudhan Rangarajan, vicepresidente corporativo de Procesamiento e IA Empresarial de AMD, explica cómo funcionan los sistemas de IA agéntica y por qué transformarán el centro de datos, lo que remodela los roles de las CPU y GPU.
Dentro del flujo de trabajo agéntico
La IA agéntica es una canalización de distintas etapas de procesamiento
Desde la puerta de enlace a la respuesta, cada etapa genera demandas únicas en la CPU. La IA agéntica se mueve continuamente a través de etapas de procesamiento, memoria, E/S, seguridad y aceleración intensiva.
Recursos destacados
Profundiza en cómo los flujos de trabajo agénticos aumentan la demanda de CPU.
Funciones de CPU
A medida que la IA agéntica escala, cada agente utiliza varias CPU para coordinar tareas, administrar la memoria, conectarse con software empresarial y manejar el flujo de datos, lo que aumenta la demanda de CPU en general. La amplia cartera de CPU para servidores AMD EPYC™ satisface estas demandas en tres funciones distintas: escalar los entornos de prueba de los agentes, maximizar el rendimiento del nodo host de IA y alimentar las cargas de trabajo de propósito general que los agentes necesitan para completar su trabajo.
CPU para entornos de pruebas para agentes
Optimiza la capacidad agéntica, diseñada para ofrecer la mayor cantidad de agentes por watt, por dólar y por rack, con el rendimiento líder por watt, la mayor cantidad de subprocesos por dólar y la mayor densidad de subprocesos por rack de las CPU para servidores AMD EPYC2, 3.
CPU para nodo del host de IA
Maximiza la utilización de la GPU y ayuda a aumentar la generación de tokens con las CPU para servidores AMD EPYC de alta frecuencia, lo que permite una excepcional eficiencia de las GPU y ofrece un alto rendimiento por núcleo.
CPU de uso general
Organiza la planificación, el uso de herramientas y los subagentes con la amplia gama de CPU para servidores AMD EPYC, diseñadas para extender el rendimiento de liderazgo en cargas de trabajo de propósito general, desde bases de datos y almacenamiento hasta procesamiento y búsqueda.
CPU para servidores AMD EPYC para IA agéntica
La mejor cartera de CPU para servidores del mundo para la era agéntica
Las CPU para servidores AMD EPYC™ ofrecen la mejor solución de IA agéntica con rendimiento, ahorro de energía y densidad de núcleos y subprocesos de liderazgo para ejecutar múltiples agentes en paralelo, todo mientras se optimiza el costo total de propiedad (TCO).
Cartera
Explora la cartera de CPU para servidores más amplia del mundo para la IA agéntica diseñada para ayudar a satisfacer tus necesidades agénticas.
Blogs
Preguntas frecuentes
La IA agéntica normalmente funciona combinando el razonamiento, la planificación, el uso de herramientas, la memoria y los comentarios. Un agente de IA recibe un objetivo, crea un plan, selecciona las herramientas o fuentes de datos correctas, realiza acciones, comprueba el resultado y hace los ajustes necesarios. Según el caso de uso, puede conectarse a aplicaciones empresariales, bases de datos, API, el correo electrónico, plataformas de chat o sistemas de flujo de trabajo.
La IA generativa crea contenido como texto, imágenes, código, resúmenes o recomendaciones. La IA agéntica va más allá, dado que realiza acciones. Puede desglosar un objetivo en pasos, decidir qué hacer a continuación, usar herramientas de software, recuperar información, completar tareas y supervisar el progreso. En la mayoría de los casos, la IA agéntica utiliza la IA generativa, para proporcionar la inteligencia como parte del flujo de trabajo más amplio.
La IA agéntica puede admitir flujos de trabajo complejos en muchas funciones empresariales. Los casos de uso comunes incluyen el servicio al cliente, el soporte de ventas, la investigación, el desarrollo de software, el análisis de datos, las operaciones de TI, el marketing, los recursos humanos, las finanzas y la automatización de procesos internos. Por ejemplo, un agente de IA podría investigar a un cliente potencial, actualizar un CRM, redactar un correo electrónico de seguimiento y programar el siguiente paso.
La IA agéntica puede ayudar a las organizaciones a aumentar la productividad, reducir el trabajo repetitivo, acelerar la toma de decisiones y mejorar las experiencias de los clientes y los empleados. Debido a que puede administrar procesos de varios pasos, es especialmente útil para el trabajo que requiere coordinación entre sistemas, equipos o fuentes de datos. También puede ayudar a los empleados a centrarse en tareas de mayor valor, ya que maneja actividades rutinarias o que consumen mucho tiempo.
La IA agéntica puede ser segura y eficaz cuando se diseña con los controles adecuados. Algunas medidas de protección importantes incluyen la supervisión humana, permisos claros, la seguridad de datos, pistas de auditoría, pruebas, flujos de trabajo de aprobación y límites sobre qué acciones puede realizar un agente.
Recursos
Notas al pie
- EPYC-068: la cartera de CPU para servidores AMD EPYC abarca los rangos más amplios de implementaciones en el centro de datos de la industria, desde sistemas empresariales de propósito general, en la nube, de telecomunicaciones, para pymes y de computación de alto rendimiento (HPC) hasta entornos de IA emergentes, incluidas implementaciones de IA agéntica en entornos aislados y servidores de nodo principal de GPU. Las plataformas AMD EPYC de 6.ª generación amplían esta amplitud al combinar de manera única alta densidad de núcleos y subprocesos de hasta 512 subprocesos, ancho de banda de memoria avanzado de hasta 16 canales con compatibilidad con MRDIMM de 12,8 GT/s, conectividad PCIe® Gen 6 de última generación y SKU seleccionados con frecuencias de aumento de hasta 5 GHz.
- 9xx6-013: comparación basada en el número de núcleos de máximo rendimiento publicado y en los precios por mil unidades, para estimar el mayor número de agentes por costo de CPU y de subprocesos por costo de CPU de los SKU AMD EPYC™ 9006 (512 subprocesos), AMD EPYC™ 9005 (384 subprocesos) e Intel® Xeon® 6 (256 subprocesos), al 22/7/2026. Subprocesos derivados como 2 subprocesos por núcleo (SMT). Intel y Xeon son marcas comerciales de Intel Corporation o sus empresas vinculadas.
Fuente: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
Los recuentos de agentes son estimaciones derivadas de recursos disponibles de subprocesos de CPU utilizados como proxy en una carga de trabajo teórica coherente. La capacidad real del agente y el rendimiento variarán según la carga de trabajo, el modelo, la memoria, el software, la orquestación y la configuración del sistema.
- 9xx6-005A: compatibilidad con vCPU basada en el conteo de subprocesos, según la comparación de la CPU de máximo rendimiento EPYC 9996 de 6.ª generación con 256 núcleos (512 subprocesos) y la CPU EPYC 9965 de 5.ª generación con 192 núcleos (384 subprocesos). En comparación, el procesador Intel® Xeon® con el mayor recuento de subprocesos es el Intel Xeon 6990E con 288 subprocesos, y la CPU Nvidia con el mayor recuento de subprocesos es la Nvidia Vera con 88 núcleos (176 subprocesos).
Como referencia, las CPU Intel Xeon de 6.ª generación admiten hasta ≈0,8 veces esa cantidad, y se espera que ARM AGI admita hasta ≈0,7 veces esa cantidad y que Nvidia Vera admita ≈0,5 veces la cantidad de subprocesos de las CPU AMD EPYC de 5.ª generación.
- EPYC-068: la cartera de CPU para servidores AMD EPYC abarca los rangos más amplios de implementaciones en el centro de datos de la industria, desde sistemas empresariales de propósito general, en la nube, de telecomunicaciones, para pymes y de computación de alto rendimiento (HPC) hasta entornos de IA emergentes, incluidas implementaciones de IA agéntica en entornos aislados y servidores de nodo principal de GPU. Las plataformas AMD EPYC de 6.ª generación amplían esta amplitud al combinar de manera única alta densidad de núcleos y subprocesos de hasta 512 subprocesos, ancho de banda de memoria avanzado de hasta 16 canales con compatibilidad con MRDIMM de 12,8 GT/s, conectividad PCIe® Gen 6 de última generación y SKU seleccionados con frecuencias de aumento de hasta 5 GHz.
- 9xx6-013: comparación basada en el número de núcleos de máximo rendimiento publicado y en los precios por mil unidades, para estimar el mayor número de agentes por costo de CPU y de subprocesos por costo de CPU de los SKU AMD EPYC™ 9006 (512 subprocesos), AMD EPYC™ 9005 (384 subprocesos) e Intel® Xeon® 6 (256 subprocesos), al 22/7/2026. Subprocesos derivados como 2 subprocesos por núcleo (SMT). Intel y Xeon son marcas comerciales de Intel Corporation o sus empresas vinculadas.
Fuente: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
Los recuentos de agentes son estimaciones derivadas de recursos disponibles de subprocesos de CPU utilizados como proxy en una carga de trabajo teórica coherente. La capacidad real del agente y el rendimiento variarán según la carga de trabajo, el modelo, la memoria, el software, la orquestación y la configuración del sistema. - 9xx6-005A: compatibilidad con vCPU basada en el conteo de subprocesos, según la comparación de la CPU de máximo rendimiento EPYC 9996 de 6.ª generación con 256 núcleos (512 subprocesos) y la CPU EPYC 9965 de 5.ª generación con 192 núcleos (384 subprocesos). En comparación, el procesador Intel® Xeon® con el mayor recuento de subprocesos es el Intel Xeon 6990E con 288 subprocesos, y la CPU Nvidia con el mayor recuento de subprocesos es la Nvidia Vera con 88 núcleos (176 subprocesos).
Como referencia, las CPU Intel Xeon de 6.ª generación admiten hasta ≈0,8 veces esa cantidad, y se espera que ARM AGI admita hasta ≈0,7 veces esa cantidad y que Nvidia Vera admita ≈0,5 veces la cantidad de subprocesos de las CPU AMD EPYC de 5.ª generación.