IA en el dispositivo para empresas con los procesadores AMD Ryzen™ AI PRO

Una PC con AMD AI es un sistema que incluye una unidad de procesamiento neuronal (NPU) dedicada además de la CPU y la GPU. Aunque muchas PC tradicionales pueden ejecutar cargas de trabajo de IA mediante la CPU o GPU, una PC con AMD AI está diseñada específicamente para ejecutar tareas de IA en los tres motores de procesamiento en función de las características de la carga de trabajo. Las PC sin IA suelen depender de la CPU, la tarjeta gráfica integrada o una GPU independiente para ejecutar cargas de trabajo de IA. Por el contrario, las PC con AMD AI incluyen un motor de IA en el chip que permite flexibilidad adicional y eficiencia potencial mediante la liberación de cargas de trabajo de IA adecuadas a la NPU. Esto permite que las tareas de IA se ejecuten con un menor impacto de energía mientras deja la CPU y la GPU disponibles para otros procesos del sistema. La distinción no es si una PC puede ejecutar cargas de trabajo de IA, sino si incluye hardware de IA dedicado que esté diseñado para admitirlas de manera eficiente y simultánea.

AMD Ryzen AI se refiere a la combinación de hardware compatible con IA y software compatible integrado en los procesadores AMD Ryzen. Esto incluye un motor de IA (NPU) dedicado, una tarjeta gráfica AMD Radeon y núcleos de CPU Ryzen que trabajan en conjunto para permitir las capacidades de IA en una amplia variedad de cargas de trabajo. En términos prácticos, AMD Ryzen AI abarca tanto las características del chip que aceleran el procesamiento de IA como la pila de software necesaria para aprovecharlas. Las cargas de trabajo de IA pueden ejecutarse en la CPU, la GPU o la NPU según el rendimiento, la latencia y los requisitos de energía. Los procesadores AMD Ryzen con NPU utilizan las arquitecturas AMD XDNA™ y AMD XDNA2™, las cuales están diseñadas para admitir la evolución de las cargas de trabajo de IA a lo largo del tiempo. La liberación de tareas de IA a la NPU permite realizar múltiples tareas con un impacto mínimo en el rendimiento, lo que mantiene el sistema con gran capacidad de respuesta mientras que el procesamiento de IA se ejecuta en paralelo.

Las cargas de trabajo de IA generalmente se dividen en dos categorías: entrenamiento e inferencia. El entrenamiento implica crear o refinar un modelo de IA con grandes conjuntos de datos y, por lo general, requiere recursos de procesamiento sustanciales, a menudo mediante el uso de clústeres de GPU o aceleradores especializados. Este trabajo se realiza generalmente en centros de datos o entornos de nube. La inferencia es el proceso de aplicar un modelo entrenado a nuevos datos. Las cargas de trabajo de inferencia son mucho más comunes en el uso diario y pueden ejecutarse en una amplia variedad de hardware, incluidas CPU, GPU y NPU. Muchas aplicaciones de IA están diseñadas para realizar la inferencia localmente en las PC en lugar de depender de la nube.

Los sistemas basados en AMD Ryzen AI están optimizados para admitir cargas de trabajo de inferencia locales mediante su ejecución en el motor de procesamiento más adecuado. La NPU es especialmente adecuada para la inferencia de IA sostenida y de baja potencia, mientras que la CPU y la GPU manejan tareas que se benefician del procesamiento de propósito general o altamente paralelo.

“Más de 100 experiencias con IA” se refiere al creciente ecosistema de aplicaciones y servicios que aprovechan la aceleración de IA en los sistemas basados en AMD Ryzen AI. Esto incluye la colaboración con proveedores de software independientes (ISV), socios de sistemas operativos y desarrolladores de plataformas para permitir funciones de IA en flujos de trabajo técnicos, de productividad, seguridad y creación. Estas experiencias abarcan aplicaciones que utilizan inferencia local, procesamiento híbrido local y en la nube e integración de IA a nivel del sistema operativo. La amplitud de este ecosistema refleja el enfoque de AMD para la habilitación de IA en varias capas de la pila de software en lugar de ser compatible con una sola aplicación o caso de uso. A medida que se lanza un software adicional habilitado para la IA, se expande la compatibilidad con AMD Ryzen AI mediante actualizaciones de software y la colaboración del ecosistema, lo que permite que los sistemas se adapten al mismo tiempo que evolucionan los modelos de IA y las cargas de trabajo.

Ejecutar cargas de trabajo de IA localmente en la PC puede permitir una menor latencia, una mejor capacidad de respuesta y un mayor control sobre los datos. La IA en el dispositivo permite que la inferencia ocurra sin depender de la conectividad de red o los servicios en la nube, lo que puede ser importante para tareas confidenciales o urgentes. Los sistemas basados en AMD Ryzen AI admiten IA en el dispositivo mediante la distribución de cargas de trabajo en la CPU, GPU y NPU. La NPU está diseñada para manejar la inferencia de IA sostenida de manera eficiente, lo que reduce el consumo energético mientras se mantienen disponibles otros recursos del sistema. Este enfoque permite que una variedad más amplia de casos de uso de IA se ejecute directamente en la PC, lo que complementa los servicios basados en la nube en lugar de reemplazarlos.