Software de AMD Ryzen™ AI

Aspectos destacados de la versión 1.6

• Rendimiento mejorado y tiempo de compilación reducido para el compilador BF16
• Nuevo compilador de números enteros con soporte para la cuantificación general asimétrica (A8W8, A16W8)
• Conjunto ampliado de modelos solo NPU con rendimiento optimizado (tokens/seg más altos en KRK y GPT)
• La longitud del contexto aumentó hasta 4K para todos los LLM
• Se agregó soporte para nuevas arquitecturas LLM: Phi-4 y Qwen-3
• Soporte de resolución dinámica para SD 3.0/3.5, con mejoras de rendimiento en otros modelos SD, incluidas nuevas adiciones (SD2.1-v 768 x 768 text2image, SDXL-base 1024 x 1024 text2image)

Aspectos destacados de la versión 1.5

• Nuevas funciones
  • Genera imágenes utilizando canalizaciones de Stable Diffusion (SD 1.5, 2.1, SDXL y 3.0).
  • Integra capacidades de voz a texto con soporte para modelos Zipformer y Whisper-base.
  • Optimiza la capacidad de respuesta del sistema con Pre-emption, que asigna dinámicamente recursos de procesamiento a tareas de alta prioridad.

Aspectos destacados de la versión 1.4

• Nuevas funciones
  • Instalador unificado con LLM y General Model Flow (INT8, BF16): una experiencia fluida con soporte para todos los tipos de modelos en un solo paquete de liberación.
  • Primera versión del soporte de Windows para la compilación y cuantificación del modelo BF16 para cargas de trabajo CNN y NLP.
  • Soporte para LLM OGA Flow, lo que facilita la implementación de LLM de manera eficiente.
• Nuevo soporte para el modelo LLM
  • Serie de destilación DeepSeek-R1: Llama-8B, Qwen-1.5B, Qwen-7B 
  • Serie Qwen2: Qwen2-1.5B, Qwen2-7B 
  • Gemma2-2B 
  • AMD-OLMO-1B-SFT-DPO  
  • Codellama-7B, Mistral-7B y más

Recursos técnicos

Aspectos destacados de la versión 1.3

• Nuevas funciones 
  • Soporte temprano para el cuantificador unificado AMD llamado Quark
  • Soporte para tipos de datos de precisión mixta y aplicaciones Copilot+
  • Herramienta de perfiles CNN actualizada 
• Nuevo modelo de soporte para el flujo ONNX-GenAI (OGA) 
  • Llama2-7B-Chat / Meta-Llama-3.1-8B
  • Phi-3-Mini-4K-Instruct / Phi-3.5-Mini-Instruct
  • Mistral-7B-Instruct-v0.3

Recursos técnicos

Aspectos destacados de la versión 1.2

• Nuevo soporte de arquitectura 
  • Soporte para Strix (STX): NPU AMD Ryzen™ AI 9 HX370 y Ryzen AI 9 365 
  • Soporte unificado para GPU integrada (iGPU) y NPU a través del software Ryzen AI
• Herramientas, modelos y funciones nuevas de acceso temprano 
  • Herramienta nueva para el análisis, la generación de perfiles y la visualización de modelos para diseños que se ejecutan en la NPU (AI Analyzer)
  • Nueva plataforma/herramienta de inspección y gestión de NPU (xrt-smi)
  • Soporte de flujo de LLM para múltiples, tanto en flujo de PyTorch como de ONNX

Recursos técnicos

Aspectos destacados de la versión 1.1

• Nuevo modelo de soporte:
  • Llama 2 7B con cuantificación w4abf16 (3 bits y 4 bits) (Beta)
  • Base de Whisper (acceso temprano)
• Nuevas herramientas y funciones de EoU:
  • herramienta de evaluación comparativa de CNN en Ryzen AI-SW Rep
  • Plataforma/herramienta de inspección y gestión de NPU

Recursos técnicos

Aspectos destacados de la versión 1.0

• Soporte de modelo
  • Más de 1000 modelos de CNN validados
  • OPT-1.3B en NPU utilizando flujo de PyTorch y ONNX
• Herramientas y funciones de EoU:
  • Soporta la PTQ (Post Training Quantization, cuantificación posentrenamiento) de ONNX, la PTQ de PyTorch y QAT (Quantization Aware Training, entrenamiento consciente de cuantificación)
  • Soporta Vitis AI Execution Provider de ONNX Runtime, tanto con C++ como con API de Python
  • Programación automática de hasta ocho sesiones de inferencia simultáneas en NPU

Recursos técnicos