AMD Primus
Entrena los modelos de IA a escala, sin la complejidad
Primus incorpora la configuración del entrenamiento, transformadores optimizados y operaciones de producción en una experiencia modular. Pasa rápidamente de la primera ejecución al entrenamiento a escala de equipamiento con flujos de trabajo reproducibles, aceleración de kernel, validación de clústeres y monitoreo incorporados.
Con el Primus, los equipos pueden realizar lo siguiente:
Monitorear los trabajos distribuidos y los problemas de depuración más rápido
Iniciar experimentos de entrenamiento reproducibles con una sola CLI
Acelerar las cargas de trabajo de transformadores con operadores optimizados
Validar los clústeres antes de realizar grandes ejecuciones de entrenamiento
Componentes clave
La plataforma Primus
Primus proporciona componentes modulares que respaldan todo el ciclo de vida del entrenamiento, desde la configuración del experimento hasta las operaciones a escala de clúster.
- Validar y observar
- Entrenamiento previo de producción
- RL a escala de producción
Herramientas de confiabilidad
Validar y observar
Planifica configuraciones de entrenamiento, valida la preparación del clúster y monitorea las ejecuciones a escala.
Búsqueda de la configuración de entrenamiento adecuada
Primus Tuning + Primus Projection
- Encuentra la configuración de entrenamiento para tu presupuesto de memoria de GPU.
- Proyecta el uso de la memoria de GPU y el rendimiento de entrenamiento.
- Identifica las configuraciones viables antes de realizar ejecuciones de clúster completo.
Validar clúster antes del inicio
Primus-Bench + Primus Preflight
- Verifica el hardware del clúster y el estado de la red.
- Rendimiento de evaluación comparativa y valores atípicos de los nodos de indicador.
- Prueba las ejecuciones de entrenamiento antes de realizar los inicios de clúster completo.
Identifica cuellos de botella en ejecuciones en vivo
Primus-Lens
- Monitorea los trabajos de entrenamiento y el estado del clúster.
- Ve las ejecuciones distribuidas en los paneles de control.
- Utiliza alertas para detectar problemas de rendimiento.
Primus Core
Entrenamiento previo de producción
Apoya el entrenamiento de modelos grandes con operadores optimizados y operaciones de clúster resilientes.
Iniciar entrenamiento de modelos grandes más rápido
Primus-LM
- Inicia el entrenamiento de modelos grandes desde una CLI.
- Prepara experimentos con YAML y fórmulas de entrenamiento.
- Utiliza Megatron-LM, PyTorch TorchTitan o JAX MaxText.
Aumenta el rendimiento de las cargas de trabajo
Primus-Turbo
- Mejora el rendimiento de entrenamiento de transformadores con operadores optimizados.
- Superpón el procesamiento y la comunicación para mejorar la utilización de la GPU.
- Realiza integraciones en flujos de trabajo de entrenamiento personalizados.
Ejecuciones confiables a escala de clúster
Primus-SaFE
- Programa trabajos con ubicación basada en la topología.
- Comprueba la preparación del clúster antes del entrenamiento.
- Vuelve a intentar los trabajos fallidos y reanuda el entrenamiento desde los puntos de control.
Posentrenamiento de RL
RL a escala de producción
Escala el posentrenamiento de RL en las GPU AMD Instinct™ con flujos de trabajo AMD ROCm™ validados y listos para ejecutar.
Inicia el posentrenamiento de RL con una pila lista para ejecutar
veRL en ROCm
- Inicia con un contenedor prediseñado con dependencias de software verificadas.
- Ejecuta flujos de trabajo posentrenamiento de PPO, GRPO y DAPO.
- Personaliza las versiones de software y los objetivos de GPU según tu entorno.
Escala tus implementaciones y tu entrenamiento de manera independiente
Implementaciones de vLLM y SGLang
- Elige SGLang o vLLM con aceleración de AITER para la implementación.
- Dimensiona los grupos de GPU de implementación y entrenamiento de manera independiente en modo totalmente asíncrono.
- Superpón la generación y el entrenamiento para reducir la espera de respuestas largas.
Valida la calidad del modelo en todos los modos de entrenamiento
Precisión y convergencia
- Utiliza ejemplos validados para modelos de razonamiento denso y de MoE.
- Compara la convergencia en la ejecución coubicada y completamente asíncrona.
- Realiza un seguimiento de la precisión de la validación, las recompensas de entrenamiento y la coherencia entre la implementación y el entrenamiento.
Evaluaciones comparativas de rendimiento
En las evaluaciones comparativas de Primus, se muestra cómo los clientes pueden convertir la capacidad de las GPU AMD Instinct™ en un rápido desarrollo de modelos, de modo que escala de clústeres de un solo nodo a clústeres de varios nodos mientras maximiza la utilización de las GPU, lo que reduce el tiempo de entrenamiento y mejora la eficiencia del entrenamiento en diversas arquitecturas de modelos.
ROCm 10 frente a ROCm 7
Acelerar la mejora del entrenamiento
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
De lanzamiento a lanzamiento: mejora de rendimiento
2,01 veces
2,54 veces
2,76 veces
En promedio
2,4 veces
más rapidez que la versión anterior en todos los modelos
Paralelización y programación
Paralelismo de canalización, datos compartidos paralelos, superposición all-reduce de gradientes
Administración de memoria
Punto de verificación de activación, precisión mixta de FP8, acumulación de gradiente fusionado
Kernels optimizados
FlashAttention fusionada (fwd + bwd), GEMM agrupada • paso de optimizador fusionado
Resultados reales
Probado a escala, probado en producción
Descubre cómo Zyphra construyó ZAYA1 desde cero en una plataforma AMD de pila completa. En esta colaboración, se muestra un modelo competitivo, entrenado con más de 1000 GPU, que convergen en ajustes de producción en una pila de Instinct E2E.
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MMLU-Pro(5) Precisión (%)
40,43
41,92
42,25
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MATH-hard(4) Coincidencia exacta (%)
54,15
47,05
17,98
ZAYA1-base
Qwen3-4B
Gemma3-12B-PT
Llama3.1-8B
OLMoE-1B-7B
MBPP+(3) Pass@1 (%)
75,40
76,46
75,40
Comienza a usar Primus
El recorrido desde la selección de modelos hasta el entrenamiento a escala
Experimenta la arquitectura de referencia probada en producción para construir modelos de IA de frontera desde cero en Instinct.
Icono
Utiliza Primus LM dentro del ecosistema de Primus.
Icono
Ve el código fuente y las funciones más recientes previos al lanzamiento en GitHub.
Recursos
