AMD Primus
Entrena los modelos de IA a escala, sin la complejidad
Primus incorpora la configuración del entrenamiento, transformadores optimizados y operaciones de producción en una experiencia modular. Pasa rápidamente de la primera ejecución al entrenamiento a escala de equipamiento con flujos de trabajo reproducibles, aceleración de kernel, validación de clústeres y monitoreo incorporados.
Con el Primus, los equipos pueden realizar lo siguiente:
Monitorear los trabajos distribuidos y los problemas de depuración más rápido
Iniciar experimentos de entrenamiento reproducibles con una sola CLI
Acelerar las cargas de trabajo de transformadores con operadores optimizados
Validar los clústeres antes de realizar grandes ejecuciones de entrenamiento
La plataforma Primus
Primus proporciona componentes modulares que respaldan todo el ciclo de vida del entrenamiento, desde la configuración del experimento hasta las operaciones a escala de clúster.
Marcos
Compatibilidad con los marcos más destacados
- Megatron-LM
- PyTorch TorchTitan
- JAX MaxText
AMD Primus
Flujos de trabajo de entrenamiento en AMD ROCm™
Arquitectura de referencia para el entrenamiento a escala
- Configura
- Valida
- Acelera
- Observa
- Optimiza
Desarrolladores de IA
ninguno
Validar + Observar
- Primus Tuning Agent y Primus Projection
- Primus-Bench y Primus Preflight
- Primus-Lens
ninguno
RL a escala de producción: disponible próximamente
Ruta de flujo de trabajo de RL
- Pila de RL de OSS
- Compatibilidad con veRL, Miles y Slime
- Dockers validados por AMD y CI/CD ascendente
Basado en
SDK de AMD ROCm™ Core
Bibliotecas | Compiladores | Herramientas | Tiempos de ejecución
Evaluaciones comparativas de rendimiento
En las evaluaciones comparativas de Primus, se muestra cómo los clientes pueden convertir la capacidad de las GPU AMD Instinct™ en un rápido desarrollo de modelos, de modo que escala de clústeres de un solo nodo a clústeres de varios nodos mientras maximiza la utilización de las GPU, lo que reduce el tiempo de entrenamiento y mejora la eficiencia del entrenamiento en diversas arquitecturas de modelos.
ROCm 10 frente a ROCm 7
Acelerar la mejora del entrenamiento
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
De lanzamiento a lanzamiento: mejora de rendimiento
2,01 veces
2,54 veces
2,76 veces
En promedio
2,4 veces
más rapidez que la versión anterior en todos los modelos
Paralelización y programación
Paralelismo de canalización, datos compartidos paralelos, superposición all-reduce de gradientes
Administración de memoria
Punto de verificación de activación, precisión mixta de FP8, acumulación de gradiente fusionado
Kernels optimizados
FlashAttention fusionada (fwd + bwd), GEMM agrupada • paso de optimizador fusionado
Probado a escala, probado en producción
Descubre cómo Zyphra construyó ZAYA1 desde cero en una plataforma AMD de pila completa. En esta colaboración, se muestra un modelo competitivo, entrenado con más de 1000 GPU, que convergen en ajustes de producción en una pila de Instinct E2E.
Comienza a usar Primus
El recorrido desde la selección de modelos hasta el entrenamiento a escala
Experimenta la arquitectura de referencia probada en producción para construir modelos de IA de frontera desde cero en Instinct.
1
Utiliza Primus LM dentro del ecosistema de Primus.
2
Mira el código fuente y las funciones más recientes previos al lanzamiento en GitHub.
Recursos
