AMD Primus
Treine modelos de IA em escala, sem complexidade
A Primus reúne a configuração de treinamento, transformadores otimizados e operações de produção em uma experiência modular. Passe rapidamente da primeira execução para o treinamento em escala de frota com fluxos de trabalho reproduzíveis, aceleração por kernel, validação em cluster e monitoramento integrados.
Com a Primus, as equipes podem:
Monitorar tarefas distribuídas e resolva problemas mais rapidamente
Iniciar experimentos de treinamento reproduzíveis com uma única CLI
Acelerar as cargas de trabalho de transformadores usando operadores otimizados
Validar os clusters antes de realizar grandes treinamentos
A plataforma Primus
A Primus fornece componentes modulares que suportam todo o ciclo de vida do treinamento, desde a configuração do experimento até as operações em escala de cluster.
Estruturas
Suporte para estruturas de ponta
- Megatron-LM
- PyTorch TorchTitan
- JAX MaxText
AMD Primus
Fluxos de trabalho de treinamento no AMD ROCm™
Arquitetura de referência para treinamento em escala
- Configure
- Valide
- Acelere
- Observe
- Otimize
Desenvolvedores de IA
nenhum
Valide e observe
- Agente de ajuste Primus e Projeção Primus
- Primus-Bench e Primus PreFlight
- Primus-Lens
nenhum
RL em escala de produção – Em breve
Caminho do fluxo de trabalho RL
- Stack OSS RL
- Suporte a veRL, Miles e Slime
- Dockers validados pela AMD e CI/CD do upstream
Desenvolvido com tecnologia
SDK do AMD ROCm™ Core
Bibliotecas | Compiladores | Ferramentas | Ambientes de execução
Performance da avaliação de desempenho
As avaliações de desempenho da Primus mostram como os clientes podem transformar a capacidade das GPUs AMD Instinct™ em um desenvolvimento rápido de modelos, escalando de um único nó para clusters com vários nós, ao mesmo tempo em que maximizam a utilização das GPUs, reduzem o tempo de treinamento e melhoram a eficiência do treinamento em diversas arquiteturas de modelos.
ROCm 10 vs. ROCm 7
Acelerando o aprimoramento do treinamento
DeepSeek-V3-16B
DeepSeek-V2-Lite
Qwen3-30B-A3B
Comparação entre versões: Melhoria de desempenho
2,01x
2,54x
2,76x
Em média
2,4X
mais rápido do que a versão anterior entre os modelos
Paralelização e agendamento
Paralelismo do pipeline, paralelismo de dados fragmentados, sobreposição da operação all-reduce de gradientes
Gerenciamento de memória
Checkpointing de ativação, precisão mista de FP8, acumulação fundida de gradientes
Kernels otimizados
FlashAttention combinada (fwd + bwd), GEMM agrupada • etapa do otimizador combinado
Testado em escala, comprovado em produção
Descubra como a Zyphra desenvolveu o ZAYA1 do zero em uma plataforma AMD completa. Essa colaboração apresenta um modelo competitivo, treinado em mais de mil GPUs, que converge em ambientes de produção em uma pilha Instinct de ponta a ponta.
Introdução à Primus
Da seleção do modelo ao treinamento em grande escala
Experimente a arquitetura de referência, testada em produção, para criar modelos de IA de ponta do zero no Instinct!
1
Use Primus LM no ecossistema da Primus.
2
Confira os recursos de pré-lançamento e o código-fonte mais recentes no GitHub!
Recursos
