Faça o pré-treinamento com o Primus
Faça o pré-treinamento do Qwen2.5-7B usando o ROCm em GPUs AMD com o Primus.
Experimente o AMD ROCm™ para programação de GPUs com código aberto usando PyTorch e outros frameworks líderes do mercado. Encontre exemplos de notebooks, tutoriais, projetos de código aberto, documentação e muito mais.
Experimente a pilha de software ROCm para casos de uso de IA na nuvem e em data centers.
Participe do Programa de desenvolvedores de IA da AMD para receber US$ 100 em créditos gratuitos para a AMD Developer Cloud — uma poderosa plataforma de computação com GPUs AMD Instinct e contêineres Docker pré-instalados e sem configuração.
Analise mais tópicos para encontrar recursos de aprendizagem relevantes que podem ajudar você a se manter atualizado sobre os mais recentes avanços tecnológicos da AMD.
O ROCm é compatível com mais de uma dúzia de distribuições Linux para cargas de trabalho de computação em GPUs AMD Instinct e AMD Radeon selecionadas. As distribuições do Linux atualmente suportadas para o ROCm estão listadas no documento de requisitos do sistema.
As versões subsequentes do ROCm apresentaram avanços significativos em desempenho. Consulte a página de resultados de desempenho para obter um ponto de referência na avaliação do desempenho das GPUs AMD Instinct com o software ROCm executando modelos populares de IA para inferência (por exemplo, vLLM, xDiT) e treinamento (por exemplo, PyTorch, Megatron-LM e JAX MaxText).
A AMD disponibiliza regularmente imagens Docker oficiais do ROCm para PyTorch juntamente com os novos lançamentos do ROCm. Essas imagens passam por testes completos da AMD. Consulte uma visão geral, os módulos suportados e as principais bibliotecas no documento de compatibilidade do PyTorch e encontre instruções e downloads da imagem Docker ou de um pacote wheel no guia de instalação do PyTorch no ROCm.
Você pode otimizar seu sistema ajustando as GPUs AMD à sua carga de trabalho para aproveitar todos os recursos.
Você também pode usar as ferramentas do ROCm para melhorar o desempenho dos modelos de IA e acelerar o estágio de inferência da execução de cargas de trabalho de IA. Realizar a quantização e reduzir modelos pré-treinados, otimizar kernels de computação e usar bibliotecas aceleradas são métodos de otimização de inferência. Comece a usar o documento de otimização de inferência do ROCm.
Acesse créditos gratuitos da AMD Developer Cloud, treinamento exclusivo, sorteios mensais de GPUs da AMD e suporte da comunidade, tudo pensado para impulsionar seu trabalho de desenvolvimento de IA.
Inscreva-se para receber a newsletter do ROCm e ficar sempre por dentro dos lançamentos e dicas mais recentes.