GPUs AMD Instinct
Descubra como os aceleradores AMD Instinct supercarregam a IA e a HPC.
Visão geral
Pilha de software de GPU otimizada
O AMD ROCm™ é uma plataforma de software aberta que ajuda as equipes de data center a configurar, implantar e dimensionar rapidamente cargas de trabalho de IA e HPC entre GPUs e nós. Os desenvolvedores podem trabalhar com estruturas conhecidas, ajustar códigos essenciais para o desempenho e usar o HIP para adaptar aplicações e estruturas de GPU existentes para hardware AMD compatível.
Ampliar imagem
← Assista ao vídeo
ROCm.AI: acelerando a velocidade do desenvolvimento e a otimização do desempenho
Uma experiência de desenvolvedor nativa de IA que acelera o desenvolvimento do ROCm, simplifica o desenvolvimento e a otimização de cargas de trabalho de IA e maximiza o desempenho em hardware AMD
Desenvolvimento
Crie, treine e implante IA em escala com o software AMD ROCm
O software AMD ROCm™ reúne estruturas abertas, bibliotecas otimizadas, ferramentas de modelagem e infraestrutura expandida para impulsionar o desenvolvimento de IA, desde a experimentação até a produção.
Crie
Desenvolvimento de modelo simplificado
Desenvolva com PyTorch, TensorFlow e JAX usando contêineres otimizados para a AMD e fluxos de trabalho para modelos abertos populares, como os mais de três milhões disponíveis na Hugging Face.
Treine
AMD Primus: treine modelos de IA em escala
Use as bibliotecas de comunicação AMD Primus e ROCm para pré-treinamento, ajuste fino e treinamento distribuído em GPUs AMD Instinct™.
Otimize
Otimize e execute modelos de IA
Use AMD Quark, AITER, vLLM e SGLang para otimizar modelos, acelerar operações críticas e implantar inferência de alta taxa de processamento.
Implante
Implante em toda a infraestrutura de IA
Dimensione desde GPUs individuais até ambientes de vários nós com contêineres, Kubernetes, Slurm, telemetria e ferramentas de gerenciamento de ciclo de vida.
Crie, otimize, dimensione e execute computação de alto desempenho com o AMD ROCm
O software AMD ROCm™ ajuda os desenvolvedores de HPC a criar ou portar aplicações científicas, analisar e ajustar o desempenho e migrar de uma única GPU para execuções em vários nós.
Crie
Desenvolva e porte aplicações científicas
Desenvolva código acelerado por GPU com HIP ou offload via OpenMP®, trabalhe com estruturas de HPC, como Kokkos e RAJA, e use o HIPIFY para ajudar a converter código CUDA® existente.
Otimize
Analise e ajuste o desempenho
Analise os kernels e a movimentação de dados com ferramentas ROCm, depois use bibliotecas otimizadas para álgebra linear, FFTs, solucionadores e operações esparsas. Valide os resultados conforme você ajusta.
Expanda
Dimensione entre GPUs e nós
Use MPI com reconhecimento de GPU para aplicações distribuídas e rocSHMEM para comunicação iniciada pela GPU e, em seguida, meça o desempenho à medida que o número de GPUs e nós aumenta.
Execute
Execute em infraestruturas de HPC
Faça o empacotamento de aplicações em contêineres de HPC e envie trabalhos de cluster com o Slurm. O ROCm é utilizado em sistemas de liderança, como El Capitan, Frontier e LUMI.
O que há de novo
ROCm 10.0: desenvolvido para a era da IA agêntica
Icon
Crie com a experiência da AMD
O AMD Skills traz conhecimento e fluxos de trabalho validados da AMD para agentes de codificação de IA, ajudando os desenvolvedores a criar aplicações otimizadas para a AMD com orientação nas ferramentas que já utilizam.
Icon
Execute com fluxos de trabalho mais simples
A CLI do ROCm fornece uma interface unificada para configurar, gerenciar e operar cargas de trabalho de IA em hardware AMD.
Icon
Otimize a inferência de ponta a ponta
O ROCm Hyperloom usa IA agêntica para analisar cargas de trabalho, identificar gargalos, implementar otimizações e validar o desempenho em todo o código do host e nos kernels da GPU.
Icon
Desenvolva com base em um SDK ROCm Core modular
O SDK ROCm Core fornece uma base modular para a criação, implantação e otimização de cargas de trabalho de IA em todas as plataformas AMD.
Ecossistema e parceiros
Um ecossistema de IA amplo e aberto, construído com as principais estruturas, parceiros de tecnologia e desenvolvedores, para acelerar a inovação, permitir a portabilidade e dimensionar a IA desde o desenvolvimento até a produção.
Hardware compatível
Recursos para desenvolvedores
Perguntas frequentes
O AMD ROCm™ é uma pilha de software aberta para o desenvolvimento de IA e aplicações de computação de alto desempenho em GPUs AMD compatíveis. As equipes o utilizam para treinar e executar modelos de IA, criar software acelerado por GPU e executar cargas de trabalho científicas entre GPUs e nós.
ROCm e CUDA são plataformas de computação GPU separadas. O ROCm fornece uma pilha de software aberta para GPUs AMD compatíveis, e seu modelo de programação HIP oferece um caminho para portar código-fonte CUDA. As ferramentas e APIs não são intercambiáveis diretamente, portanto, o esforço de migração depende da aplicação e de suas dependências.
Nem sempre. Aplicações desenvolvidas com estruturas de IA compatíveis podem começar com uma versão da estrutura habilitada para ROCm. O código que chama APIs CUDA ou depende de bibliotecas específicas do CUDA pode precisar de alterações. O HIPIFY ajuda a converter o código CUDA compatível para HIP, após o qual os desenvolvedores devem testar a exatidão e ajustar o desempenho conforme necessário.
O ROCm é compatível com PyTorch, TensorFlow e JAX para desenvolvimento de IA, bem como com vLLM e SGLang para execução de modelos. As versões compatíveis dependem da versão do ROCm e da configuração do sistema. Verifique a matriz de compatibilidade atual antes de selecionar uma versão de estrutura.
Primeiro, verifique a matriz de compatibilidade da GPU e do sistema operacional. Depois, siga o guia de instalação da AMD para a respectiva configuração. O AMD Infinity Hub oferece contêineres pré-configurados, enquanto a CLI do ROCm pode ajudar na configuração e no diagnóstico de sistemas compatíveis. Execute uma carga de trabalho de exemplo para verificar seu ambiente antes de dimensionar.
Receba as últimas novidades sobre o ROCm.
Notas de rodapé
©2024 Advanced Micro Devices, Inc. Todos os direitos reservados. AMD, o logotipo de seta AMD, AMD ROCm, AMD Instintic, EPYC, Radeon Instinct e suas combinações são marcas registradas da Advanced Micro Devices, Inc. PyTorch é uma marca comercial ou marca registrada da PyTorch. Outros nomes de produtos usados nesta publicação são apenas para fins de identificação e podem ser marcas comerciais de suas respectivas empresas.
- Para obter uma lista completa das peças Radeon compatíveis com o ROCm, acesse https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html
Notas de rodapé
©2024 Advanced Micro Devices, Inc. Todos os direitos reservados. AMD, o logotipo de seta AMD, AMD ROCm, AMD Instintic, EPYC, Radeon Instinct e suas combinações são marcas registradas da Advanced Micro Devices, Inc. PyTorch é uma marca comercial ou marca registrada da PyTorch. Outros nomes de produtos usados nesta publicação são apenas para fins de identificação e podem ser marcas comerciais de suas respectivas empresas.
- Para obter uma lista completa das peças Radeon compatíveis com o ROCm, acesse https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html