Executando e disponibilizando LLMs com o LM Studio
Execute e disponibilize LLMs localmente com o LM Studio para facilitar a implantação de modelos e a hospedagem de APIs locais compatíveis com a OpenAI.
Hub de desenvolvedores de IA do ROCm™: IA local
Execute modelos menores localmente nas GPUs AMD Radeon™
Experimente usar o AMD ROCm™ para programação de GPU AMD Radeon. Encontre exemplos de guias, ferramentas de desenvolvimento de IA local, tutoriais, projetos de código aberto, documentação e muito mais.
Instalar ROCm:
Execute exemplos de cargas de trabalho de IA local
Experimente a pilha de software ROCm para casos de uso de IA de borda.
Cargas de trabalho em destaque
Obter acesso a GPUs AMD Radeon
Deseja testar a programação de GPU AMD Radeon com o ROCm?
Experimente as poderosas GPUs AMD Radeon para desenvolver aplicações de IA local com base na sua localização geográfica.
Recursos de aprendizado
Analise mais tópicos para encontrar recursos de aprendizagem relevantes que podem ajudar você a se manter atualizado sobre os mais recentes avanços tecnológicos da AMD.
Comunidade e suporte
Perguntas frequentes
O desenvolvimento de aplicações de IA local em GPUs é ideal quando você precisa de baixa latência, capacidade de resposta em tempo real, controle de custos ou privacidade de dados sem depender da nuvem. Ao programar GPUs AMD Radeon com o ROCm, os desenvolvedores podem executar cargas de trabalho de IA localmente para casos de uso como:
- LLMs e copilotos locais para RAG (Retrieval-Augmented Generation, Geração aumentada por recuperação), assistência de codificação e aplicações de IA privadas
- Fluxos de trabalho de criação de conteúdo e de mídia, como geração de imagens, aprimoramento de vídeo e áudio e renderização 3D
- Jogos com tecnologia de IA e gráficos em tempo real
As sucessivas versões do ROCm apresentaram ganhos significativos de desempenho. Consulte a página de resultados de desempenho para obter um ponto de referência na avaliação do desempenho das GPUs AMD Instinct com o software ROCm executando modelos populares de IA para inferência (por exemplo, vLLM, xDiT) e treinamento (por exemplo, PyTorch, Megatron-LM e JAX MaxText).
As GPUs com suporte a ROCm AMD Radeon RX, Radeon PRO e Radeon AI Pro oferecem alto desempenho para ajuste fino e inferência de IA local. O PyTorch pode ser instalado para ROCm nessas GPUs usando os métodos de instalação PIP (para Linux e Windows) ou Docker (para Linux). A equipe do AMD ROCm contribui ativamente para o desenvolvimento de código-fonte aberto e colabora estreitamente com organizações de framework, incluindo o PyTorch.
Inscreva-se para receber novidades do ROCm
Inscreva-se para receber a newsletter do ROCm e ficar sempre por dentro dos lançamentos e dicas mais recentes.