Onde a IA deve ser executada?

O local de execução da IA faz a diferença

A IA é executada em muito mais ambientes além da nuvem: nos PCs dos funcionários, na borda, em data centers dos próprios clientes ou por meio de serviços em nuvem. À medida que as empresas encontram novas formas de usar a IA, o local mais adequado para executá-la depende das necessidades de cada carga de trabalho: acesso aos dados, desempenho com respostas rápidas, conectividade confiável, capacidade suficiente e custos administráveis.

Para os parceiros, a oportunidade é transformar esses requisitos em recomendações práticas de infraestrutura. Um assistente local para lidar com documentos e um sistema de análise de vídeo que atende a várias unidades podem exigir abordagens diferentes. Comece pela carga de trabalho e, em seguida, identifique onde essa carga de trabalho de IA deve ser executada.

O tipo de atividade com IA também importa. O treinamento ou o aprimoramento de um modelo de grande porte geralmente exige uma capacidade computacional substancial, disponível no data center ou na nuvem. Muitas das tarefas que os clientes realizam diariamente com a IA, como resumir documentos ou ajudar os funcionários a concluir atividades rotineiras, envolvem inferência, ou seja, o uso de um modelo existente para atender a novas solicitações. Dependendo do modelo e do software, esse processamento pode ocorrer em um PC, na borda ou em uma infraestrutura centralizada. Compreender essa diferença ajuda os parceiros a identificar em quais situações os clientes têm flexibilidade e em quais as cargas de trabalho são mais exigentes e requerem soluções específicas.

Cinco perguntas para fazer aos seus clientes

Antes de recomendar produtos, identifique quais são as necessidades da carga de trabalho. Estas cinco perguntas ajudam os parceiros a identificar opções de implantação adequadas e a explicar aos clientes as vantagens e desvantagens envolvidas em cada escolha.

• Os dados precisam ser mantidos localmente? Informações confidenciais, normas do setor e políticas da empresa provavelmente favorecerão o processamento no próprio dispositivo ou na infraestrutura do cliente.
  
  
• Com que rapidez a carga de trabalho precisa responder? Tarefas que envolvem vídeo ao vivo, máquinas ou assistência interativa tendem a favorecer a execução da inferência perto do local onde os dados são gerados.
  
  
• A carga de trabalho precisa funcionar mesmo sem conectividade confiável? Locais remotos, funcionários em trânsito e ambientes com restrições podem precisar que a IA continue funcionando mesmo quando a conexão estiver indisponível ou instável.
  
  
• Quantos usuários ou sistemas precisam ter acesso à IA? O uso de um assistente local por um único funcionário é muito diferente da utilização de um modelo compartilhado por toda a empresa, especialmente à medida que a demanda muda ao longo do tempo.
  
  
• Como fica o custo à medida que o uso aumenta? A execução de IA por meio de APIs em nuvem pode gerar cobranças contínuas com base no consumo de tokens, enquanto a IA local envolve custos de hardware e operação.

Esse último ponto torna-se ainda mais importante à medida que a IA passa a fazer parte do trabalho cotidiano. As APIs de IA em nuvem podem cobrar com base no uso de tokens, enquanto as assinaturas corporativas podem utilizar preços por usuário ou outros modelos de precificação. Com APIs baseadas no uso, os custos podem aumentar à medida que o volume de solicitações e o consumo de tokens crescem.

Entenda os custos de IA com a AMD Tokenomics Calculator

Use a ferramenta AMD Tokenomics Calculator para comparar os custos estimados de cenários compatíveis de IA local e em nuvem. Informe o tamanho da equipe do cliente, o uso previsto, o modelo de nuvem selecionado e o período de análise para verificar como os custos podem variar à medida que a adoção aumenta.

A calculadora estima o custo durante o período que você escolher. Ela também compara os custos das APIs em nuvem com os da execução de cargas de trabalho de IA compatíveis em dispositivos AMD ou por meio de uma combinação de processamento local e em nuvem, incluindo estimativas de custos operacionais e de hardware. Para os parceiros, é uma maneira simples e eficaz de mostrar aos clientes como diferentes escolhas podem afetar os custos à medida que o uso da IA aumenta.

Considere os resultados como um ponto de partida. Antes de recomendar uma implantação, confirme a compatibilidade dos modelos e do software e considere os custos de licenciamento, suporte de TI e outras despesas não contempladas pelas premissas da calculadora.

Dispositivo, borda, data center ou nuvem?

Assim que você tiver uma visão mais clara das necessidades da carga de trabalho, será mais fácil determinar onde ela deve ser executada.

Considere a IA no dispositivo quando os funcionários precisarem de aplicações com suporte para processar dados localmente ou operar sem uma conexão contínua com a internet. Sistemas equipados com processadores AMD Ryzen™ AI PRO combinam CPUs, GPUs e NPUs para oferecer suporte a aplicações de IA locais, de ferramentas de produtividade a assistentes para documentos. O processamento local pode reduzir a dependência de conexões de rede e evitar comunicações de ida e volta pela rede para cargas de trabalho compatíveis.

Saiba mais sobre PCs com IA para empresas e IA híbrida

Considere a IA de borda quando câmeras, sensores ou equipamentos precisarem de processamento próximo de onde os dados são gerados. Os processadores AMD Ryzen™ AI Embedded da Série X100 combinam aceleração de CPU, GPU e NPU para sistemas que precisam executar IA localmente, além de outras tarefas exigentes. Manter uma parte maior desse processamento localmente pode reduzir a quantidade de dados brutos transmitidos pela rede, diminuindo a demanda de largura de banda e ajudando sistemas com prazos rígidos a responderem sem esperar pelos serviços remotos.

Considere adotar uma infraestrutura de data center centralizada quando modelos maiores, serviços compartilhados ou treinamento intensivo exigirem mais recursos do que os disponíveis em dispositivos individuais. As CPUs de servidor AMD EPYC™ e as GPUs AMD Instinct™ oferecem suporte à inferência intensiva, ao treinamento de modelos e aos serviços que mantêm os sistemas empresariais de IA em funcionamento. O AMD Enterprise AI Reference Stack também ajuda as empresas a implantar e gerenciar IA na infraestrutura da AMD por meio de uma base de software aberto.

Saiba mais sobre as CPUs para servidores AMD EPYC voltadas à IA empresarial

Considere os serviços de nuvem quando os clientes precisarem acessar modelos hospedados ou contar com uma capacidade ajustável conforme a demanda. Para algumas empresas, manter grandes cargas de trabalho de IA em seus próprios data centers fará mais sentido em termos de custo e escalabilidade. Outras empresas podem preferir serviços em nuvem para cargas de trabalho com demanda variável ou que exijam recursos cuja manutenção interna não se justificaria.

Argumentos a favor da IA híbrida

Diferentes tarefas no mesmo fluxo de trabalho de IA podem ser mais adequadas a diferentes ambientes. Uma abordagem híbrida permite que os clientes mantenham localmente as tarefas adequadas a esse ambiente e usem recursos centralizados ou em nuvem para tarefas que exigem capacidade adicional ou modelos diferentes.

A AMD apresenta um exemplo útil de quanto trabalho de IA pode ser realizado localmente na aplicação adequada. No artigo "Advancing AI 2026", a AMD descreve uma demonstração de atendimento ao cliente em que um sistema equipado com processadores AMD Ryzen™ AI, executando o Lemonade, processava solicitações de rotina localmente no próprio dispositivo e encaminhava as mais exigentes para um modelo em nuvem. Nessa demonstração específica, a AMD informou que 69% do processamento de tokens foi realizado localmente, enquanto 31% foi transferido para a nuvem.

Esses dados vêm de uma única demonstração, portanto, a proporção de processamento local e em nuvem varia de cliente para cliente. O que torna esse exemplo útil é a maneira como a aplicação toma essa decisão para cada solicitação: a IA local pode cuidar das tarefas mais adequadas, recorrendo a modelos maiores em nuvem quando necessário, priorizando o tratamento e a segurança dos dados e ajudando a reduzir os custos contínuos de computação em nuvem.

Os processadores AMD Ryzen AI oferecem suporte a tarefas nos dispositivos dos funcionários, os processadores AMD Ryzen™ AI Embedded podem levar a inferência aos sistemas locais, as CPUs para servidores AMD EPYC e as GPUs AMD Instinct podem oferecer suporte a cargas de trabalho centralizadas. O resultado é maior flexibilidade para desenvolver soluções com base no que os clientes estão fazendo hoje e em como suas necessidades de IA podem evoluir, tanto no curto quanto no longo prazo.

Como ajudar os clientes a encontrar a solução ideal

As cinco perguntas mencionadas no início deste artigo oferecem aos parceiros um ponto de partida útil. A IA executada no dispositivo ou na borda pode ser adequada quando respostas imediatas ou o uso offline são importantes, e os dados que precisam permanecer no ambiente local, fora de plataformas em nuvem, podem ser processados no próprio dispositivo ou na infraestrutura local. Para modelos compartilhados de grande porte, treinamento intensivo ou capacidade que expande conforme a demanda, considere as opções de data center e nuvem. Quando os requisitos dos clientes variam conforme a tarefa, considere adotar uma abordagem híbrida desde o início.

Depois de restringir as opções, vale a pena analisar os custos em conjunto. Se os PCs com IA local fizerem parte da discussão, a AMD Tokenomics Calculator ajuda a comparar os custos potenciais de executar tarefas localmente e por meio de APIs em nuvem. A partir desse ponto, certifique-se de que os modelos de IA e de software escolhidos pelo cliente sejam adequados ao hardware e discuta como seria, na prática, o gerenciamento e o suporte da implementação no dia a dia.

Inicie a próxima conversa com o cliente partindo de uma carga de trabalho de IA bem definida. Use as cinco perguntas para identificar opções de implantação adequadas, comparar os custos estimados com a AMD Tokenomics Calculator, quando aplicável, e validar a compatibilidade dos modelos e do software antes de recomendar o hardware. Consulte o seu representante da AMD para saber como combinar processadores, aceleradores e softwares da AMD às necessidades de carga de trabalho do cliente.