Ajudando os clientes a construir a infraestrutura por trás da IA agêntica

O cenário da IA está mudando novamente

É provável que seus clientes ainda estejam pensando na infraestrutura de IA sob uma ótica restrita, baseada na forma como usaram a IA até agora: interações de pergunta e resposta com uma única saída e questões como quais GPUs usar, de quanta memória de acelerador precisam e quais modelos gostariam de executar.

Todos esses são fatores importantes, mas já não representam o quadro completo. Eles faziam sentido durante a primeira onda de adoção da IA, quando a prioridade era a experimentação. Com o surgimento da IA agêntica, a conversa sobre infraestrutura mudou, e isso cria uma oportunidade para que os parceiros ajudem os clientes a ir além da visão de que a IA se resume apenas ao uso de GPUs.

Como as cargas de trabalho de IA estão mudando

A IA está evoluindo de simples cargas de trabalho de pergunta e resposta com LLMs para cargas de trabalho contínuas e independentes, que permitem aos clientes fazer muito mais com sua infraestrutura do que antes, executando operações e cargas de trabalho contínuas sem intervenção humana.

Sistemas de IA agêntica podem planejar de forma autônoma, recuperar informações, chamar ferramentas, interagir com APIs, atualizar estados, consultar bancos de dados, acionar fluxos de trabalho e coordenar múltiplos serviços. À medida que esses sistemas entram em produção, os clientes precisam de uma infraestrutura capaz de suportar cargas de trabalho contínuas, concorrentes e intensivas em serviços, e não apenas a inferência isolada de modelos como antes.

Embora as GPUs continuem essenciais para o treinamento e a inferência de IA em larga escala e forneçam o desempenho de acelerador necessário para a computação de modelos, elas são apenas uma parte do sistema em ambientes agênticos. A implantação de fluxos de trabalho agênticos depende de uma combinação de expansão de ambientes de teste de agentes, maximização da produtividade de nós host de IA e suporte a cargas de trabalho de uso geral.

Grande parte desse trabalho complementar é executada pela CPU. Se a CPU não conseguir acompanhar o ritmo, os clientes enfrentarão problemas como gargalos, alta latência, baixa utilização da GPU ou escalabilidade ineficiente, mesmo após investirem pesadamente em aceleradores.

Portanto, uma plataforma de IA equilibrada precisa dos dois elementos: aceleradores para a computação de modelos e CPUs de servidor de alto desempenho para as camadas de serviço, orquestração e dados que tornam a IA agêntica utilizável em grande escala.

Com a introdução das CPUs de servidor AMD EPYC™ Série 9006, as infraestruturas podem evoluir para atender a essas novas demandas e continuar entregando desempenho de ponta à medida que a IA agêntica é adotada.

O melhor portfólio de CPUs de servidor para a era agêntica¹

As CPUs de servidor AMD EPYC Série 9006 oferecem desempenho de liderança em cargas de trabalho de IA agêntica, nuvem, empresariais e de computação de alto desempenho, oferecendo até 256 núcleos, 512 threads e velocidades de clock de até 5 GHz, com excelente desempenho por núcleo para um processador de servidor. Com E/S PCIe® de 6ª geração líder do setor e até 1,6 TB/s de largura de banda de memória por soquete, esses processadores abrem caminho para os clientes que buscam os fluxos de trabalho agênticos mais exigentes.

Para os clientes preocupados com atualização, as CPUs de servidor AMD EPYC já oferecem uma base x86 baseada em padrões para uma infraestrutura de servidores densa e eficiente, e esta última geração de CPUs estende esse roteiro para implantações futuras, ajudando os clientes a fazer a atualização sem interromper seus ambientes de produção existentes.

Para os parceiros, essa nova linha de produtos oferece três pontos de entrada claros para conversar sobre IA agêntica com os clientes: ampliar a escala, maximizar a produtividade e impulsionar as cargas de trabalho de uso geral relacionadas à IA.

1. Ampliar a escala

Para os clientes que estão desenvolvendo ambientes de teste, experimentação multiagente ou serviços agênticos de alta concorrência, a computação densa é fundamental. Quanto mais agentes um cliente conseguir acomodar dentro de suas restrições de energia, rack e orçamento, mais fácil se torna ampliar a adoção de IA sem criar custos ou complexidade de infraestrutura insustentáveis.

As CPUs de servidor AMD EPYC Série 9006 com alta contagem de núcleos foram projetadas para atender a essa necessidade, oferecendo até 33% mais núcleos em comparação com a geração anterior,² o que dá aos parceiros uma forma direta de atender à demanda de capacidade agêntica por meio de uma maior concentração de agentes.

2. Maximizar a produtividade

Em sistemas com grande quantidade de aceleradores, as CPUs de servidor ainda desempenham um papel essencial. Elas ajudam a alimentar as GPUs, coordenam a movimentação de dados, oferecem suporte à E/S, executam serviços do lado do host e reduzem o atrito entre a execução de modelos e o ambiente de aplicação mais amplo.

As CPUs de servidor AMD EPYC Série 9006 de alta frequência contam com subsistemas de E/S PCIe® de 6ª geração líderes do setor, que oferecem o dobro da largura de banda por pista em comparação com os produtos da geração anterior³ e até 1,6 TB/s de largura de banda de memória por soquete, ajudando a reduzir gargalos do lado do host e a suportar a movimentação rápida de dados por todo o sistema.

Para clientes que buscam maximizar a utilização da GPU e a geração de tokens, essas CPUs ajudam a garantir que a plataforma host consiga acompanhar o desempenho do acelerador do qual suas cargas de trabalho de IA dependem.

3. Serviços de IA de uso geral

Muitas cargas de trabalho dos clientes não se encaixam perfeitamente em uma única categoria de IA. Seus casos de uso abrangerão bancos de dados, serviços de armazenamento, inferência de CPU, lógica de orquestração, análises, middleware, segurança e muito mais. Esses são justamente os tipos de cargas de trabalho de uso geral que tornam a IA agêntica um complemento tão poderoso para a gestão das cargas de trabalho de negócios modernas.

A amplitude do portfólio de CPUs de servidor AMD EPYC Série 9006 permite que os parceiros mapeiem os requisitos dos clientes para o processador certo dentro da família de produtos, entregando inferência de CPU para modelos de linguagem pequenos e médios, orquestração para planejamento e uso de ferramentas ou suporte a ambientes de IA confidencial por meio de tecnologias de segurança da AMD, como a AMD SEV e os recursos de E/S confiável.

Para os clientes que estão modernizando sua infraestrutura empresarial existente ao mesmo tempo em que adotam a IA, migrar para as CPUs de servidor AMD EPYC Série 9006 mantém a plataforma x86 da qual sua pilha de software depende, ajuda a reduzir problemas de migração e encurta o caminho do planejamento de IA até a implantação.