Rack de IA agêntica AMD Helion™

As necessidades dos hiperescaladores e das empresas são fundamentalmente diferentes. Os hiperescaladores implantam agentes em larga escala, otimizam o número de agentes por watt e já operam uma infraestrutura acelerada separada. Um rack exclusivamente com CPUs é a solução eficiente. As empresas geralmente querem um único rack que ofereça computação agêntica e aceleração sem precisar de dois racks separados.

Sim, essa é a intenção do projeto. Misture e combine módulos de CPU para combinar com seu mix de agentes e, na configuração empresarial, adicione módulos de GPU ao lado deles.

AMD Instinct™ MI350P, oito GPUs em um servidor 5U. Dois servidores GPU podem ser adicionados a um rack, totalizando dezesseis GPUs, ou seja, dois nós de oito GPUs cada. Os dois nós operam de forma independente; não há uma malha de interconexão de GPUs para expansão de capacidade entre eles, pois essa configuração foi projetada para cargas de trabalho empresariais agênticas e aceleração, e não para o treinamento de modelos de IA de ponta em larga escala.

Orv3 para o rack e barramento. DC-MHS para o módulo do processador host. DC-SCM para gerenciamento e segurança. HPRv2 para prateleiras de energia. NIC OCP 3.0 para rede. Caliptra para a raiz de confiança do chip. Trata-se de conformidade em todas as camadas, e não de uma estrutura de rack que acidentalmente parece feita para OCP.

Não, eles atendem a diferentes necessidades. O AMD Helios™ foi criado para o treinamento de modelos de IA de ponta em larga escala e para inferência em larga escala com um domínio unificado de expansão de capacidade de GPUs. A configuração empresarial do AMD Helion destina-se a organizações que desejam uma infraestrutura agêntica com inferência em um único rack.