• Ampliar imagem
    Add Alt Text

Aceleradores AMD Instinct™ MI325X

Os aceleradores de GPU AMD Instinct™ MI325X definem novos padrões de desempenho de IA, apresentando desempenho e eficiência incríveis para treinamento e inferência.

  • Nome
    AMD Instinct™ MI325X
    Família
    Instinct
    Série
    Instinct MI300 Series
    Fator de forma
    Servidores
    Data de lançamento
    10/10/2024
  • Arquitetura da GPU
    CDNA3
    Litografia
    TSMC 5nm | 6nm FinFET
    Processadores de streaming
    19,456
    Núcleos de matriz
    1216
    Unidades de computação
    304
    Pico do clock do mecanismo
    2100 MHz
    Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)
    2.61 PFLOPs
    Desempenho da precisão de pico de oito bits (FP8) com dispersão estruturada (E5M2, E4M3)
    5.22 PFLOPs
    Desempenho da precisão de meio pico (FP16)
    1.3 PFLOPs
    Desempenho da precisão de meio pico (FP16) com dispersão estruturada
    2.61 PFLOPs
    Desempenho da precisão de pico único (TF32 Matrix)
    653.7 TFLOPs
    Desempenho da precisão de pico único (TF32) com dispersão estruturada
    1.3 PFLOPs
    Desempenho da matriz da precisão de pico único (FP32)
    163.4 TFLOPs
    Desempenho da precisão de pico único (FP32)
    163.4 TFLOPs
    Desempenho da matriz da precisão de pico duplo (FP64)
    163.4 TFLOPs
    Desempenho da precisão de pico duplo (FP64)
    81.7 TFLOPs
    Desempenho de pico de INT8
    2.6 POPs
    Desempenho de pico de INT8 com dispersão estruturada
    5.22 POPs
    Pico de bfloat16
    1.3 PFLOPs
    Pico de bfloat16 com dispersão estruturada
    2.61 PFLOPs
    Contagem de transistor
    153 Billion
  • Conectores de alimentação externos
    54V UBB
    Potência total da placa (TBP)
    1000W Peak
  • Last Level Cache (LLC)
    256 MB
    Tamanho da memória dedicada
    256 GB
    Tipo de memória dedicada
    HBM3E
    Infinity Cache
    Sim
    Interface de memória
    8192bits
    Clock de memória
    6 GHz
    Largura de banda de memória de pico
    6 TB/s
    Suporte a ECC de memória
    Sim (Chip completo)
  • Fator de forma da GPU
    Módulo OAM
    Tipo de barramento
    PCIe® 5.0 x16
    Links do Infinity Fabric™
    8
    Pico da largura de banda do link Infinity Fabric™
    128 GB/s
    Refrigeração
    OAM passivo
  • Tecnologias compatíveis
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    Suporte a RAS
    Sim
    Remoção de página
    Sim
    Anulação da página
    Sim
    SR-IOV
    Sim