• Ampliar imagem
    AMD Instinct MI350P PCIe Card
  • Ampliar imagem
    AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card

Placas PCIe® AMD Instinct™ MI350P

Implante e dimensione a IA generativa e agêntica dentro de sua infraestrutura existente usando as placas PCIe® AMD Instinct™ MI350P: uma pilha de IA aberta e pronta para uso empresarial e implantação simples, projetada para alto desempenho e liderança em custos.

  • Nome
    AMD Instinct™ MI350P
    Família
    Instinct
    Série
    Instinct MI350 Series
    Fator de forma
    Servidores
  • Arquitetura da GPU
    CDNA4
    Litografia
    TSMC 3nm | 6nm FinFET
    Processadores de streaming
    8,192
    Núcleos de matriz
    512
    Unidades de computação
    128
    Pico do clock do mecanismo
    2200 MHz
    Desempenho de matriz máximo para microdimensionamento de precisão de quatro bits (MXFP4)
    4.6 PFLOPs
    Desempenho de matriz máximo para microdimensionamento de precisão de seis bits (MXFP6)
    4.6 PFLOPs
    Desempenho de matriz máximo para microdimensionamento de precisão de oito bits (MXFP8)
    2.3 PFLOPs
    Desempenho de matriz máximo (E5M2, E4M3) para projetos de computação de oito bits (OCP FP8)
    2.3 PFLOPs
    Desempenho de matriz máximo para projetos de computação de oito bits (OCP FP8) com esparsidade estruturada
    4.6 PFLOPs
    Desempenho de matriz de precisão de meio pico (FP16)
    1.15 PFLOPs
    Desempenho de matriz de precisão de meio pico (FP16) com esparsidade estruturada
    2.3 PFLOPs
    Desempenho da precisão de meio pico (FP16)
    72 TFLOPs
    Desempenho da matriz da precisão de pico único (FP32)
    72 TFLOPs
    Desempenho da precisão de pico único (FP32)
    72 TFLOPs
    Desempenho da matriz da precisão de pico duplo (FP64)
    36 TFLOPs
    Desempenho da precisão de pico duplo (FP64)
    36 TFLOPs
    Desempenho de matriz de pico INT8
    2.3 POPs
    Desempenho de matriz de pico INT8 com esparsidade estruturada
    4.6 POPs
    Desempenho de matriz de pico bfloat16
    1.15 PFLOPs
    Desempenho de matriz de pico bfloat16 com esparsidade estruturada
    2.3 PFLOPs
    Contagem de transistor
    73 Billion
    Suporte a SO
    Linux x86 64-Bit
  • Conectores de alimentação externos
    12V-2x6
    Potência total da placa (TBP)
    600W TBP (Max); 450W TBP configurable
  • Last Level Cache (LLC)
    128 MB
    Tamanho da memória dedicada
    144 GB
    Tipo de memória dedicada
    HBM3E
    Infinity Cache
    Sim
    Interface de memória
    4096bits
    Largura de banda de memória de pico
    4 TB/s
    Suporte a ECC de memória
    Sim (Chip completo)
  • Fator de forma da GPU
    Placa adicional PCIe®
    Tipo de barramento
    PCIe® 5.0 x16
    Refrigeração
    Passivo
  • Altura da placa
    Altura total
    Comprimento da placa
    10.5" (267 mm)
    Largura da placa
    Slot duplo
  • Tecnologias compatíveis
    AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
    Suporte a RAS
    Sim
    Remoção de página
    Sim
    Anulação da página
    Sim
    SR-IOV
    Sim
  • OpenMP®
    Sim
    OpenCL™
    Sim
    HIP
    Sim
    ROCm™ Open Ecosystem

    Yes

  • TensorFlow
    Sim
    PyTorch
    Sim
    ONYX-RT
    Sim
    SGLang
    Sim
    JAX
    Sim
    Triton
    Sim
    Kokkos
    Sim
    RAJA
    Sim