• Zoom sur l'image
    AMD Instinct MI350 Series

GPU AMD Instinct™ MI350X

Basés sur l'architecture AMD CDNA™ de 4e génération, les GPU AMD Instinct™ MI350X offrent des performances de pointe en matière d'IA et de HPC pour les infrastructures de centre de données, avec une mémoire HBM3E de 288 Go, une bande passante de 8 To/s et une prise en charge étendue des types de données MXFP6 et MXFP4.

  • Nom
    AMD Instinct™ MI350X
    Famille
    Instinct
    Série
    Instinct MI350 Series
    Format
    Serveurs
    Date de lancement
    6/12/2025

  • Architecture GPU
    CDNA4
    Lithographie
    TSMC 3nm | 6nm FinFET
    Processeurs de flux
    16,384
    Cœurs matriciels
    1024
    Unités de calcul
    256
    Fréquence du processeur en crête
    2200 MHz
    Pic de performance de la matrice de précision quatre bits Microscaling (MXFP4)
    9.2 PFLOPs
    Pic de performance de la matrice de précision six bits Microscaling (MXFP6)
    9.2 PFLOPs
    Pic de performance de la matrice de précision huit bits Microscaling (MXFP8)
    4.6 PFLOPs
    Pic de performance de la matrice de précision huit bits Open Compute Project (OCP FP8) (E5M2, E4M3)
    4.6 PFLOPs
    Pic de performance de la matrice de précision huit bits Open Compute Project (OCP FP8) avec parcimonie structurée
    9.2 PFLOPs
    Pic de performance de la matrice de demi-précision (FP16)
    2.3 PFLOPs
    Pic de performance de la matrice de demi-précision (FP16) avec parcimonie structurée
    4.6 PFLOPs
    Performances en demi-précision (FP16) en crête
    144.2 TFLOPs
    Performances matricielles en simple précision (FP32) en crête
    144.2 TFLOPs
    Performances en simple précision (FP32) en crête
    144.2 TFLOPs
    Performances matricielles en double précision (FP64) en crête
    72.1 TFLOPs
    Performances en double précision (FP64) en crête
    72.1 TFLOPs
    Pic de performance de la matrice INT8
    4.6 POPs
    Pic de performance de la matrice INT8 avec parcimonie structurée
    9.2 POPs
    Pic de performance de la matrice bfloat16
    2.3 PFLOPs
    Pic de performance de la matrice bfloat16 avec parcimonie structurée
    4.6 PFLOPs
    Nombre de transistors
    185 Billion

  • Connecteurs d'alimentation externe
    54V UBB
    Consommation typique de la carte (TBP)
    1000W (TBP)

  • Cache de dernier niveau (LLC)
    256 MB
    Taille de la mémoire dédiée
    288 GB
    Type de mémoire dédiée
    HBM3E
    Infinity Cache
    Oui
    Interface mémoire
    8192bits
    Fréquence mémoire
    8 GHz
    Bande passante mémoire en crête
    8 TB/s
    Prise en charge de la mémoire ECC
    Oui (Full-Chip)

  • Format GPU
    Module OAM
    Type de bus
    PCIe® 5.0 x16
    Liaisons Infinity Fabric™
    7
    Bande passante de liaison Infinity Fabric™ en crête
    153 GB/s
    Liaisons scale-out AMD Infinity Fabric™ (par GPU)
    1
    Bande passante de la liaison scale-up AMD Infinity Fabric™ (Pic)
    153 GB/s
    Bande passante de la liaison scale-out AMD Infinity Fabric™ (Pic)
    128 GB/s
    Refroidissement
    OAM passif

  • Technologies prises en charge
    4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders , AMD CDNA™ 4 Architecture
    Prise en charge RAS
    Oui
    Retrait de page
    Oui
    Contournement de page
    Oui
    SR-IOV
    Oui