• Zoom sur l'image
    Add Alt Text

Accélérateurs AMD Instinct™ MI300X

Les accélérateurs AMD Instinct™ MI300X sont conçus pour offrir des performances de pointe pour les charges de travail d'IA générative et les applications de calculs hautes performances (HPC).

  • Nom
    AMD Instinct™ MI300X
    Famille
    Instinct
    Série
    Instinct MI300 Series
    Format
    Serveurs
    Date de lancement
    12/06/2023
  • Architecture GPU
    CDNA3
    Lithographie
    TSMC 5nm | 6nm FinFET
    Processeurs de flux
    19,456
    Cœurs matriciels
    1216
    Unités de calcul
    304
    Fréquence du processeur en crête
    2100 MHz
    Performances en précision huit bits (FP8) en crête (E5M2, E4M3)
    2.61 PFLOPs
    Performances en précision huit bits (FP8) en crête avec dispersion structurée (E5M2, E4M3)
    5.22 PFLOPs
    Performances en demi-précision (FP16) en crête
    1.3 PFLOPs
    Performances en demi-précision (FP16) en crête avec dispersion structurée
    2.61 PFLOPs
    Performances en simple précision (matrice TF32) en crête
    653.7 TFLOPs
    Performances en simple précision (TF32) en crête avec dispersion structurée
    1.3 PFLOPs
    Performances matricielles en simple précision (FP32) en crête
    163.4 TFLOPs
    Performances en simple précision (FP32) en crête
    163.4 TFLOPs
    Performances matricielles en double précision (FP64) en crête
    163.4 TFLOPs
    Performances en double précision (FP64) en crête
    81.7 TFLOPs
    Performances INT8 en crête
    2.6 POPs
    Performances INT8 en crête avec dispersion structurée
    5.22 POPs
    Performances bfloat16 en crête
    1.3 PFLOPs
    Performances bfloat16 en crête avec dispersion structurée
    2.61 PFLOPs
    Nombre de transistors
    153 Billion
  • Connecteurs d'alimentation externe
    54V UBB
    Consommation typique de la carte (TBP)
    750W Peak
  • Cache de dernier niveau (LLC)
    256 MB
    Taille de la mémoire dédiée
    192 GB
    Type de mémoire dédiée
    HBM3
    Infinity Cache
    Oui
    Interface mémoire
    8192bits
    Fréquence mémoire
    5.2 GHz
    Bande passante mémoire en crête
    5.3 TB/s
    Prise en charge de la mémoire ECC
    Oui (Full-Chip)
  • Format GPU
    Module OAM
    Type de bus
    PCIe® 5.0 x16
    Liaisons Infinity Fabric™
    8
    Bande passante de liaison Infinity Fabric™ en crête
    128 GB/s
    Refroidissement
    OAM passif
  • Technologies prises en charge
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    Prise en charge RAS
    Oui
    Retrait de page
    Oui
    Contournement de page
    Oui
    SR-IOV
    Oui