• Bildzoom
    AMD Instinct MI350 Series

AMD Instinct™ MI350X GPUs

AMD Instinct™ MI350X GPUs basieren auf der AMD CDNA™ Architektur der 4. Generation und bieten erstklassige KI- und HPC-Performance, die Rechenzentrumsinfrastrukturen mit 288 GB HBM3E-Speicher, 8 TB/s Bandbreite und erweiterte Unterstützung für die Datentypen MXFP6 und MXFP4 ermöglichen.

  • Name
    AMD Instinct™ MI350X
    Familie
    Instinct
    Serie
    Instinct MI350 Series
    Bauform
    Server
    Erscheinungsdatum
    6/12/2025
  • GPU-Architektur
    CDNA4
    Lithografie
    TSMC 3nm | 6nm FinFET
    Stream-Prozessoren
    16,384
    Matrix-Kerne
    1024
    Recheneinheiten
    256
    Max. Speichertakt
    2200 MHz
    Max. Matrix-Performance bei Vier-Bit-Genauigkeit und Mikroskalierung (MXFP4)
    9.2 PFLOPs
    Max. Matrix-Performance bei Sechs-Bit-Genauigkeit und Mikroskalierung (MXFP6)
    9.2 PFLOPs
    Max. Matrix-Performance bei Acht-Bit-Genauigkeit und Mikroskalierung (MXFP8)
    4.6 PFLOPs
    Maximale Open-Compute-Projekt Matrix-Performance bei Acht-Bit-Genauigkeit (OCP FP8) (E5M2, E4M3)
    4.6 PFLOPs
    Max. Open-Compute-Projekt Matrix-Performance bei bei Acht-Bit-Genauigkeit (OCP FP8) mit strukturierter Sparsity
    9.2 PFLOPs
    Max. Matrix-Performance bei halber Genauigkeit (FP16)
    2.3 PFLOPs
    Max. Matrix-Performance bei halber Genauigkeit (FP16) mit strukturierter Sparsity
    4.6 PFLOPs
    Max. Performance halbe Genauigkeit (FP16)
    144.2 TFLOPs
    Max. Performance einfache Genauigkeit Matrix (FP32)
    144.2 TFLOPs
    Max. Performance einfache Genauigkeit (FP32)
    144.2 TFLOPs
    Max. Performance doppelte Genauigkeit Matrix (FP64)
    72.1 TFLOPs
    Max. Performance doppelte Genauigkeit (FP64)
    72.1 TFLOPs
    Max. Matrix-Performance bei INT8
    4.6 POPs
    Max. Matrix-Performance bei INT8 mit strukturierter Sparsity
    9.2 POPs
    Max. Matrix-Performance bei bfloat16
    2.3 PFLOPs
    Max. Matrix-Performance bei bfloat16 mit strukturierter Sparsity
    4.6 PFLOPs
    Transistoranzahl
    185 Billion
  • Externe Stromanschlüsse
    54V UBB
    Typische Platinenleistung (TBP)
    1000W (TBP)
  • Last Level Cache (LLC)
    256 MB
    Dedizierte Speichergröße
    288 GB
    Dedizierter Speichertyp
    HBM3E
    Infinity Cache
    Ja
    Speicherschnittstelle
    8192-Bit
    Speichertaktrate
    8 GHz
    Max. Speicherbandbreite
    8 TB/s
    Speicher-ECC-Unterstützung
    Ja (Full-Chip)
  • GPU-Bauform
    OAM-Modul
    Bustyp
    PCIe® 5.0 x16
    Infinity Fabric™ Links
    7
    Max. Infinity Fabric™ Link Bandbreite
    153 GB/s
    Erweiterbare AMD Infinity Fabric™ Links (pro GPU)
    1
    Skalierbare (Max.) AMD Infinity Fabric™ Link-Bandbreite
    153 GB/s
    Erweiterbare (Max.) AMD Infinity Fabric™ Link-Bandbreite
    128 GB/s
    Kühlung
    Passives OAM
  • Unterstützte Technologien
    4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders , AMD CDNA™ 4 Architecture
    RAS-Unterstützung
    Ja
    Seiteneinstellung
    Ja
    Seitenvermeidung
    Ja
    SR-IOV
    Ja