• Bildzoom
    Add Alt Text

AMD Instinct™ MI325X Beschleuniger

AMD Instinct™ MI325X GPU-Beschleuniger setzen neue Standards bei KI-Performance. Dazu bieten sie unglaubliche Performance und Effizienz für Training und Inferenz.

  • Name
    AMD Instinct™ MI325X
    Familie
    Instinct
    Serie
    Instinct MI300 Series
    Bauform
    Server
    Erscheinungsdatum
    10/10/2024
  • GPU-Architektur
    CDNA3
    Lithografie
    TSMC 5nm | 6nm FinFET
    Stream-Prozessoren
    19,456
    Matrix-Kerne
    1216
    Recheneinheiten
    304
    Max. Speichertakt
    2100 MHz
    Max. Performance Acht-Bit-Genauigkeit (FP8) (E5M2, E4M3)
    2.61 PFLOPs
    Max. Performance Acht-Bit-Genauigkeit (FP8) mit strukturierter Sparsity (E5M2, E4M3)
    5.22 PFLOPs
    Max. Performance halbe Genauigkeit (FP16)
    1.3 PFLOPs
    Max. Performance halbe Genauigkeit (FP16) mit strukturierter Sparsity
    2.61 PFLOPs
    Max. Performance einfache Genauigkeit (TF32 Matrix)
    653.7 TFLOPs
    Max. Performance einfache Genauigkeit (TF32) mit strukturierter Sparsity
    1.3 PFLOPs
    Max. Performance einfache Genauigkeit Matrix (FP32)
    163.4 TFLOPs
    Max. Performance einfache Genauigkeit (FP32)
    163.4 TFLOPs
    Max. Performance doppelte Genauigkeit Matrix (FP64)
    163.4 TFLOPs
    Max. Performance doppelte Genauigkeit (FP64)
    81.7 TFLOPs
    Max. Performance INT8
    2.6 POPs
    Max. Performance INT8 mit strukturierter Sparsity
    5.22 POPs
    Max. bfloat16
    1.3 PFLOPs
    Max. bfloat16 mit strukturierter Sparsity
    2.61 PFLOPs
    Transistoranzahl
    153 Billion
  • Externe Stromanschlüsse
    54V UBB
    Typische Platinenleistung (TBP)
    1000W Peak
  • Last Level Cache (LLC)
    256 MB
    Dedizierte Speichergröße
    256 GB
    Dedizierter Speichertyp
    HBM3E
    Infinity Cache
    Ja
    Speicherschnittstelle
    8192-Bit
    Speichertaktrate
    6 GHz
    Max. Speicherbandbreite
    6 TB/s
    Speicher-ECC-Unterstützung
    Ja (Full-Chip)
  • GPU-Bauform
    OAM-Modul
    Bustyp
    PCIe® 5.0 x16
    Infinity Fabric™ Links
    8
    Max. Infinity Fabric™ Link Bandbreite
    128 GB/s
    Kühlung
    Passives OAM
  • Unterstützte Technologien
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    RAS-Unterstützung
    Ja
    Seiteneinstellung
    Ja
    Seitenvermeidung
    Ja
    SR-IOV
    Ja