• Zoom de imagen
    Add Alt Text

Aceleradores AMD Instinct™ MI300X

Los aceleradores AMD Instinct™ MI300X están diseñados a fin de ofrecer un rendimiento líder para las cargas de trabajo generativas de IA y las aplicaciones de HPC.

  • Nombre
    AMD Instinct™ MI300X
    Familia
    Instinct
    Serie
    Instinct MI300 Series
    Formato
    Servidores
    Fecha de lanzamiento
    12/06/2023
  • Arquitectura de GPU
    CDNA3
    Litografía
    TSMC 5nm | 6nm FinFET
    Procesadores stream
    19,456
    Núcleos de la matriz
    1216
    Unidades de procesamiento
    304
    Reloj de motor máximo
    2100 MHz
    Rendimiento (E5M2, E4M3) de precisión máxima de ocho bits (FP8)
    2.61 PFLOPs
    Rendimiento de precisión máxima de ocho bits (FP8) con sparsity estructurada (E5M2, E4M3)
    5.22 PFLOPs
    Rendimiento de precisión media máxima (FP16)
    1.3 PFLOPs
    Rendimiento de precisión media máxima (FP16) con sparsity estructurada
    2.61 PFLOPs
    Rendimiento de precisión simple máxima (matriz TF32)
    653.7 TFLOPs
    Rendimiento de precisión simple máxima (TF32) con sparsity estructurada
    1.3 PFLOPs
    Rendimiento de la matriz de precisión simple máxima (FP32)
    163.4 TFLOPs
    Rendimiento de precisión simple máxima (FP32)
    163.4 TFLOPs
    Rendimiento de la matriz de precisión doble máxima (FP64)
    163.4 TFLOPs
    Rendimiento de precisión doble máxima (FP64)
    81.7 TFLOPs
    Rendimiento INT8 máximo
    2.6 POPs
    Rendimiento INT8 máximo con sparsity estructurada
    5.22 POPs
    bfloat16 máximo
    1.3 PFLOPs
    bfloat16 máximo con sparsity estructurada
    2.61 PFLOPs
    Número de transistores
    153 Billion
  • Conectores de alimentación externos
    54V UBB
    Potencia típica de la placa (TBP)
    750W Peak
  • Caché de último nivel (LLC)
    256 MB
    Tamaño de memoria dedicado
    192 GB
    Tipo de memoria dedicada
    HBM3
    Infinity Cache
    Interfaz de memoria
    8192bits
    Reloj de memoria
    5.2 GHz
    Ancho de banda de memoria máximo
    5.3 TB/s
    Compatibilidad con memoria ECC (código corrector de errores)
    Sí (chip completo)
  • Formato de GPU
    Módulo OAM
    Tipo de bus
    PCIe® 5.0 x16
    Infinity Fabric™ Link
    8
    Ancho de banda máximo de Infinity Fabric™ Link
    128 GB/s
    Refrigeración
    OAM pasivo
  • Tecnologías compatibles
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    Compatibilidad con RAS
    Retiro de página
    Evitación de página
    SR-IOV