• Zoom de imagen
    AMD Instinct MI350P PCIe Card
  • Zoom de imagen
    AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card

Tarjetas PCIe® AMD Instinct™ MI350P

Implementa y escala la IA generativa y automatizada dentro de tu infraestructura existente utilizando las tarjetas PCIe® AMD Instinct™ MI350P, diseñadas para ofrecer alto rendimiento, un costo competitivo, una pila de IA abierta y lista para la empresa, y una implementación sencilla.

  • Nombre
    AMD Instinct™ MI350P
    Familia
    Instinct
    Serie
    Instinct MI350 Series
    Formato
    Servidores
  • Arquitectura de GPU
    CDNA4
    Litografía
    TSMC 3nm | 6nm FinFET
    Procesadores stream
    8,192
    Núcleos de la matriz
    512
    Unidades de procesamiento
    128
    Reloj de motor máximo
    2200 MHz
    Rendimiento máximo de la matriz de precisión de cuatro bits con microescalado (MXFP4)
    4.6 PFLOPs
    Rendimiento máximo de la matriz de precisión de seis bits con microescalado (MXFP6)
    4.6 PFLOPs
    Rendimiento máximo de la matriz de precisión de ocho bits con microescalado (MXFP8)
    2.3 PFLOPs
    Rendimiento máximo de la matriz de precisión de ocho bits de Open Compute Project (OCP FP8) (E5M2, E4M3)
    2.3 PFLOPs
    Rendimiento máximo de la matriz de precisión de ocho bits de Open Compute Project (OCP FP8) con sparsity estructurada
    4.6 PFLOPs
    Rendimiento máximo de la matriz de precisión media (FP16)
    1.15 PFLOPs
    Rendimiento máximo de la matriz de precisión media (FP16) con sparsity estructurada
    2.3 PFLOPs
    Rendimiento de precisión media máxima (FP16)
    72 TFLOPs
    Rendimiento de la matriz de precisión simple máxima (FP32)
    72 TFLOPs
    Rendimiento de precisión simple máxima (FP32)
    72 TFLOPs
    Rendimiento de la matriz de precisión doble máxima (FP64)
    36 TFLOPs
    Rendimiento de precisión doble máxima (FP64)
    36 TFLOPs
    Rendimiento máximo de la matriz INT8
    2.3 POPs
    Rendimiento máximo de la matriz INT8 con sparsity estructurada
    4.6 POPs
    Rendimiento máximo de la matriz bfloat16
    1.15 PFLOPs
    Rendimiento máximo de la matriz bfloat16 con sparsity estructurada
    2.3 PFLOPs
    Número de transistores
    73 Billion
    Compatibilidad con SO
    Linux x86 64-Bit
  • Conectores de alimentación externos
    12V-2x6
    Potencia típica de la placa (TBP)
    600W TBP (Max); 450W TBP configurable
  • Caché de último nivel (LLC)
    128 MB
    Tamaño de memoria dedicado
    144 GB
    Tipo de memoria dedicada
    HBM3E
    Infinity Cache
    Interfaz de memoria
    4096bits
    Ancho de banda de memoria máximo
    4 TB/s
    Compatibilidad con memoria ECC (código corrector de errores)
    Sí (chip completo)
  • Formato de GPU
    Tarjeta PCIe® complementaria
    Tipo de bus
    PCIe® 5.0 x16
    Refrigeración
    Pasivo
  • Altura de la placa
    Altura completa
    Longitud de la placa
    10.5" (267 mm)
    Ancho de la placa
    Doble ranura
  • Tecnologías compatibles
    AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
    Compatibilidad con RAS
    Retiro de página
    Evitación de página
    SR-IOV
  • OpenMP®
    OpenCL™
    HIP
    ROCm™ Open Ecosystem

    Yes

  • TensorFlow
    PyTorch
    ONYX-RT
    SGLang
    JAX
    Triton
    Kokkos
    RAJA