• Zoom sur l'image
    AMD Instinct MI350P PCIe Card
  • Zoom sur l'image
    AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card

Cartes PCIe® AMD Instinct™ MI350P

Déployez et faites évoluer des solutions d'IA générative et agentique au sein de votre infrastructure existante grâce aux cartes PCIe® AMD Instinct™ MI350P, conçues pour offrir des performances élevées, un rapport qualité-prix imbattable, une pile d'IA ouverte et prête à l'emploi, ainsi qu'un déploiement simplifié.

  • Nom
    AMD Instinct™ MI350P
    Famille
    Instinct
    Série
    Instinct MI350 Series
    Format
    Serveurs
  • Architecture GPU
    CDNA4
    Lithographie
    TSMC 3nm | 6nm FinFET
    Processeurs de flux
    8,192
    Cœurs matriciels
    512
    Unités de calcul
    128
    Fréquence du processeur en crête
    2200 MHz
    Pic de performance de la matrice de précision quatre bits Microscaling (MXFP4)
    4.6 PFLOPs
    Pic de performance de la matrice de précision six bits Microscaling (MXFP6)
    4.6 PFLOPs
    Pic de performance de la matrice de précision huit bits Microscaling (MXFP8)
    2.3 PFLOPs
    Pic de performance de la matrice de précision huit bits Open Compute Project (OCP FP8) (E5M2, E4M3)
    2.3 PFLOPs
    Pic de performance de la matrice de précision huit bits Open Compute Project (OCP FP8) avec parcimonie structurée
    4.6 PFLOPs
    Pic de performance de la matrice de demi-précision (FP16)
    1.15 PFLOPs
    Pic de performance de la matrice de demi-précision (FP16) avec parcimonie structurée
    2.3 PFLOPs
    Performances en demi-précision (FP16) en crête
    72 TFLOPs
    Performances matricielles en simple précision (FP32) en crête
    72 TFLOPs
    Performances en simple précision (FP32) en crête
    72 TFLOPs
    Performances matricielles en double précision (FP64) en crête
    36 TFLOPs
    Performances en double précision (FP64) en crête
    36 TFLOPs
    Pic de performance de la matrice INT8
    2.3 POPs
    Pic de performance de la matrice INT8 avec parcimonie structurée
    4.6 POPs
    Pic de performance de la matrice bfloat16
    1.15 PFLOPs
    Pic de performance de la matrice bfloat16 avec parcimonie structurée
    2.3 PFLOPs
    Nombre de transistors
    73 Billion
    Systèmes d'exploitation compatibles
    Linux x86 64-Bit
  • Connecteurs d'alimentation externe
    12V-2x6
    Consommation typique de la carte (TBP)
    600W TBP (Max); 450W TBP configurable
  • Cache de dernier niveau (LLC)
    128 MB
    Taille de la mémoire dédiée
    144 GB
    Type de mémoire dédiée
    HBM3E
    Infinity Cache
    Oui
    Interface mémoire
    4096bits
    Bande passante mémoire en crête
    4 TB/s
    Prise en charge de la mémoire ECC
    Oui (Full-Chip)
  • Format GPU
    Carte d'extension PCIe®
    Type de bus
    PCIe® 5.0 x16
    Refroidissement
    Passif
  • Hauteur de la carte
    Pleine hauteur
    Longueur de la carte
    10.5" (267 mm)
    Largeur de la carte
    Double slot
  • Technologies prises en charge
    AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
    Prise en charge RAS
    Oui
    Retrait de page
    Oui
    Contournement de page
    Oui
    SR-IOV
    Oui
  • OpenMP®
    Oui
    OpenCL™
    Oui
    HIP
    Oui
    ROCm™ Open Ecosystem

    Yes

  • TensorFlow
    Oui
    PyTorch
    Oui
    ONYX-RT
    Oui
    SGLang
    Oui
    JAX
    Oui
    Triton
    Oui
    Kokkos
    Oui
    RAJA
    Oui