• 影像縮放
    AMD Instinct MI350P PCIe Card
  • 影像縮放
    AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card

AMD Instinct™ MI350P PCIe® 介面卡

使用專為高效能、領先成本效益、開放式企業級 AI 堆疊和簡易部署所設計的 AMD Instinct™ MI350P PCIe® 加速器卡,在您現有的基礎架構中部署和擴充生成式與代理式 AI。

  • 名稱
    AMD Instinct™ MI350P
    系列
    Instinct
    系列
    Instinct MI350 Series
    尺寸外型
    伺服器
  • 顯示卡架構
    CDNA4
    光刻
    TSMC 3nm | 6nm FinFET
    串流處理器
    8,192
    矩陣核心
    512
    運算單元
    128
    峰值引擎時脈
    2200 MHz
    峰值 Microscaling 四位元精度矩陣 (MXFP4) 效能
    4.6 PFLOPs
    峰值 Microscaling 六位元精度矩陣 (MXFP6) 效能
    4.6 PFLOPs
    峰值 Microscaling 八位元精度矩陣 (MXFP8) 效能
    2.3 PFLOPs
    峰值 Open Compute Project 八位元精度矩陣 (OCP FP8) 效能 (E5M2, E4M3)
    2.3 PFLOPs
    採結構化稀疏性的峰值 Open Compute Project 八位元精度矩陣 (OCP FP8) 效能
    4.6 PFLOPs
    峰值半精度矩陣 (FP16) 效能
    1.15 PFLOPs
    採結構化稀疏性的峰值半精度矩陣 (FP16) 效能
    2.3 PFLOPs
    峰值半精度 (FP16) 效能
    72 TFLOPs
    峰值單精度矩陣 (FP32) 效能
    72 TFLOPs
    峰值單精度 (FP32) 效能
    72 TFLOPs
    峰值雙精度矩陣 (FP64) 效能
    36 TFLOPs
    峰值雙精度 (FP64) 效能
    36 TFLOPs
    峰值 INT8 矩陣效能
    2.3 POPs
    採結構化稀疏性的峰值 INT8 矩陣效能
    4.6 POPs
    峰值 bfloat16 矩陣效能
    1.15 PFLOPs
    採結構化稀疏性的峰值 bfloat16 矩陣效能
    2.3 PFLOPs
    電晶體數
    73 Billion
    作業系統支援
    Linux x86 64-Bit
  • 外接電源連接器
    12V-2x6
    一般主機板功耗 (TBP)
    600W TBP (Max); 450W TBP configurable
  • 末級快取記憶體 (LLC)
    128 MB
    專用記憶體大小
    144 GB
    專用記憶體類型
    HBM3E
    Infinity Cache
    記憶體介面
    4096位元
    峰值記憶體頻寬
    4 TB/s
    記憶體 ECC 支援
    是(全晶片)
  • 顯示卡尺寸外型
    PCIe® 擴充卡
    匯流排類型
    PCIe® 5.0 x16
    散熱
    被動式
  • 主機板高度
    全高
    主機板長度
    10.5" (267 mm)
    主機板寬度
    雙插槽
  • 受支援的技術
    AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
    RAS 支援
    Page Retirement
    Page Avoidance
    SR-IOV
  • OpenMP®
    OpenCL™
    HIP
    ROCm™ Open Ecosystem

    Yes

  • TensorFlow
    PyTorch
    ONYX-RT
    SGLang
    JAX
    Triton
    Kokkos
    RAJA