-
- 名稱
- AMD Instinct™ MI350P
- 系列
- Instinct
- 系列
- Instinct MI350 Series
- 尺寸外型
- 伺服器
-
- 顯示卡架構
- CDNA4
- 光刻
- TSMC 3nm | 6nm FinFET
- 串流處理器
- 8,192
- 矩陣核心
- 512
- 運算單元
- 128
- 峰值引擎時脈
- 2200 MHz
- 峰值 Microscaling 四位元精度矩陣 (MXFP4) 效能
- 4.6 PFLOPs
- 峰值 Microscaling 六位元精度矩陣 (MXFP6) 效能
- 4.6 PFLOPs
- 峰值 Microscaling 八位元精度矩陣 (MXFP8) 效能
- 2.3 PFLOPs
- 峰值 Open Compute Project 八位元精度矩陣 (OCP FP8) 效能 (E5M2, E4M3)
- 2.3 PFLOPs
- 採結構化稀疏性的峰值 Open Compute Project 八位元精度矩陣 (OCP FP8) 效能
- 4.6 PFLOPs
- 峰值半精度矩陣 (FP16) 效能
- 1.15 PFLOPs
- 採結構化稀疏性的峰值半精度矩陣 (FP16) 效能
- 2.3 PFLOPs
- 峰值半精度 (FP16) 效能
- 72 TFLOPs
- 峰值單精度矩陣 (FP32) 效能
- 72 TFLOPs
- 峰值單精度 (FP32) 效能
- 72 TFLOPs
- 峰值雙精度矩陣 (FP64) 效能
- 36 TFLOPs
- 峰值雙精度 (FP64) 效能
- 36 TFLOPs
- 峰值 INT8 矩陣效能
- 2.3 POPs
- 採結構化稀疏性的峰值 INT8 矩陣效能
- 4.6 POPs
- 峰值 bfloat16 矩陣效能
- 1.15 PFLOPs
- 採結構化稀疏性的峰值 bfloat16 矩陣效能
- 2.3 PFLOPs
- 電晶體數
- 73 Billion
- 作業系統支援
- Linux x86 64-Bit
-
- 外接電源連接器
- 12V-2x6
- 一般主機板功耗 (TBP)
- 600W TBP (Max); 450W TBP configurable
-
- 末級快取記憶體 (LLC)
- 128 MB
- 專用記憶體大小
- 144 GB
- 專用記憶體類型
- HBM3E
- Infinity Cache
- 是
- 記憶體介面
- 4096位元
- 峰值記憶體頻寬
- 4 TB/s
- 記憶體 ECC 支援
- 是(全晶片)
-
- 顯示卡尺寸外型
- PCIe® 擴充卡
- 匯流排類型
- PCIe® 5.0 x16
- 散熱
- 被動式
-
- 主機板高度
- 全高
- 主機板長度
- 10.5" (267 mm)
- 主機板寬度
- 雙插槽
-
- 受支援的技術
- AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
- RAS 支援
- 是
- Page Retirement
- 是
- Page Avoidance
- 是
- SR-IOV
- 是
-
- OpenMP®
- 是
- OpenCL™
- 是
- HIP
- 是
- ROCm™ Open Ecosystem
-
Yes
-
- TensorFlow
- 是
- PyTorch
- 是
- ONYX-RT
- 是
- SGLang
- 是
- JAX
- 是
- Triton
- 是
- Kokkos
- 是
- RAJA
- 是
AMD Instinct™ MI350P PCIe® 介面卡
使用專為高效能、領先成本效益、開放式企業級 AI 堆疊和簡易部署所設計的 AMD Instinct™ MI350P PCIe® 加速器卡,在您現有的基礎架構中部署和擴充生成式與代理式 AI。