-
影像縮放
AMD Instinct™ MI325X 加速器
AMD Instinct™ MI325X 顯示卡加速器為訓練與推論提供驚人的效能與效率，樹立 AI 效能的全新標準。
規格比較
- AI 效能
- HPC 效能
- 記憶體
AI 效能（峰值 TFLOPs）
與競爭的加速器相較，AI 效能提升高達 1.3 倍1, 2
TF32
FP16/BF16（Tensor/矩陣）
FP8
H200 SXM 141 GB
MI325X OAM 256 GB
HPC 效能（峰值 TFLOPs）
與競爭的加速器相較，HPC 效能提升高達 2.4 倍2
FP64（向量）
FP64（Tensor/矩陣）
FP32（向量）
H200 SXM 141 GB
MI325X OAM 256 GB
記憶體容量與頻寬
與競爭的加速器相較，記憶體容量提升 1.8 倍，記憶體頻寬提升 1.2 倍3
記憶體容量
記憶體頻寬
H200 SXM 141 GB
MI325X OAM 256 GB
尾註
- MI325-002 - AMD 效能實驗室於 2024 年 5 月 28 日對 AMD Instinct™ MI325X 顯示卡進行計算，計算結果為 1307.4 TFLOPS 峰值理論半精度 (FP16)、1307.4 TFLOPS 峰值理論 Bfloat16 格式精度 (BF16)、2614.9 TFLOPS 峰值理論 8 位元精度 (FP8)、2614.9 TOPs INT8 浮點效能。實際效能會因最終規格和系統配置而不同。
Nvidia H200 SXM (141GB) 顯示卡的已發佈結果：989.4 TFLOPS 峰值理論半精度 Tensor (FP16 Tensor)、989.4 TFLOPS 峰值理論 Bfloat16 Tensor 格式精度 (BF16 Tensor)、1,978.9 TFLOPS 峰值理論 8 位元精度 (FP8)、1,978.9 TOPs 峰值理論 INT8 浮點效能。BFLOAT16 Tensor Core、FP16 Tensor Core、FP8 Tensor Core 和 INT8 Tensor Core 效能是根據 Nvidia 使用稀疏格式發佈的結果；為了進行比較，AMD 將這些數值除以 2 來轉換為非稀疏/密集格式，上方這些數值即為計算結果
Nvidia H200 資料來源： https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 和 https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
附註：Nvidia H200 顯示卡的已發佈 FLOPs 效能與 H100 產品相同：https://resources.nvidia.com/en-us-tensor-core/。MI325-02
- MI325-008 - AMD 效能實驗室於 2024 年 10 月 2 日對以 AMD CDNA™ 3 5 奈米 | 6 奈米 FinFET 製程技術所設計、2,100 MHz 峰值提升引擎時脈的 AMD Instinct™ MI325X (1000W) 顯示卡進行計算，計算結果為 163.4 TFLOPs 峰值理論雙精度矩陣（FP64 矩陣）、81.7 TFLOPs 峰值理論雙精度 (FP64)、163.4 TFLOPs 峰值理論單精度矩陣（FP32 矩陣）、163.4 TFLOPs 峰值理論單精度 (FP32)、653.7 TFLOPS 峰值理論 TensorFloat-32 (TF32)、1307.4 TFLOPS 峰值理論半精度 (FP16)，實際效能會因最終規格和系統配置而不同。
Nvidia H200 SXM (141GB) 顯示卡的已發佈結果： 66.9 TFLOPs 峰值理論雙精度 Tensor (FP64 Tensor)、33.5 TFLOPs 峰值理論雙精度 (FP64)、66.9 TFLOPs 峰值理論單精度 (FP32)、494.7 TFLOPs 峰值 TensorFloat-32 (TF32)、989.5 TFLOPS 峰值理論半精度 Tensor (FP16 Tensor)。TF32 Tensor Core 效能是根據 Nvidia 使用稀疏格式發佈的結果；為了進行比較，AMD 將這些數值除以 2 來轉換為非稀疏/密集格式，上方這些數值即為計算結果。
Nvidia H200 資料來源： https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 和 https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
附註：Nvidia H200 顯示卡的已發佈 FLOPs 效能與 H100 產品相同：https://resources.nvidia.com/en-us-tensor-core/。
*Nvidia H200 顯示卡不支援 FP32 Tensor。
- MI325-001A - AMD 效能實驗室於 2024 年 9 月 26 日根據目前的規格和/或評估進行的計算。AMD Instinct™ MI325X OAM 加速器將擁有 256GB HBM3E 記憶體容量和 6 TB/s 顯示卡峰值理論記憶體頻寬效能。實際結果視生產晶片而異。
NVidia Hopper H200 (141GB) SXM 顯示卡加速器的最高已公佈結果為 141GB HBM3E 記憶體容量和 4.8 TB/s 顯示卡記憶體頻寬效能。 https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446
NVidia Blackwell HGX B100 (192GB) 700W 顯示卡加速器的最高已公佈結果為 192GB HBM3E 記憶體容量和 8 TB/s 顯示卡記憶體頻寬效能。
NVidia Blackwell HGX B200 (192GB) 顯示卡加速器的最高已公佈結果為 192GB HBM3E 記憶體容量和 8 TB/s 顯示卡記憶體頻寬效能。
Nvidia Blackwell 規格：https://resources.nvidia.com/en-us-blackwell-architecture?_gl=1*1r4pme7*_gcl_aw*R0NMLjE3MTM5NjQ3NTAuQ2p3S0NBancyNkt4QmhCREVpd0F1NktYdDlweXY1dlUtaHNKNmhPdHM4UVdPSlM3dFdQaE40WkI4THZBaWFVajFy
尾註
- MI325-002 - AMD 效能實驗室於 2024 年 5 月 28 日對 AMD Instinct™ MI325X 顯示卡進行計算，計算結果為 1307.4 TFLOPS 峰值理論半精度 (FP16)、1307.4 TFLOPS 峰值理論 Bfloat16 格式精度 (BF16)、2614.9 TFLOPS 峰值理論 8 位元精度 (FP8)、2614.9 TOPs INT8 浮點效能。實際效能會因最終規格和系統配置而不同。
Nvidia H200 SXM (141GB) 顯示卡的已發佈結果：989.4 TFLOPS 峰值理論半精度 Tensor (FP16 Tensor)、989.4 TFLOPS 峰值理論 Bfloat16 Tensor 格式精度 (BF16 Tensor)、1,978.9 TFLOPS 峰值理論 8 位元精度 (FP8)、1,978.9 TOPs 峰值理論 INT8 浮點效能。BFLOAT16 Tensor Core、FP16 Tensor Core、FP8 Tensor Core 和 INT8 Tensor Core 效能是根據 Nvidia 使用稀疏格式發佈的結果；為了進行比較，AMD 將這些數值除以 2 來轉換為非稀疏/密集格式，上方這些數值即為計算結果
Nvidia H200 資料來源： https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 和 https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
附註：Nvidia H200 顯示卡的已發佈 FLOPs 效能與 H100 產品相同：https://resources.nvidia.com/en-us-tensor-core/。MI325-02 - MI325-008 - AMD 效能實驗室於 2024 年 10 月 2 日對以 AMD CDNA™ 3 5 奈米 | 6 奈米 FinFET 製程技術所設計、2,100 MHz 峰值提升引擎時脈的 AMD Instinct™ MI325X (1000W) 顯示卡進行計算，計算結果為 163.4 TFLOPs 峰值理論雙精度矩陣（FP64 矩陣）、81.7 TFLOPs 峰值理論雙精度 (FP64)、163.4 TFLOPs 峰值理論單精度矩陣（FP32 矩陣）、163.4 TFLOPs 峰值理論單精度 (FP32)、653.7 TFLOPS 峰值理論 TensorFloat-32 (TF32)、1307.4 TFLOPS 峰值理論半精度 (FP16)，實際效能會因最終規格和系統配置而不同。
Nvidia H200 SXM (141GB) 顯示卡的已發佈結果： 66.9 TFLOPs 峰值理論雙精度 Tensor (FP64 Tensor)、33.5 TFLOPs 峰值理論雙精度 (FP64)、66.9 TFLOPs 峰值理論單精度 (FP32)、494.7 TFLOPs 峰值 TensorFloat-32 (TF32)、989.5 TFLOPS 峰值理論半精度 Tensor (FP16 Tensor)。TF32 Tensor Core 效能是根據 Nvidia 使用稀疏格式發佈的結果；為了進行比較，AMD 將這些數值除以 2 來轉換為非稀疏/密集格式，上方這些數值即為計算結果。
Nvidia H200 資料來源： https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 和 https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
附註：Nvidia H200 顯示卡的已發佈 FLOPs 效能與 H100 產品相同：https://resources.nvidia.com/en-us-tensor-core/。
*Nvidia H200 顯示卡不支援 FP32 Tensor。 - MI325-001A - AMD 效能實驗室於 2024 年 9 月 26 日根據目前的規格和/或評估進行的計算。AMD Instinct™ MI325X OAM 加速器將擁有 256GB HBM3E 記憶體容量和 6 TB/s 顯示卡峰值理論記憶體頻寬效能。實際結果視生產晶片而異。
NVidia Hopper H200 (141GB) SXM 顯示卡加速器的最高已公佈結果為 141GB HBM3E 記憶體容量和 4.8 TB/s 顯示卡記憶體頻寬效能。 https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446
NVidia Blackwell HGX B100 (192GB) 700W 顯示卡加速器的最高已公佈結果為 192GB HBM3E 記憶體容量和 8 TB/s 顯示卡記憶體頻寬效能。
NVidia Blackwell HGX B200 (192GB) 顯示卡加速器的最高已公佈結果為 192GB HBM3E 記憶體容量和 8 TB/s 顯示卡記憶體頻寬效能。
Nvidia Blackwell 規格：https://resources.nvidia.com/en-us-blackwell-architecture?_gl=1*1r4pme7*_gcl_aw*R0NMLjE3MTM5NjQ3NTAuQ2p3S0NBancyNkt4QmhCREVpd0F1NktYdDlweXY1dlUtaHNKNmhPdHM4UVdPSlM3dFdQaE40WkI4THZBaWFVajFy
特定 AMD 技術可能需要第三方的啟用或啟動。支援的功能可能會因作業系統而異。 如需特定功能，請向系統製造商確認。沒有技術或產品是絕對安全的。