隆重推出第 5 代 AMD EPYC 伺服器處理器
專為加速資料中心、雲端和 AI 工作負載而打造的 AMD EPYC 9005 伺服器處理器正在推動前所未有的企業運算效能。
領先業界的 AI 處理器1
AMD EPYC™ 9005 伺服器處理器提供端對端 AI 效能。
最大化每台伺服器的效能
AMD EPYC™ 9005 處理器能達到與傳統硬體相同的整數效能，同時最多減少機架數量 88%2，大幅降低實體佔用空間、耗電量，以及所需的軟體授權數量，釋放更多空間給全新或擴大的 AI 工作負載。
領先的 AI 推論效能
許多 AI 工作負載，像是 130 億個參數以下的語言模型、影像與詐騙分析，或推薦系統，皆能在搭載 AMD EPYC™ 9005 處理器的純處理器伺服器上高效執行。相較於前一代產品，搭載兩個第 5 代 AMD EPYC 9965 處理器的伺服器可提供高達 2 倍的推論輸送量。3
顯示卡加速最大化
AMD EPYC™ 9005 系列包括最適合作為仰賴顯示卡技術之系統的主控處理器產品選項，有助於提高特定 AI 工作負載的效能，並改善每個顯示卡伺服器的投資報酬率。例如，在涵蓋 8 種模型與 4 種使用情境的幾何平均值推論效能測試中，搭載 AMD EPYC 9575F 處理器與 8 張顯示卡的高頻率伺服器，其出現第一個符元的時間較採用 Intel Xeon 6960P 處理器的同等 8 顯示卡伺服器快達 13%，整體推論輸送量則提升 6.6%。4,5,6
瞭解第 5 代 AMD EPYC 處理器如何協助提升整個資料中心的 AI 效率和效能。從在您的資料中心創造空間和量能，到直接在處理器上進行推論，再到提高顯示卡上的效能，AMD EPYC 處理器將企業 AI 提升到全新高度
企業效能最佳化
AMD EPYC 9005 伺服器處理器提供卓越的效能，同時帶來領先業界的能效與整體持有成本 (TCO) 價值，支援關鍵業務需求。
領先業界的整數效能
採用 AMD EPYC 9005 處理器的伺服器利用全新的 “Zen 5” 核心，提供令人驚豔的主流效能指標表現，包括可達到頂尖競爭產品 2.3 倍的整數效能。7
專為雲端打造
AMD EPYC™ 9005 伺服器處理器可提供適合雲端工作負載的密度與效能。192 核心的頂級 AMD EPYC 9965 處理器可支援的虛擬處理器數量 (vCPU) 比頂尖的 Intel® Xeon 6E “Sierra Forest” 144 核心處理器多出 33%（每 vCPU 1 核心）。
領先業界的效率與 TCO
如今資料中心的耗電量前所未有地高。AMD EPYC™ 9005 伺服器處理器持續提供歷代 AMD EPYC 所具有的能效與 TCO 優勢。
領先業界的效能、密度和效率
AMD EPYC 9005 系列伺服器處理器包含多達 192 個 “Zen 5” 或 “Zen 5c” 核心，具有優異的記憶體頻寬和容量。 創新 AMD 小晶片架構，可實現高效且節能的解決方案，最適合滿足您各種運算需求。
“Zen 5”
“Zen 5c”
廣泛的生態系統支援，深受業界領導者信賴
AMD 以 AMD EPYC™ 9005 伺服器處理器與多家解決方案供應商合作。全球各地皆有公司和政府組織選擇 AMD 來處理他們最重要的工作負載。
型號規格
資源
尾註
- 9xx-151：TPCxAI @SF30 多實體，32 核心實體大小輸送量結果是根據 AMD 執行多個 VM 實體的內部測試，資料截至 2025 年 4 月 1 日為止。彙總端對端 AI 輸送量測試是從 TPCx-AI 基準測試衍生而來，因此無法與已發佈的 TPCx-AI 結果相比，因為端對端 AI 輸送量測試結果不符合 TPCx-AI 規格。雙路 AMD EPYC 9965（總 AIUCpm 6067.53 ，總計 384 核心，500 W TDP，AMD 參考系統，1.5 TB 24x64 GB DDR5-6400，2 x 40 GbE Mellanox CX-7 (MT2910)，3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe，Ubuntu® 24.04 LTS 內核 6.13，SMT=ON，Determinism=power，Mitigations=on）；雙路 AMD EPYC 9755（總 AIUCpm 4073.42，總計 256 核心，500 W TDP，AMD 參考系統，1.5 TB 24x64 GB DDR5-6400，2 x 40 GbE Mellanox CX-7 (MT2910)，3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe，Ubuntu 24.04 LTS 內核 6.13，SMT=ON，Determinism=power，Mitigations=on）；雙路 Intel Xeon 6980P（總 AIUCpm 3550.50，總計 256 核心，500 W TDP，生產環境系統，1.5 TB 24x64 GB DDR5-6400，4 x 1GbE Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe，3.84 TB SAMSUNG MZWLO3T8HCLS-00A07 NVMe，Ubuntu 24.04 LTS 內核 6.13，SMT=ON，效能偏好，Mitigations=on）。結果可能會因各種因素而有不同，包括但不限於系統組態、軟體版本和 BIOS 設定。TPC、TPC Benchmark 和 TPC-H 為 Transaction Processing Performance Council 的商標。
- 9xx5TCO-018：這個方案包含許多假設和估算，儘管其以 AMD 內部研究和最佳近似值為基礎，但應視為僅供參考的示例，不得未經實際測試並以其作為決策依據。AMD 伺服器與溫室氣體排放 TCO（整體持有成本）估算器工具 - 1.53 版，比較搭載特定 AMD EPYC™ 處理器的伺服器解決方案，與搭載 Intel® Xeon® 處理器的伺服器解決方案，若以總效能 391000 單位 SPECrate2017_int_base 為目標，各可節省多少成本及產生多少環境衝擊，資料截至 2025 年 12 月 3 日為止。此分析的分析對象為採用 AMD 192 核心 EPYC_9965 的雙路伺服器，SPECrate2017_int_base 分數為 3230，https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf；
比較對象為搭載 Intel Xeon 128 核心 Xeon_6980P 的雙路伺服器，SPECrate2017_int_base 分數為 2510，https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf；作為參照之基準系統為搭載舊款 Intel Xeon 28 核心 Platinum_8280 的雙路伺服器，SPECrate2017_int_base 分數為 391，https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
環境影響估值之計算，是根據「2025 年國際國家特定電力係數」中的資料，可在 https://www.carbondi.com/#electricity-factors/ 查看，此分析用到的美國環保署「溫室氣體當量計算器」，是於 2024 年 9 月 4 日取得，其網址為：https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
如需更多詳細資料，請參閱 https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018。
- 9xx5-040A：XGBoost（每小時的執行量）輸送量結果係依據截至 2024 年 9 月 5 日的 AMD 內部測試結果。XGBoost 組態：v2.2.1，Higgs Data Set，32 核心實例，FP32 雙路 AMD EPYC 9965（總計 384 核心），12 個 32 核心實體， 1.5TB 24x64GB DDR5-6400 (6000 MT/s)，1.0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe，3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®，Ubuntu® 22.04.4 LTS，6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192)，BIOS RVOT1000C，(SMT=off, Determinism=Power, Turbo Boost=Enabled)，NPS=1，雙路 AMD EPYC 9755（總計 256 核心），1.5TB 24x64GB DDR5-6400 (6000 MT/s)，1DPC，1.0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe，3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®，Ubuntu 22.04.4 LTS，6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192)，BIOS RVOT0090F (SMT=off, Determinism=Power, Turbo Boost=Enabled)，NPS=1，雙路 AMD EPYC 9654（總計 192 核心），1.5TB 24x64GB DDR5-4800, 1DPC，2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®，Ubuntu® 22.04.4 LTS，6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192)，BIOS TTI100BA (SMT=off, Determinism=Power)，NPS=1，與雙路 Xeon Platinum 8592+ （總計 128 核心）相比，AMX On，1TB 16x64GB DDR5-5600，1DPC，1.0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe，3.84 TB KIOXIA KCMYXRUG3T84 NVMe®，Ubuntu 22.04.4 LTS 6.5.0-35-generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192)，BIOS ESE122V (SMT=off, Determinism=Power, Turbo Boost = Enabled) 結果：處理器 執行 1 執行 2 執行 3 中位數 相對輸送量 世代比較 雙路 Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 雙路 Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 雙路 Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 雙路 EMR 64C 517.986 421.053 553.846 517.986 1 NA。結果可能會因系統組態、軟體版本及 BIOS 設定等因素而有不同。
- 9xx5-258：顯示卡推論輸送量結果係依據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以每秒符元數為單位。雙路 AMD EPYC 9575F （總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：框架 模型 相對 NIM llama3.3-70b-instruct 1.053 NIM gpt-oss-120b 1.133 NIM qwen2_5-coder-32b-instruct 1.034 VLLM Vllm_Deepseek_V3(R1) 1.036 VLLM Vllm_Llama4_scout 1.049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.073 NIM Multi-instance llama3.1-8b-instruct 1.144 NIM Multi-instance qwen2_5-coder-32b-instruct 1.014 整體幾何平均值 1.066 最佳結果 1.144 視系統組態、軟體版本及 BIOS 設定等因素而定，結果可能有所不同。
- 9xx5-259：顯示卡推論延遲時間（出現第一個符元的時間）係根據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以秒為單位。雙路 AMD EPYC 9575F（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：框架 模型 相對 NIM llama3.3-70b-instruct 0.996 NIM gpt-oss-120b 1.22 NIM qwen2_5-coder-32b-instruct 1.062 VLLM Vllm_Deepseek_V3(R1) 1.059 VLLM Vllm_Llama4_scout 1.246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.164 NIM Multi-instance llama3.1-8b-instruct 1.355 NIM Multi-instance qwen2_5-coder-32b-instruct 1.012 整體幾何平均值 1.133 最佳結果 1.355 視系統組態、軟體版本及 BIOS 設定等因素而定，結果可能有所不同。
- 9xx5-260：顯示卡推論符元延遲（每輸出符元時間）係根據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以秒為單位。雙路 AMD EPYC 9575F（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：架構 模型 相對比例 NIM llama3.3-70b-instruct 1.053 NIM gpt-oss-120b 1.128 NIM qwen2_5-coder-32b-instruct 1.019 VLLM Vllm_Deepseek_V3(R1) 1.025 VLLM Vllm_Llama4_scout 1.025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.062 NIM Multi-instance llama3.1-8b-instruct 1.102 NIM Multi-instance qwen2_5-coder-32b-instruct 1.033，整體幾何平均值 1.055，最佳結果 1.128。結果可能會因系統組態、軟體版本及 BIOS 設定等因素而有不同
- 9xx5-002F：SPECrate®2017_int_base 比較是基於截至 2025 年 12 月 11 日 www.spec.org 上所公佈的分數。
雙路 AMD EPYC 9654，96C，360 W，$8452 美元，1830，5.083，0.217，https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
雙路 AMD EPYC 9754，128C，360 W，$10631 美元，1950，5.417，0.183，https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
雙路 AMD EPYC 9755，128C，500 W，$10931 美元，2850，5.70，0.261，https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
雙路 AMD EPYC 9965，192C，500 W，$11988 美元，3230，6.460，0.269，https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
雙路 Intel Xeon 6780E，144C，330 W，$8513 美元，1420，4.303，0.167，https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
雙路 Intel Xeon 6980P，128C，500 W，$12460 美元，2510，5.020，0.201，https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
雙路 Intel Xeon Platinum 8592+，64C，350 W，$11600 美元，1130，3.229，0.097，https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®、SPEC CPU® 和 SPECrate® 是 Standard Performance Evaluation Corporation 的註冊商標。請參閱 www.spec.org 瞭解更多資訊。AMD 處理器價格是根據 2025 年 12 月 11 日的資料。Intel 處理器瓦數及價格資料取自 https://ark.intel.com/，造訪時間 2025 年 12 月 11 日。
尾註
- 9xx-151：TPCxAI @SF30 多實體，32 核心實體大小輸送量結果是根據 AMD 執行多個 VM 實體的內部測試，資料截至 2025 年 4 月 1 日為止。彙總端對端 AI 輸送量測試是從 TPCx-AI 基準測試衍生而來，因此無法與已發佈的 TPCx-AI 結果相比，因為端對端 AI 輸送量測試結果不符合 TPCx-AI 規格。雙路 AMD EPYC 9965（總 AIUCpm 6067.53 ，總計 384 核心，500 W TDP，AMD 參考系統，1.5 TB 24x64 GB DDR5-6400，2 x 40 GbE Mellanox CX-7 (MT2910)，3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe，Ubuntu® 24.04 LTS 內核 6.13，SMT=ON，Determinism=power，Mitigations=on）；雙路 AMD EPYC 9755（總 AIUCpm 4073.42，總計 256 核心，500 W TDP，AMD 參考系統，1.5 TB 24x64 GB DDR5-6400，2 x 40 GbE Mellanox CX-7 (MT2910)，3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe，Ubuntu 24.04 LTS 內核 6.13，SMT=ON，Determinism=power，Mitigations=on）；雙路 Intel Xeon 6980P（總 AIUCpm 3550.50，總計 256 核心，500 W TDP，生產環境系統，1.5 TB 24x64 GB DDR5-6400，4 x 1GbE Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe，3.84 TB SAMSUNG MZWLO3T8HCLS-00A07 NVMe，Ubuntu 24.04 LTS 內核 6.13，SMT=ON，效能偏好，Mitigations=on）。結果可能會因各種因素而有不同，包括但不限於系統組態、軟體版本和 BIOS 設定。TPC、TPC Benchmark 和 TPC-H 為 Transaction Processing Performance Council 的商標。
- 9xx5TCO-018：這個方案包含許多假設和估算，儘管其以 AMD 內部研究和最佳近似值為基礎，但應視為僅供參考的示例，不得未經實際測試並以其作為決策依據。AMD 伺服器與溫室氣體排放 TCO（整體持有成本）估算器工具 - 1.53 版，比較搭載特定 AMD EPYC™ 處理器的伺服器解決方案，與搭載 Intel® Xeon® 處理器的伺服器解決方案，若以總效能 391000 單位 SPECrate2017_int_base 為目標，各可節省多少成本及產生多少環境衝擊，資料截至 2025 年 12 月 3 日為止。此分析的分析對象為採用 AMD 192 核心 EPYC_9965 的雙路伺服器，SPECrate2017_int_base 分數為 3230，https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf；
比較對象為搭載 Intel Xeon 128 核心 Xeon_6980P 的雙路伺服器，SPECrate2017_int_base 分數為 2510，https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf；作為參照之基準系統為搭載舊款 Intel Xeon 28 核心 Platinum_8280 的雙路伺服器，SPECrate2017_int_base 分數為 391，https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf
環境影響估值之計算，是根據「2025 年國際國家特定電力係數」中的資料，可在 https://www.carbondi.com/#electricity-factors/ 查看，此分析用到的美國環保署「溫室氣體當量計算器」，是於 2024 年 9 月 4 日取得，其網址為：https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
如需更多詳細資料，請參閱 https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018。 - 9xx5-040A：XGBoost（每小時的執行量）輸送量結果係依據截至 2024 年 9 月 5 日的 AMD 內部測試結果。XGBoost 組態：v2.2.1，Higgs Data Set，32 核心實例，FP32 雙路 AMD EPYC 9965（總計 384 核心），12 個 32 核心實體， 1.5TB 24x64GB DDR5-6400 (6000 MT/s)，1.0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe，3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®，Ubuntu® 22.04.4 LTS，6.8.0-45-generic (tuned-adm profile throughput-performance, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192)，BIOS RVOT1000C，(SMT=off, Determinism=Power, Turbo Boost=Enabled)，NPS=1，雙路 AMD EPYC 9755（總計 256 核心），1.5TB 24x64GB DDR5-6400 (6000 MT/s)，1DPC，1.0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe，3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®，Ubuntu 22.04.4 LTS，6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192)，BIOS RVOT0090F (SMT=off, Determinism=Power, Turbo Boost=Enabled)，NPS=1，雙路 AMD EPYC 9654（總計 192 核心），1.5TB 24x64GB DDR5-4800, 1DPC，2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®，Ubuntu® 22.04.4 LTS，6.8.0-40-generic (tuned-adm profile throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192)，BIOS TTI100BA (SMT=off, Determinism=Power)，NPS=1，與雙路 Xeon Platinum 8592+ （總計 128 核心）相比，AMX On，1TB 16x64GB DDR5-5600，1DPC，1.0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe，3.84 TB KIOXIA KCMYXRUG3T84 NVMe®，Ubuntu 22.04.4 LTS 6.5.0-35-generic (tuned-adm profile throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192)，BIOS ESE122V (SMT=off, Determinism=Power, Turbo Boost = Enabled) 結果：處理器 執行 1 執行 2 執行 3 中位數 相對輸送量 世代比較 雙路 Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 雙路 Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 雙路 Genoa 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1 雙路 EMR 64C 517.986 421.053 553.846 517.986 1 NA。結果可能會因系統組態、軟體版本及 BIOS 設定等因素而有不同。
- 9xx5-258：顯示卡推論輸送量結果係依據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以每秒符元數為單位。雙路 AMD EPYC 9575F （總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：框架 模型 相對 NIM llama3.3-70b-instruct 1.053 NIM gpt-oss-120b 1.133 NIM qwen2_5-coder-32b-instruct 1.034 VLLM Vllm_Deepseek_V3(R1) 1.036 VLLM Vllm_Llama4_scout 1.049 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.073 NIM Multi-instance llama3.1-8b-instruct 1.144 NIM Multi-instance qwen2_5-coder-32b-instruct 1.014 整體幾何平均值 1.066 最佳結果 1.144 視系統組態、軟體版本及 BIOS 設定等因素而定，結果可能有所不同。
- 9xx5-259：顯示卡推論延遲時間（出現第一個符元的時間）係根據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以秒為單位。雙路 AMD EPYC 9575F（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：框架 模型 相對 NIM llama3.3-70b-instruct 0.996 NIM gpt-oss-120b 1.22 NIM qwen2_5-coder-32b-instruct 1.062 VLLM Vllm_Deepseek_V3(R1) 1.059 VLLM Vllm_Llama4_scout 1.246 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.164 NIM Multi-instance llama3.1-8b-instruct 1.355 NIM Multi-instance qwen2_5-coder-32b-instruct 1.012 整體幾何平均值 1.133 最佳結果 1.355 視系統組態、軟體版本及 BIOS 設定等因素而定，結果可能有所不同。
- 9xx5-260：顯示卡推論符元延遲（每輸出符元時間）係根據截至 2025 年 10 月 24 日的 AMD 內部測試結果。工作負載組態：vLLM 版本，NIM 版本，輸入/輸出符元數：128/128，1024/128，128/1024，1024/1024，結果以秒為單位。雙路 AMD EPYC 9575F（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.5，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1；雙路 Intel Xeon 6960P（總計 128 核心）生產環境系統，搭載 8x NVIDIA B200 顯示卡，24x64 GB DDR5-6400，SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe，Ubuntu 24.04 6.8.0-85-generic，BIOS 1.2，SMT OFF，Mitigations OFF，Power Determinism，CUDA 13.0，NPS1。結果：架構 模型 相對比例 NIM llama3.3-70b-instruct 1.053 NIM gpt-oss-120b 1.128 NIM qwen2_5-coder-32b-instruct 1.019 VLLM Vllm_Deepseek_V3(R1) 1.025 VLLM Vllm_Llama4_scout 1.025 VLLM Vllm_Qwen2.5-VL-72B-Instruct 1.062 NIM Multi-instance llama3.1-8b-instruct 1.102 NIM Multi-instance qwen2_5-coder-32b-instruct 1.033，整體幾何平均值 1.055，最佳結果 1.128。結果可能會因系統組態、軟體版本及 BIOS 設定等因素而有不同
- 9xx5-002F：SPECrate®2017_int_base 比較是基於截至 2025 年 12 月 11 日 www.spec.org 上所公佈的分數。
雙路 AMD EPYC 9654，96C，360 W，$8452 美元，1830，5.083，0.217，https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
雙路 AMD EPYC 9754，128C，360 W，$10631 美元，1950，5.417，0.183，https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
雙路 AMD EPYC 9755，128C，500 W，$10931 美元，2850，5.70，0.261，https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
雙路 AMD EPYC 9965，192C，500 W，$11988 美元，3230，6.460，0.269，https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
雙路 Intel Xeon 6780E，144C，330 W，$8513 美元，1420，4.303，0.167，https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
雙路 Intel Xeon 6980P，128C，500 W，$12460 美元，2510，5.020，0.201，https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
雙路 Intel Xeon Platinum 8592+，64C，350 W，$11600 美元，1130，3.229，0.097，https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®、SPEC CPU® 和 SPECrate® 是 Standard Performance Evaluation Corporation 的註冊商標。請參閱 www.spec.org 瞭解更多資訊。AMD 處理器價格是根據 2025 年 12 月 11 日的資料。Intel 處理器瓦數及價格資料取自 https://ark.intel.com/，造訪時間 2025 年 12 月 11 日。