代理式時代的全球最佳伺服器處理器產品組合2
AMD EPYC™ 9006 系列伺服器處理器為代理式 AI 與多樣化工作負載提供支援,並以領先的每瓦效能與整體持有成本 (TCO) 來執行代理人、AI 主控節點,以及將智慧轉化為行動的一般用途。
代理人沙箱處理器
執行更多代理人,每瓦、每分錢、每機架都要更有效益3,4,5。
在相同功率包絡內擴充更多代理人。最高的執行緒密度與領先的每瓦效能,可將所有機架與系統的代理人承載量拉到最高6。
AI 主控節點處理器
讓顯示卡加速器發揮更多效能。
最大化顯示卡使用率與符元生成量。高頻率且快速的處理器對顯示卡通訊和高記憶體頻寬,可讓 AI 工作負載全程流暢執行。
一般用途處理器
為工作選擇合適的處理器。
為每個工作負載找到合適的處理器。最豐富的處理器產品組合,在效能、效率與密度之間取得平衡,適合一般用途工作負載、調度管理工作負載和代理人導向工作負載7。
將智慧轉化為行動
最豐富的代理式 AI 伺服器處理器產品組合7
為代理式 AI 環境、雲端環境、企業環境和 HPC 環境的工作負載找到合適的專用處理器。
雲端、企業、HPC 和 AI
AMD EPYC 9006 SP7 伺服器處理器
專為最高核心密度與領先效能所設計,可支援 AI 優先環境與雲端環境,有助於高效率擴充代理式工作負載、虛擬機器和 AI 主控節點。
核心代理式機能:代理人沙箱處理器 | AI 主控節點處理器 | 一般用途處理器
企業與一般用途
AMD EPYC 9006 SP8 伺服器處理器
提供平衡的運算、記憶體和 I/O,可執行關鍵業務應用程式、虛擬化和混合企業工作負載,以及新興代理式 AI 服務。
核心代理式機能:代理人沙箱處理器 | 一般用途處理器
HPC 與技術運算
AMD EPYC 9006X SP7 伺服器處理器
透過增強的快取與頻寬,加速模擬、建模和記憶體密集型工作負載,縮短取得深入解析的時間並支援代理人導向的分析。
核心代理式機能:一般用途處理器
適用於 AI 的主控節點
AMD EPYC 9006 LP 伺服器處理器
專為 AI 主控節點部署所打造,並透過最佳化的每系統效能與優異的加速器使用率,實現高效率且可擴充的 AI 基礎架構。
核心代理式機能:AI 主控節點處理器
領先的機架層級效能
100 kW 電力預算內的整體機架效能8
採用 "Zen" 6 與 "Zen" 6c 核心架構
AMD EPYC 9006 伺服器處理器結合 "Zen" 6 與 "Zen" 6c 核心,可支援代理式 AI 與現代資料中心工作負載的多樣化需求,透過高核心密度來為 AI 主控節點平衡高頻率效能,以高效率在各系統中擴充代理人。
合作夥伴
廣大且持續成長的生態系統
AMD 與眾多合作夥伴攜手合作,共同打造並開發採用 AMD EPYC 9006 系列伺服器處理器的最佳化解決方案。
型號規格
- 9006 SP7
- 9006 SP8
*不排除會有變動
*不排除會有變動
常見問答
代理式 AI 將 AI 轉變成多步驟系統,使用處理器來進行規劃、擷取和工具執行。代理人規模擴大時,像是 AMD EPYC™ 9006 系列伺服器處理器這類的平台會運用高核心與執行緒密度,高效率地滿足日益增加的處理器需求。
AMD EPYC™ 9006 系列伺服器處理器結合高達 256 個核心、512 個執行緒、高記憶體頻寬和 PCIe® Gen6,讓代理人持續平行運作,並讓資料在處理器與顯示卡之間快速傳輸。
兩者都要。AMD EPYC 9006 伺服器處理器產品組合可提供高頻率核心,適合易受延遲影響的調度與 AI 主控節點工作,以及高密度核心(高達 256 個),以實現大規模代理人平行執行。
同步多執行緒 (SMT) 可讓每個核心同時執行兩個執行緒,進而提升有效處理能力。在代理式 AI 環境中,SMT 有助於發揮每個核心的最高使用率,並可提高混合式多階段工作流程的輸送量。
AMD EPYC 9006 系列伺服器處理器專為領先的每瓦執行緒數所設計,有助於客戶在相同功率包絡內擴充更多代理人,進而實現更高 AI 輸送量並降低 TCO。
資源
尾註
- EPYC-029E:「最佳的雲端、企業和 AI 處理器」的宣稱,係根據 AMD 截至 2026 年 7 月 23 日的評估所得,評估之對象俱為一般用途企業伺服器處理器。評估項目包括推估效能、執行緒密度、企業工作負載結果、AI 基準測試效能、能效、記憶體子系統功能、I/O 功能、程序技術和內建安全性功能,並以最佳整體組合為依據。「最佳」反映的是所評估的雲端、企業和 AI 條件中最優異的整體組合,並不代表在每一項個別工作負載或指標方面皆居於領先地位。無法進行同等條件比較測試,或並非定位為一般用途企業伺服器處理器的產品,均未納入評估。
- EPYC-067:根據 AMD 截至 2026 年 6 月的內部分析與模型推估。分析對象為代理式 AI 系統底層之具代表性的基礎架構工作負載。效能的比較結果,反映的是模擬 100 kW 部署環境下所估算的機架規模輸送量,採用的代理工作負載包括網路服務、資料基礎架構和調度層。結果綜合 AMD 測試、第三方資料與推估所得,並可能因系統配置、軟體堆疊和工作負載組合而有所不同。如需相關假設、工作負載和測量方法的詳細資料,請參閱 AMD 代理式 AI 機架規模效能部落格與 AMD 方法說明。
- 9xx6-014:此比較是依據截至 2026 年 7 月 22 日發佈的最高階產品核心數與處理器功耗,包括第 6 代 EPYC 的預設處理器功率,以及第 5 代 EPYC、Intel® Xeon® 和 Nvidia Vera 的 TDP,用這些數值推估各伺服器的最高代理人數/處理器功耗。比較對象包括第 6 代 AMD EPYC™ 256C (400 W)、AMD EPYC™ 9965 (500 W TDP)、Nvidia Vera (450 W TDP)、ARM AGI (300 W TDP)、Intel® Xeon® 6980P (500 W TDP) 和 Intel Xeon 6990E+ (450 W TDP)。 每核心 2 個執行緒 (SMT)。ARM AGI 為每核心 1 個執行緒。
代理人數為估計值,是在一致的理論工作負載下,以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。
自第 6 代 AMD EPYC™ 伺服器處理器系列起,AMD 採用「預設處理器功率」來描述處理器耗電量,接替 AMD 過去的 TDP 參考值。預設處理器功率反映的是處理器在達成規格效能目標時,其運算裸晶與 I/O 裸晶所消耗的總電量。預設處理器功率與 TDP 均可作為處理器功耗參考值,用於產品比較、平台規劃和每瓦效能分析。Intel Xeon TDP 資料來自 ark.intel.com。Nvidia Vera TDP 資料來自 https://developer.nvidia.com/blog/nvidia-vera-cpu-sets-a-new-standard-for-agentic-workloads-in-ai-f…。ARM AGI 規格資料來自 https://www.arm.com/products/cloud-datacenter/arm-agi-cpu#Specifications
- 9xx6-013:此比較是依據截至 2026 年 7 月 22 日公開的最高階產品核心數與 1Ku 定價,以估算 AMD EPYC™ 9006(512 執行緒)、AMD EPYC™ 9005(384 執行緒)和 Intel® Xeon® 6(256 執行緒)SKU 的最高單位處理器成本代理人數與單位處理器成本執行緒數。執行緒數以每核心 2 個執行緒 (SMT) 計算。Intel 與 Xeon 是 Intel Corporation 或其子公司的商標。資料來源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
- 9xx6-012:根據 Nvidia、Intel® 與 AMD EPYC™ 伺服器處理器在代理式 AI 方面的估計效能資料,在每機架 100 kW 的功率包絡下,AMD EPYC9996 可提供最高的每機架代理人數。
相較於採用 Nvidia Vera(88 核心)的伺服器機架所提供的每機架核心數:
- AMD EPYC 9996(256 核心)可提供 2.08 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
- AMD EPYC 9965(192 核心)可提供 1.86 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
- Intel Xeon 6980P(128 核心)可提供 1.24 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
資料來源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
代理人數為估計值,是在一致的理論工作負載下,以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。
- EPYC-025D:截至 2026 年 7 月,第 6 代 EPYC 9996 在啟用 SMT 後具備 256 個核心與 512 個執行緒,高於其他任何已公開規格的單路處理器
- EPYC-068 - AMD EPYC 伺服器處理器產品組合的資料中心部署涵蓋範圍為業界最廣,從一般用途企業、雲端、電信、中小企業和 HPC 系統,到包含沙箱化代理式 AI 部署與顯示卡主控節點伺服器在內的新興 AI 環境,可謂無一不包。第 6 代 AMD EPYC 平台進一步提升此系列的多樣性,獨特結合最高 512 個執行緒的高核心與執行緒密度、最高支援 16 通道 12.8 GT/s MRDIMM 的進階記憶體頻寬、新一代 PCIe® Gen 6 連線能力,以及特定 SKU 最高 5 GHz 的提升頻率。
- 9xx6-021:機架層級一般用途效能比較,是根據 AMD 截至 2026 年 7 月的分析,在每機架 100 kW 功耗限制下,比較雙路 AMD EPYC™ "Venice" 9996(共 512 個核心)與雙路 Nvidia Vera(共 176 個核心,Olympus)的效能表現。效能反映 6 項工作負載的幾何平均值:估計 SPECrate® 2017_int_base、伺服器端 Java® Multi-JVM Max jOPS、網路服務 (NGINX/WRK)、鍵值儲存 (Redis)、記憶體內快取 (Memcached),以及關聯式資料庫 (TPROC-C)。所有平台皆採用雙插槽節點。系統製造商可能改變配置,而產生不同的結果。如需完整推導過程與相關假設,請參閱 https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf。TPROC-C 工作負載是衍生自 TPC-Benchmark™ Standard 的開放原始碼工作負載,因此無法與已公布的 TPC-C™ 結果直接比較,因為其結果並不符合 TPC-C Benchmark Standard。TPC、TPC Benchmark 和 TPC-C 是 Transaction Processing Performance Council 的商標。初步效能預估是根據 AMD 截至 2026 年 7 月 22 日的工程推估或測量結果,相關數值有變動之可能。SPEC® 與 SPECint® 是 Standard Performance Evaluation Corporation 的註冊商標。更多詳情請參閱 spec.org。
- EPYC-029E:「最佳的雲端、企業和 AI 處理器」的宣稱,係根據 AMD 截至 2026 年 7 月 23 日的評估所得,評估之對象俱為一般用途企業伺服器處理器。評估項目包括推估效能、執行緒密度、企業工作負載結果、AI 基準測試效能、能效、記憶體子系統功能、I/O 功能、程序技術和內建安全性功能,並以最佳整體組合為依據。「最佳」反映的是所評估的雲端、企業和 AI 條件中最優異的整體組合,並不代表在每一項個別工作負載或指標方面皆居於領先地位。無法進行同等條件比較測試,或並非定位為一般用途企業伺服器處理器的產品,均未納入評估。
- EPYC-067:根據 AMD 截至 2026 年 6 月的內部分析與模型推估。分析對象為代理式 AI 系統底層之具代表性的基礎架構工作負載。效能的比較結果,反映的是模擬 100 kW 部署環境下所估算的機架規模輸送量,採用的代理工作負載包括網路服務、資料基礎架構和調度層。結果綜合 AMD 測試、第三方資料與推估所得,並可能因系統配置、軟體堆疊和工作負載組合而有所不同。如需相關假設、工作負載和測量方法的詳細資料,請參閱 AMD 代理式 AI 機架規模效能部落格與 AMD 方法說明。
- 9xx6-014:此比較是依據截至 2026 年 7 月 22 日發佈的最高階產品核心數與處理器功耗,包括第 6 代 EPYC 的預設處理器功率,以及第 5 代 EPYC、Intel® Xeon® 和 Nvidia Vera 的 TDP,用這些數值推估各伺服器的最高代理人數/處理器功耗。比較對象包括第 6 代 AMD EPYC™ 256C (400 W)、AMD EPYC™ 9965 (500 W TDP)、Nvidia Vera (450 W TDP)、ARM AGI (300 W TDP)、Intel® Xeon® 6980P (500 W TDP) 和 Intel Xeon 6990E+ (450 W TDP)。 每核心 2 個執行緒 (SMT)。ARM AGI 為每核心 1 個執行緒。
代理人數為估計值,是在一致的理論工作負載下,以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。
自第 6 代 AMD EPYC™ 伺服器處理器系列起,AMD 採用「預設處理器功率」來描述處理器耗電量,接替 AMD 過去的 TDP 參考值。預設處理器功率反映的是處理器在達成規格效能目標時,其運算裸晶與 I/O 裸晶所消耗的總電量。預設處理器功率與 TDP 均可作為處理器功耗參考值,用於產品比較、平台規劃和每瓦效能分析。Intel Xeon TDP 資料來自 ark.intel.com。Nvidia Vera TDP 資料來自 https://developer.nvidia.com/blog/nvidia-vera-cpu-sets-a-new-standard-for-agentic-workloads-in-ai-f…。ARM AGI 規格資料來自 https://www.arm.com/products/cloud-datacenter/arm-agi-cpu#Specifications - 9xx6-013:此比較是依據截至 2026 年 7 月 22 日公開的最高階產品核心數與 1Ku 定價,以估算 AMD EPYC™ 9006(512 執行緒)、AMD EPYC™ 9005(384 執行緒)和 Intel® Xeon® 6(256 執行緒)SKU 的最高單位處理器成本代理人數與單位處理器成本執行緒數。執行緒數以每核心 2 個執行緒 (SMT) 計算。Intel 與 Xeon 是 Intel Corporation 或其子公司的商標。資料來源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
- 9xx6-012:根據 Nvidia、Intel® 與 AMD EPYC™ 伺服器處理器在代理式 AI 方面的估計效能資料,在每機架 100 kW 的功率包絡下,AMD EPYC9996 可提供最高的每機架代理人數。
相較於採用 Nvidia Vera(88 核心)的伺服器機架所提供的每機架核心數:
- AMD EPYC 9996(256 核心)可提供 2.08 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
- AMD EPYC 9965(192 核心)可提供 1.86 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
- Intel Xeon 6980P(128 核心)可提供 1.24 倍的每機架核心數(以及啟用 SMT 後的執行緒數)
資料來源:https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
代理人數為估計值,是在一致的理論工作負載下,以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。 - EPYC-025D:截至 2026 年 7 月,第 6 代 EPYC 9996 在啟用 SMT 後具備 256 個核心與 512 個執行緒,高於其他任何已公開規格的單路處理器
- EPYC-068 - AMD EPYC 伺服器處理器產品組合的資料中心部署涵蓋範圍為業界最廣,從一般用途企業、雲端、電信、中小企業和 HPC 系統,到包含沙箱化代理式 AI 部署與顯示卡主控節點伺服器在內的新興 AI 環境,可謂無一不包。第 6 代 AMD EPYC 平台進一步提升此系列的多樣性,獨特結合最高 512 個執行緒的高核心與執行緒密度、最高支援 16 通道 12.8 GT/s MRDIMM 的進階記憶體頻寬、新一代 PCIe® Gen 6 連線能力,以及特定 SKU 最高 5 GHz 的提升頻率。
- 9xx6-021:機架層級一般用途效能比較,是根據 AMD 截至 2026 年 7 月的分析,在每機架 100 kW 功耗限制下,比較雙路 AMD EPYC™ "Venice" 9996(共 512 個核心)與雙路 Nvidia Vera(共 176 個核心,Olympus)的效能表現。效能反映 6 項工作負載的幾何平均值:估計 SPECrate® 2017_int_base、伺服器端 Java® Multi-JVM Max jOPS、網路服務 (NGINX/WRK)、鍵值儲存 (Redis)、記憶體內快取 (Memcached),以及關聯式資料庫 (TPROC-C)。所有平台皆採用雙插槽節點。系統製造商可能改變配置,而產生不同的結果。如需完整推導過程與相關假設,請參閱 https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf。TPROC-C 工作負載是衍生自 TPC-Benchmark™ Standard 的開放原始碼工作負載,因此無法與已公布的 TPC-C™ 結果直接比較,因為其結果並不符合 TPC-C Benchmark Standard。TPC、TPC Benchmark 和 TPC-C 是 Transaction Processing Performance Council 的商標。初步效能預估是根據 AMD 截至 2026 年 7 月 22 日的工程推估或測量結果,相關數值有變動之可能。SPEC® 與 SPECint® 是 Standard Performance Evaluation Corporation 的註冊商標。更多詳情請參閱 spec.org。