第 5 世代 AMD EPYC サーバー向け CPU のご紹介
データセンター、クラウド、AI のワークロードを高速化するために設計された AMD EPYC 9005 サーバー向け CPU は、企業向けコンピューティング性能を新たなレベルへと押し上げます。
AI 向けの最高水準の CPU1
AMD EPYC™ 9005 サーバー向け CPU は、エンドツーエンドの AI 性能を提供します。
サーバー単位のパフォーマンスを最大化
AMD EPYC™ 9005 CPU は、ラック数を最大 88% 削減しながら2、レガシ ハードウェアの整数演算性能に匹敵するパフォーマンスを発揮します。これにより、物理的なフットプリント、消費電力、必要なソフトウェア ライセンス数を大幅に削減でき、新規または拡張した AI ワークロード向けのスペースを確保できます。
優れた AI 推論パフォーマンス
AMD EPYC™ 9005 CPU を搭載した CPU 専用サーバーは、130 億パラメーター以下の言語モデル、画像や不正の解析、レコメンデーション システムなど、多くの AI ワークロードを効率的に実行します。第 5 世代 AMD EPYC 9965 CPU を 2 基搭載したサーバーは、前世代の製品と比較して、最大 2 倍の推論スループットを実現します。3
GPU アクセラレーションの最大化
AMD EPYC™ 9005 ファミリには、GPU 対応システムのホスト CPU として最適化されたオプションが含まれており、特定の AI ワークロードのパフォーマンスを向上させ、各 GPU サーバーの ROI を改善します。たとえば、8 つのモデルと 4 つのユース ケースにおける GeoMean 推論パフォーマンス テストの場合、8 基の GPU と高周波数 AMD EPYC 9575F CPU を搭載したサーバーは、同等の 8 GPU と Intel Xeon 6960P CPU を搭載したサーバーに比べて、最初のトークンまでの所要時間が最大 13% 短縮され、全体的な推論スループットも 6.6% 向上します。4、5、6
第 5 世代 AMD EPYC プロセッサがデータセンター全体で AI の効率性とパフォーマンスを向上させる方法をご紹介します。データセンターのスペースと電力の確保から、CPU での直接的な推論の実行、GPU パフォーマンスの向上まで、AMD EPYC プロセッサはエンタープライズ AI を新次元に導きます
最適化されたエンタープライズ パフォーマンス
AMD EPYC 9005 サーバー向け CPU は、卓越したパフォーマンスを発揮しながら、業界をリードする電力効率と保有コスト (TCO) を維持し、ビジネス上の急務で役立ちます。
業界をリードする整数演算性能
AMD EPYC 9005 CPU 搭載サーバーは、新しい "Zen 5" コアを活用し、強力なメインストリーム向けパフォーマンスを提供します。競合他社の主要製品と比べて、整数演算性能は 2.3 倍に達します。7
クラウド対応設計
AMD EPYC™ 9005 サーバー向け CPU は、クラウド ワークロードに適した高い集積度と性能を提供します。192 コアの最上位モデル、AMD EPYC 9965 プロセッサは、現行の最上位モデルである Intel® Xeon 6E "Sierra Forest" 144 コア プロセッサ (1 コアあたり 1vCPU) より、仮想 CPU (vCPU) を 33% 多くサポートできます。
卓越した効率性と TCO
今日のデータセンターは、過去に例を見ないほど多くの電力を必要としています。AMD EPYC™ 9005 サーバー向け CPU は、これまでの AMD EPYC 世代と同様に、電力効率と TCO の両面でのメリットを提供し続けます。
卓越したパフォーマンス、集積度、効率性
AMD EPYC 9005 シリーズ サーバー向け CPU は、最大 192 個の "Zen 5" または "Zen 5c" コアを搭載し、卓越したメモリ帯域幅と容量を備えています。 革新的な AMD チップレット アーキテクチャは、さまざまなコンピューティング ニーズに最適化された高性能で電力効率に優れたソリューションを実現します。
"Zen 5"
"Zen 5c"
幅広いエコシステムをサポートし、業界リーダーから絶大な信頼を獲得
AMD は、AMD EPYC™ 9005 サーバー向け CPU を取り扱う幅広いネットワークのソリューション プロバイダーと協力しています。世界中の企業や行政機関が、最も重要なワークロードに AMD を選択しています。
モデル仕様
リソース
脚注
- 9xx-151: TPCxAI @SF30 マルチインスタンス 32 コア インスタンス サイズのスループット結果は、複数の VM インスタンスを実行した場合の 2025 年 4 月 1 日時点の AMD 社内テストに基づくものです。集約エンドツーエンド AI スループット試験は、TPCx-AI ベンチマークから派生したものであるため、公開されている TPCx-AI の結果とは比較できません。エンドツーエンド AI スループット試験結果は TPCx-AI 仕様を順守していないためです。2P AMD EPYC 9965 (合計 6067.53 AIUCpm、合計 384 コア、500W TDP、AMD リファレンス システム、1.5 TB 24x64 GB DDR5-6400、2x40 GbE Mellanox CX-7 (MT2910)、3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe、Ubuntu® 24.04 LTS カーネル 6.13、SMT=ON、Determinism=Power、Mitigations=On)。2P AMD EPYC 9755 (合計 4073.42 AIUCpm、合計 256 コア、500W TDP、AMD リファレンス システム、1.5 TB 24x64 GB DDR5-6400、2x40 GbE Mellanox CX-7 (MT2910)、3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe、Ubuntu 24.04 LTS カーネル 6.13、SMT=ON、Determinism=Power、Mitigations=On)。2P Intel Xeon 6980P (合計 3550.50 AIUCpm、合計 256 コア、500W TDP、プロダクション システム、1.5 TB 24x64 GB DDR5-6400、4x1 GbE Broadcom NetXtreme BCM5719 ギガビット イーサネット PCIe、3.84 TB SAMSUNG MZWLO3T8HCLS-00A07 NVMe、Ubuntu 24.04 LTS カーネル 6.13、SMT=ON、Performance Bias、Mitigations=On)。実際の結果は、システム構成、ソフトウェア バージョン、BIOS 設定などの要因によって異なる場合があります。TPC、TPC Benchmark、および TPC-H は、Transaction Processing Performance Council の商標です。
- 9xx5TCO-018: このシナリオには多くの仮定と推定が含まれており、AMD の内部調査と最良近似に基づいています。このシナリオ中に示される数値は、情報提供のみを目的とした例であり、実際のテストに対する意思決定の基礎としては使用しないでください。AMD サーバーと温室効果ガス排出量 TCO (総所有コスト) 評価ツール (バージョン 1.53) では、2025 年 12 月 3 日時点において、SPECrate2017_int_base で 391,000 ユニットの TOTAL_PERFORMANCE を実現するために必要となる特定の AMD EPYC™ と Intel® Xeon® CPU ベースのサーバー ソリューションを比較しています。この分析での比較対象は、SPECrate2017_int_base スコアが 3230 の、2P 構成、192 コアの AMD EPYC_9965 搭載サーバー (https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf) と
SPECrate2017_int_base スコアが 2510 の、2P 構成、128 コアの Intel Xeon_6980P 搭載サーバー (https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf) です。さらに、SPECrate2017_int_base スコアが 391 の、旧世代の 2P 構成、28 コアの Intel Xeon Platinum_8280 ベースのサーバー (https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf) とも比較しています。
2025 年の「International Country Specific Electricity Factors」のデータを活用した環境影響の推定値は、https://www.carbondi.com/#electricity-factors/ で確認できます。また、本分析で使用した「US EPA Greenhouse Gas Equivalencies Calculator」は 2024 年 9 月 4 日に取得したもので、https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator で参照できます。
その他の詳細については、https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018 をご覧ください。
- 9xx5-040A: XGBoost (実行/時) のスループットは、2024 年 9 月 5 日時点の AMD 社内テストに基づきます。XGBoost 構成: v2.2.1、Higgs データ セット、32 コア インスタンス、FP32 2P AMD EPYC 9965 (合計 384 コア)、12 x 32 コア インスタンス、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu® 22.04.4 LTS、6.8.0-45-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198078840、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT1000C (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9755 (合計 256 コア)、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1DPC、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198094956、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT0090F (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9654 (合計 192 コア)、1.5 TB 24x64 GB DDR5-4800、1DPC、2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198120988、ulimit -n 1024、ulimit -s 8192)、BIOS TTI100BA (SMT=off、Determinism=Power)、NPS=1 に対し、2P Xeon Platinum 8592+ (合計 128 コア)、AMX On、1 TB 16x64 GB DDR5-5600、1DPC、1.0 Gbps NetXtreme BCM5719 PCIe ギガビット イーサネット、3.84 TB KIOXIA KCMYXRUG3T84 NVMe®、Ubuntu 22.04.4 LTS、6.5.0-35 generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 132065548、ulimit -n 1024、ulimit -s 8192)、BIOS ESE122V (SMT=off、Determinism=Power、Turbo Boost = Enabled) を比較。結果: CPU Run 1、Run 2、Run 3 相対スループット中央値 (世代間) 2P Turin 192C、NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C、NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C、NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA。システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により、結果は異なる場合があります。
- 9xx5-258: GPU 推論スループットの結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における 1 秒あたりのトークン数。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.5、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 1.053、NIM gpt-oss-120b: 1.133、NIM qwen2_5-coder-32b-instruct: 1.034、VLLM Vllm_Deepseek_V3(R1): 1.036、VLLM Vllm_Llama4_scout: 1.049、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.073、NIM Multi-instance llama3.1-8b-instruct: 1.144、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.014、Overall Geomean: 1.066、Best Result: 1.144。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-259: GPU 推論レイテンシ (最初のトークンまでの所要時間) の結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における秒単位の結果。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.5、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 0.996、NIM gpt-oss-120b: 1.22、NIM qwen2_5-coder-32b-instruct: 1.062、VLLM Vllm_Deepseek_V3(R1): 1.059、VLLM Vllm_Llama4_scout: 1.246、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.164、NIM Multi-instance llama3.1-8b-instruct: 1.355、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.012、Overall Geomean: 1.133、Best Result: 1.355。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-260: GPU 推論トークン遅延 (出力トークンあたりの時間) の結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における秒単位の結果。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 1.053、NIM gpt-oss-120b: 1.128、NIM qwen2_5-coder-32b-instruct: 1.019、VLLM Vllm_Deepseek_V3(R1): 1.025、VLLM Vllm_Llama4_scout: 1.025、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.062、NIM Multi-instance llama3.1-8b-instruct: 1.102、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.033、Overall Geomean: 1.055、Best Result: 1.128。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-002F: SPECrate®2017_int_base の比較は、www.spec.org に掲載された 2025 年 12 月 11 日時点のスコアに基づいています。
2P AMD EPYC 9654、96C、360W、$8452 USD、1830、5.083、0.217、https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754、128C、360W、$10631 USD、1950、5.417、0.183、https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755、128C、500W、$10931 USD、2850、5.70、0.261、https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965、192C、500W、$11988 USD、3230、6.460、0.269、https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E、144C、330W、$8513 USD、1420、4.303、0.167、https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P、128C、500W、$12460 USD、2510、5.020、0.201、https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+、64C、350W、$11600 USD、1130、3.229、0.097、https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®、SPEC CPU®、および SPECrate® は、Standard Performance Evaluation Corporation の登録商標です。詳細については、www.spec.org をご覧ください。AMD CPU の価格は 2025 年 12 月 11 日現在のものです。Intel CPU の W 値および価格は、2025 年 12 月 11 日現在の https://ark.intel.com/ に記載されています。
脚注
- 9xx-151: TPCxAI @SF30 マルチインスタンス 32 コア インスタンス サイズのスループット結果は、複数の VM インスタンスを実行した場合の 2025 年 4 月 1 日時点の AMD 社内テストに基づくものです。集約エンドツーエンド AI スループット試験は、TPCx-AI ベンチマークから派生したものであるため、公開されている TPCx-AI の結果とは比較できません。エンドツーエンド AI スループット試験結果は TPCx-AI 仕様を順守していないためです。2P AMD EPYC 9965 (合計 6067.53 AIUCpm、合計 384 コア、500W TDP、AMD リファレンス システム、1.5 TB 24x64 GB DDR5-6400、2x40 GbE Mellanox CX-7 (MT2910)、3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe、Ubuntu® 24.04 LTS カーネル 6.13、SMT=ON、Determinism=Power、Mitigations=On)。2P AMD EPYC 9755 (合計 4073.42 AIUCpm、合計 256 コア、500W TDP、AMD リファレンス システム、1.5 TB 24x64 GB DDR5-6400、2x40 GbE Mellanox CX-7 (MT2910)、3.84 TB Samsung MZWLO3T8HCLS-00A07 NVMe、Ubuntu 24.04 LTS カーネル 6.13、SMT=ON、Determinism=Power、Mitigations=On)。2P Intel Xeon 6980P (合計 3550.50 AIUCpm、合計 256 コア、500W TDP、プロダクション システム、1.5 TB 24x64 GB DDR5-6400、4x1 GbE Broadcom NetXtreme BCM5719 ギガビット イーサネット PCIe、3.84 TB SAMSUNG MZWLO3T8HCLS-00A07 NVMe、Ubuntu 24.04 LTS カーネル 6.13、SMT=ON、Performance Bias、Mitigations=On)。実際の結果は、システム構成、ソフトウェア バージョン、BIOS 設定などの要因によって異なる場合があります。TPC、TPC Benchmark、および TPC-H は、Transaction Processing Performance Council の商標です。
- 9xx5TCO-018: このシナリオには多くの仮定と推定が含まれており、AMD の内部調査と最良近似に基づいています。このシナリオ中に示される数値は、情報提供のみを目的とした例であり、実際のテストに対する意思決定の基礎としては使用しないでください。AMD サーバーと温室効果ガス排出量 TCO (総所有コスト) 評価ツール (バージョン 1.53) では、2025 年 12 月 3 日時点において、SPECrate2017_int_base で 391,000 ユニットの TOTAL_PERFORMANCE を実現するために必要となる特定の AMD EPYC™ と Intel® Xeon® CPU ベースのサーバー ソリューションを比較しています。この分析での比較対象は、SPECrate2017_int_base スコアが 3230 の、2P 構成、192 コアの AMD EPYC_9965 搭載サーバー (https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.pdf) と
SPECrate2017_int_base スコアが 2510 の、2P 構成、128 コアの Intel Xeon_6980P 搭載サーバー (https://spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.pdf) です。さらに、SPECrate2017_int_base スコアが 391 の、旧世代の 2P 構成、28 コアの Intel Xeon Platinum_8280 ベースのサーバー (https://spec.org/cpu2017/results/res2020q3/cpu2017-20200915-23984.pdf) とも比較しています。
2025 年の「International Country Specific Electricity Factors」のデータを活用した環境影響の推定値は、https://www.carbondi.com/#electricity-factors/ で確認できます。また、本分析で使用した「US EPA Greenhouse Gas Equivalencies Calculator」は 2024 年 9 月 4 日に取得したもので、https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator で参照できます。
その他の詳細については、https://www.amd.com/en/legal/claims/epyc.html#q=9xx5TCO-018 をご覧ください。 - 9xx5-040A: XGBoost (実行/時) のスループットは、2024 年 9 月 5 日時点の AMD 社内テストに基づきます。XGBoost 構成: v2.2.1、Higgs データ セット、32 コア インスタンス、FP32 2P AMD EPYC 9965 (合計 384 コア)、12 x 32 コア インスタンス、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu® 22.04.4 LTS、6.8.0-45-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198078840、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT1000C (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9755 (合計 256 コア)、1.5 TB 24x64 GB DDR5-6400 (6000 MT/秒時)、1DPC、1.0 Gbps NetXtreme BCM5720 PCIe ギガビット イーサネット、3.5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198094956、ulimit -n 1024、ulimit -s 8192)、BIOS RVOT0090F (SMT=off、Determinism=Power、Turbo Boost=Enabled)、NPS=1 2P AMD EPYC 9654 (合計 192 コア)、1.5 TB 24x64 GB DDR5-4800、1DPC、2 x 1.92 TB Samsung MZQL21T9HCJR-00A07 NVMe®、Ubuntu 22.04.4 LTS、6.8.0-40-generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 198120988、ulimit -n 1024、ulimit -s 8192)、BIOS TTI100BA (SMT=off、Determinism=Power)、NPS=1 に対し、2P Xeon Platinum 8592+ (合計 128 コア)、AMX On、1 TB 16x64 GB DDR5-5600、1DPC、1.0 Gbps NetXtreme BCM5719 PCIe ギガビット イーサネット、3.84 TB KIOXIA KCMYXRUG3T84 NVMe®、Ubuntu 22.04.4 LTS、6.5.0-35 generic (tuned-adm プロファイル スループットパフォーマンス、ulimit -l 132065548、ulimit -n 1024、ulimit -s 8192)、BIOS ESE122V (SMT=off、Determinism=Power、Turbo Boost = Enabled) を比較。結果: CPU Run 1、Run 2、Run 3 相対スループット中央値 (世代間) 2P Turin 192C、NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41 2P Turin 128C、NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725 2P Genoa 96C、NPS1 662.577 644.776 640.95 644.776 1.245 1 2P EMR 64C 517.986 421.053 553.846 517.986 1 NA。システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により、結果は異なる場合があります。
- 9xx5-258: GPU 推論スループットの結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における 1 秒あたりのトークン数。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.5、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 1.053、NIM gpt-oss-120b: 1.133、NIM qwen2_5-coder-32b-instruct: 1.034、VLLM Vllm_Deepseek_V3(R1): 1.036、VLLM Vllm_Llama4_scout: 1.049、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.073、NIM Multi-instance llama3.1-8b-instruct: 1.144、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.014、Overall Geomean: 1.066、Best Result: 1.144。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-259: GPU 推論レイテンシ (最初のトークンまでの所要時間) の結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における秒単位の結果。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.5、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 0.996、NIM gpt-oss-120b: 1.22、NIM qwen2_5-coder-32b-instruct: 1.062、VLLM Vllm_Deepseek_V3(R1): 1.059、VLLM Vllm_Llama4_scout: 1.246、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.164、NIM Multi-instance llama3.1-8b-instruct: 1.355、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.012、Overall Geomean: 1.133、Best Result: 1.355。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-260: GPU 推論トークン遅延 (出力トークンあたりの時間) の結果は、2025 年 10 月 24 日時点の AMD 社内テストに基づきます。ワークロード構成: vLLM バージョン、NIM バージョン、入力/出力トークン: 128/128、1024/128、128/1024、1024/1024 の構成における秒単位の結果。2P AMD EPYC 9575F (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。2P Intel Xeon 6960P (合計 128 コア) 本番システム、NVIDIA B200 GPU x 8、24 x 64 GB DDR5-6400、SAMSUNG MZWLO3T8HCLS-00A07 3.84 TB NVMe、Ubuntu 24.04 (6.8.0-85-generic)、BIOS 1.2、SMT OFF、Mitigations OFF、Power Determinism、CUDA 13.0、NPS1。結果: フレームワーク別モデル相対値: NIM、llama3.3-70b-instruct: 1.053、NIM gpt-oss-120b: 1.128、NIM qwen2_5-coder-32b-instruct: 1.019、VLLM Vllm_Deepseek_V3(R1): 1.025、VLLM Vllm_Llama4_scout: 1.025、VLLM Vllm_Qwen2.5-VL-72B-Instruct: 1.062、NIM Multi-instance llama3.1-8b-instruct: 1.102、NIM Multi-instance qwen2_5-coder-32b-instruct: 1.033、Overall Geomean: 1.055、Best Result: 1.128。実際の結果は、システム構成、ソフトウェアのバージョン、BIOS 設定などの要因により異なる場合があります。
- 9xx5-002F: SPECrate®2017_int_base の比較は、www.spec.org に掲載された 2025 年 12 月 11 日時点のスコアに基づいています。
2P AMD EPYC 9654、96C、360W、$8452 USD、1830、5.083、0.217、https://www.spec.org/cpu2017/results/res2025q3/cpu2017-20250727-49206.html
2P AMD EPYC 9754、128C、360W、$10631 USD、1950、5.417、0.183、https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html
2P AMD EPYC 9755、128C、500W、$10931 USD、2850、5.70、0.261、https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20250928-49776.html
2P AMD EPYC 9965、192C、500W、$11988 USD、3230、6.460、0.269、https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47086.html
2P Intel Xeon 6780E、144C、330W、$8513 USD、1420、4.303、0.167、https://www.spec.org/cpu2017/results/res2025q4/cpu2017-20251020-50067.html
2P Intel Xeon 6980P、128C、500W、$12460 USD、2510、5.020、0.201、https://www.spec.org/cpu2017/results/res2025q2/cpu2017-20250324-47099.html
2P Intel Xeon Platinum 8592+、64C、350W、$11600 USD、1130、3.229、0.097、https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html
SPEC®、SPEC CPU®、および SPECrate® は、Standard Performance Evaluation Corporation の登録商標です。詳細については、www.spec.org をご覧ください。AMD CPU の価格は 2025 年 12 月 11 日現在のものです。Intel CPU の W 値および価格は、2025 年 12 月 11 日現在の https://ark.intel.com/ に記載されています。