客户仍有更新基础设施的需求
当前,计算技术领域正经历深刻变革。随着 AI 在企业市场的持续普及,其带来的影响已然凸显:组件供应短缺,以及价格上涨。鉴于内存与存储成本居高不下,客户正重新审视自身的 IT 与 AI 战略;根据预测,价格上涨趋势至少在 2027 年之前难以回落1,许多客户开始评估现在进行基础设施更新是否仍具可行性。
客户预算将在未来持续收紧,因此您大概率会听到这样的答复:“先搁置吧,我们再观望一段时间。”
但是,选择原地观望也要付出代价。
推迟更换老旧基础设施将带来多重风险:
- 运营成本居高不下
- 能效低下
- 维护费用攀升
- 无法支持现代 AI 工作负载
- 安全/合规风险
- 保修/技术服务到期
面对这些挑战,客户正期待像您这样的合作伙伴来提供专业指引。请根据下面提供的洞察见解,为客户的新硬件投资提供支持,助力其做出明智的采购决策。
落地方案:提供合适的指引
第 1 步:评估现有环境
长期以来,客户的普遍做法是为服务器超额配置内存,以便满足峰值需求,并为工作负载预留一定的弹性空间。简单来说,为便于按需迁移工作负载,客户会为大量服务器配置最高规格的资源,尽管只有少数应用真正需要这些资源。因此,许多 IT 环境是基于理论峰值需求,而非实际观测利用率来进行资源配置的。
如今,鉴于内存资源短缺且成本高昂,能够承受这种“奢侈”配置模式的企业正越来越少。现在,您应该把握机会与客户合作,对客户本地环境与云端环境开展评估,确定其实际使用的资源(CPU、GPU、内存),同时基于工作负载扩展或 AI 算力扩容趋势,生成数据驱动、贴合实际的资源需求预测。
AI 工作负载需要均衡的基础设施规划
在客户探索如何采用 AI 时,深刻理解新型工作负载对需求的潜在影响至关重要。在 AI 项目中,GPU 常常备受关注,但内存与 CPU 同样是保障高效部署和长期可扩展性的关键因素。
AI 工作负载往往会加重系统内存与存储基础设施的承载压力。为所有服务器统一超额配置内存资源,可能会导致成本过高;而内存配置不足则会造成性能瓶颈,进而限制利用率或降低工作负载处理性能。因此,这两种方案都不可取。
您需要与客户展开合作,确定需要扩展 AI 工作负载的场景、数据在环境中的流转路径,以及真正需要较大容量内存的业务系统。通过合理平衡 CPU、GPU、内存三方面的投入,既能帮助企业顺利实现 AI 落地应用,又不会造成不必要的成本上涨,也不会牺牲性能和响应速度。
第 2 步:识别非内存敏感型工作负载
对于某些工作负载,在满足基础内存需求后,额外增加内存容量所带来的性能提升效益通常会持续递减。对于 CPU 密集型、I/O 密集型或延迟敏感型工作负载,额外增加内存容量带来的性能提升十分有限(相对于投入的成本而言)。
您可以帮助客户探索更低内存容量的配置方案,在不对工作负载处理性能造成实质性影响的情况下削减不必要的支出。
第 3 步:合理调整内存配置
如今,内存资源紧缺,因此合理调整客户实际所需的内存容量至关重要。您应与客户携手合作,确定在哪些工作负载场景下内存投入能带来最高收益,在哪些工作负载场景下可以放心减少内存需求。
对于关键业务工作负载和高优先级工作负载,需要预留充足的缓冲区,以应对利用率达到峰值的情况或满足未来增长需求。对于内存需求较低的工作负载,可考虑选用小容量 DIMM 或预留空闲的内存插槽。AMD EPYC(霄龙)服务器 CPU 支持多种内存配置,包括空插槽配置。
AMD 可以助您一臂之力
在客户了解哪些地方可以优化内存利用率后,他们便可开始评估能够提升性能和能效的平台,例如基于 AMD EPYC(霄龙)服务器 CPU 的系统。
请提醒需要更新现有基础设施的客户,AMD EPYC(霄龙)服务器 CPU 能以较低内存提供强劲性能,是升级老旧硬件的出色选择。
例如,在 AMD EPYC(霄龙)9355P 服务器 CPU 上运行典型的计算密集型工作负载的特定测试中,内存容量缩减 50%,而性能仅下降 1%。2
计算密集型工作负载
NGINX、Memcached、FFMpeg、Python 的几何平均值
单路 32 核 AMD EPYC(霄龙)9355P
内存容量削减 50% ➜ 性能下降 1%
对于内存容量敏感型工作负载,可在内存资源受限的情况下灵活扩展;基于 AMD EPYC(霄龙)9655 CPU 的服务器在特定测试中即使在仅配备 75% 内存容量的情况下也能平稳运行,而且性能仅下降 6%。3
内存容量密集型工作负载
SQL Server OLAP
单路 96 核 AMD EPYC(霄龙)9655
内存容量削减 25% ➜ 性能下降 6%
内存容量削减 50% ➜ 性能下降 27%
基础设施现代化升级还有助于资源整合,提升虚拟化密度。通过缩减服务器数量、提升能效,客户在优化内存资源利用率的同时,还能削减软件许可成本、电力成本、散热成本以及运营成本。采购数量更少、性能更强的系统,意味着可降低 IT 预算中用于内存的支出占比。
在机房空间、电力、散热受限的情况下,通过优化基础设施能效,可帮助企业提升现有数据中心的承载能力,而无需立刻扩建数据中心。随着 AI 工作负载对基础设施的需求持续攀升,除原始性能外,运营层面的效率优化将变得愈发重要。
通过提供实用工具,助力客户取得成功
借助 AMD 提供的一系列工具,您能够为客户提供有力支持,帮助客户应对市场挑战。如需合理规划内存预算,可借助以下工具估算本地环境与云端环境的内存资源需求:
对于云端基础设施,请使用 AMD EPYC(霄龙)云实例咨询工具。
如需进行总体拥有成本 (TCO) 分析,请使用 AMD EPYC(霄龙)总体拥有成本咨询工具;借助这款基于 Web 的工具,您可以与客户共同分析多种总体拥有成本 (TCO) 估算方案,可根据当前内存价格进行估算,也可根据自定义内存价格进行估算。
AMD 将持续赋能合作伙伴及其客户,打造性能强劲的卓越基础设施。在充满挑战的市场周期内,AMD EPYC(霄龙)服务器 CPU 等硬件平台搭配上述工具,能够帮助企业兼顾性能、可扩展性与内存使用效率需求。
虽然内存价格上涨压力会继续影响基础设施规划,但推迟现代化升级会造成长期低效运营、成本持续攀升等问题。通过评估工作负载、合理规划内存投入以及挖掘资源整合空间,合作伙伴能够策略性地帮助客户完成现代化升级。
如需了解更多,请联系 AMD 代表。
AMD Arena
参与关于 AMD 产品的培训,深入了解 AMD AI 解决方案、AMD EPYC(霄龙)服务器 CPU、AMD Instinct GPU 及更多其他产品,有效精进专业能力。
订阅
接收月度更新,获取 AMD 新款产品、培训资源及“遇见专家”网络研讨会的新鲜资讯。
相关文章
附注
- Gartner,《Emerging Issue: Managing Memflation Through 2027》,Joseph Unsworth,2026 年 2 月 27 日
GARTNER 是 Gartner, Inc. 和/或其附属公司的商标。
- 9xx5-281:4 项特定非内存密集型工作负载的 Phoronix 测试结果的几何平均值,基于 2026 年 4 月 1 日完成的 Phoronix Test Suite 付费测试。
工作负载配置:Memcached - 写入读取比例:1:10(操作数/秒);nginx - 连接数:500(请求数/秒);FFmpeg 定时编译 - 编译耗时(秒);CPython 定时编译 - 构建配置:已发行版本,PGO + LTO 优化(秒)
单路 32 核 AMD EPYC(霄龙)9355P 生产级系统,BIOS 3.8、2 个 3841GB SAMSUNG MZWLO3T8HCLS-00A07、2 个 Broadcom NetXtreme BCM5720 PCIe、Ubuntu 26.04 6.19.0-9-generic (x86_64)、GCC 15.2.0、SMT=on;内存配置:12x64GB DDR5-6400 (6000MT/s)、6x64GB DDR5-6400 (6000MT/s) 工作负载 50% 内存 100% 内存 归一化相对值 (HIB) memcached 5581297.57 5601003.16 0.996 nginx 348480.18 347401.43 1.003
ffmpeg 22.912 22.679 0.99
python 203.185 202.906 0.999
几何平均值 0.997
- 9xx5-282:MySQL TPC-H 衍生工作负载 (SQL Server OLTP Brokerage) 估算结果基于截至 2026 年 4 月 1 日的 AMD 内部测量。MySQL TPC-H 工作负载是源自 TPC-Benchmark™ 标准的工作负载,与已发布的 TPC-H™ 结果没有可比性,因为这些结果不符合 TPC-H Benchmark 标准。
工作负载配置:MySQL 8.0.39,SF3000
单路 AMD EPYC(霄龙)9655 参考系统(共 96 个核心),Ubuntu 24.04.2 LTS (Linux 6.8.0-60-generic)、BIOS RVC100DB、SMT=on、Mitigations=off、Power Determinism;内存配置:12x128GB DDR5-6400(100% 容量)、12x96GB DDR5-6400(约 75% 容量)、
12x64GB DDR5-6400(约 50% 容量)
DIMM 分数 相对值
128 2065198.0 1.00
96 1949138.6 0.95
64 1500947.6 0.73
降低内存容量后的工作负载处理性能取决于工作负载自身特性与内存敏感程度。所展示的测试结果仅适用于测试的特定工作负载,不得套用于其他工作负载。影响这些特定结果的变量包括但不限于系统配置、软件版本和 BIOS 设置。TPC、TPC Benchmark 和 TPC-H 是 Transaction Processing Performance Council 的商标
- Gartner,《Emerging Issue: Managing Memflation Through 2027》,Joseph Unsworth,2026 年 2 月 27 日
GARTNER 是 Gartner, Inc. 和/或其附属公司的商标。 - 9xx5-281:4 项特定非内存密集型工作负载的 Phoronix 测试结果的几何平均值,基于 2026 年 4 月 1 日完成的 Phoronix Test Suite 付费测试。
- 9xx5-282:MySQL TPC-H 衍生工作负载 (SQL Server OLTP Brokerage) 估算结果基于截至 2026 年 4 月 1 日的 AMD 内部测量。MySQL TPC-H 工作负载是源自 TPC-Benchmark™ 标准的工作负载,与已发布的 TPC-H™ 结果没有可比性,因为这些结果不符合 TPC-H Benchmark 标准。
工作负载配置:Memcached - 写入读取比例:1:10(操作数/秒);nginx - 连接数:500(请求数/秒);FFmpeg 定时编译 - 编译耗时(秒);CPython 定时编译 - 构建配置:已发行版本,PGO + LTO 优化(秒)
单路 32 核 AMD EPYC(霄龙)9355P 生产级系统,BIOS 3.8、2 个 3841GB SAMSUNG MZWLO3T8HCLS-00A07、2 个 Broadcom NetXtreme BCM5720 PCIe、Ubuntu 26.04 6.19.0-9-generic (x86_64)、GCC 15.2.0、SMT=on;内存配置:12x64GB DDR5-6400 (6000MT/s)、6x64GB DDR5-6400 (6000MT/s) 工作负载 50% 内存 100% 内存 归一化相对值 (HIB) memcached 5581297.57 5601003.16 0.996 nginx 348480.18 347401.43 1.003
ffmpeg 22.912 22.679 0.99
python 203.185 202.906 0.999
几何平均值 0.997
工作负载配置:MySQL 8.0.39,SF3000
单路 AMD EPYC(霄龙)9655 参考系统(共 96 个核心),Ubuntu 24.04.2 LTS (Linux 6.8.0-60-generic)、BIOS RVC100DB、SMT=on、Mitigations=off、Power Determinism;内存配置:12x128GB DDR5-6400(100% 容量)、12x96GB DDR5-6400(约 75% 容量)、
12x64GB DDR5-6400(约 50% 容量)
DIMM 分数 相对值
128 2065198.0 1.00
96 1949138.6 0.95
64 1500947.6 0.73
降低内存容量后的工作负载处理性能取决于工作负载自身特性与内存敏感程度。所展示的测试结果仅适用于测试的特定工作负载,不得套用于其他工作负载。影响这些特定结果的变量包括但不限于系统配置、软件版本和 BIOS 设置。TPC、TPC Benchmark 和 TPC-H 是 Transaction Processing Performance Council 的商标