고객은 여전히 인프라 재구축을 원합니다
컴퓨팅 환경은 끊임없이 변화하며, AI 도입이 엔터프라이즈 시장 전반에서 지속됨에 따라, 이미 뚜렷하게 가격 상승과 부품 부족에 영향을 미치고 있습니다. 메모리 및 스토리지 비용 상승이 지속됨에 따라, 고객들은 IT 및 AI 전략을 재평가하고 있으며, 가격이 최소 2027년까지는 떨어지지 않을 것으로 예상되어,1 많은 기업이 인프라 교체가 과연 가능한지조차 검토하고 있습니다.
향후 고객 예산이 압박을 받음에 따라, 아마도 이미 현장에서 이런 답변을 듣고 계실 것입니다. “됐습니다, 저희는 그냥 상황이 나아질 때까지 기다려보겠습니다.”
하지만, 아무것도 하지 않는 데에도 비용이 듭니다.
레거시 인프라 교체를 지연하는 그 자체로 다음과 같은 위험이 따릅니다.
- 높은 운영 비용
- 낮은 에너지 효율성
- 상승하는 유지보수 비용
- 최신 AI 워크로드 지원 불가능
- 보안/규정준수 위험에 노출
- 보증/지원 만료
이 문제들을 접하면서, 고객은 귀사처럼 길잡이가 될 파트너를 기대합니다. 아래 인사이트를 사용하여 고객이 신규 하드웨어 투자를 진행하면서 현명한 구매 결정을 내릴 수 있도록 지원하세요.
진전 상황: 알맞은 가이던스 제공
1단계: 환경 점검하기
지금껏, 고객들이 필요성을 최대한 수용하고 워크로드에 유연성을 추가하기 위해 서버 메모리를 오버프로비저닝하는 것은 흔한 일이었습니다. 기본적으로, 고객들은 필요한 경우 워크로드를 재배치할 수 있도록 소수 애플리케이션에서만 필요한 다수 서버를 최대 자원으로 프로비저닝합니다. 그렇기에, 다수 환경이 실제 활용성보다는 이론상 최대 수요를 기준으로 프로비저닝됩니다.
메모리가 부족하고 비싸서, 이는 소수의 대기업만 감당할 수 있습니다. 이제 귀사의 고객들과 협력하여 워크로드나 AI 컴퓨팅 도입이 증가함에 따라 어떤 자원(CPU, GPU, 메모리)을 사용할지 판단하고 현실적인 데이터 중심의 필요성 평가를 위해 온프레미스 및 클라우드 환경을 점검할 시점입니다.
균형 잡힌 인프라 계획 수립을 요구하는 AI 워크로드
고객들이 AI 도입을 고려하면서, 새로운 워크로드가 요구 사항에 어떤 영향을 미칠 수 있는지 파악하는 것이 매우 중요합니다. AI 이니셔티브에서 주로 GPU가 가장 많은 주목을 받지만, 효율적인 배포와 장기적인 확장성을 위해서는 메모리 및 CPU가 필수적인 요소입니다.
AI 워크로드는 시스템 메모리와 스토리지 인프라에 대한 압박을 가중시킵니다. 모든 서버에 메모리를 오버프로비저닝하는 것은 비용 효율적이지 않을 수 있지만, 언더프로비저닝 역시 병목 현상을 유발해 리소스 활용도를 떨어뜨리거나 워크로드 성능을 저하시킬 수 있으므로 결코 바람직하지 않습니다.
고객과 협력하여 어디에 AI 워크로드 확장이 기대되는지, 어떻게 데이터가 그 환경에서 이동할지, 어느 시스템이 진정으로 더 높은 메모리 용량을 요구하는지를 파악하세요. 적절하게 균형 잡힌 CPU, GPU, 메모리 투자를 통해 기업은 불필요한 비용 증가나 성능 및 반응성 저하 없이 AI 도입을 지원할 수 있습니다.
2단계: 비메모리 민감형 워크로드 파악하기
기본 메모리 요구 사항이 충족된 후, 일부 워크로드는 추가 메모리로 인한 성능 향상이 점차 감소하는 경향이 있습니다 CPU 바운드, I/O 바운드 또는 지연에 민감한 워크로드의 경우, 메모리 용량 추가는 종종 비용 대비 제한된 성능 개선을 제공할 수 있습니다.
고객이 워크로드 성능에 중대하게 영향을 미치지 않고 불필요한 비용을 줄이는 더 낮은 메모리 구성을 살펴보도록 지원하세요.
3단계: 메모리 프로비저닝을 적정 규모로 조정하기
메모리 가격이 상승하여, 고객이 필요한 메모리 양을 올바르게 조정하는 것이 매우 중요해졌습니다. 고객과 협력하여 메모리 투자가 어느 부분에 가장 큰 가치를 제공하는지, 메모리 필요성을 어느 부분에서 안전하게 줄일 수 있는지 살펴보세요.
미션 크리티컬한 우선순위가 높은 워크로드는 활용성 급증이나 향후 성장에 대비하여 충분한 여유 용량(버퍼)을 확보해야 합니다. 메모리 요건이 비교적 낮은 워크로드의 경우, 용량이 비교적 작은 DIMM을 제공하거나 메모리 슬롯을 개방형으로 두는 것을 고려하세요(AMD EPYC™ 서버 CPU는 개방형 슬롯을 비롯한 다양한 메모리 구성을 지원합니다).
AMD의 지원
고객은 어디서 메모리 활용도를 최적화할 수 있는지 파악하고 나면, AMD EPYC 서버 CPU가 탑재된 시스템과 같이 더 강력한 성능 효율성을 제공하도록 설계된 플랫폼을 검토하기 시작할 수 있습니다.
기존 인프라 재구축을 기대하는 고객들에게 AMD EPYC 서버 CPU가 더 적은 메모리로 뛰어난 성능과 노화되는 하드웨어의 업그레이드 경로를 제공할 수 있다는 점을 상기시키는 것이 좋습니다. 경쟁사 레거시 하드웨어에서 최신 AMD EPYC 서버 CPU로 전환할 경우 TCO를 최대 29% 절감할 수 있으며, 시스템 및 소프트웨어에 대한 투자 비용을 평균 약 2.5년 안에 회수할 수 있습니다.2
예를 들면, 메모리 용량을 50% 줄인 AMD EPYC 9355P 서버 CPU에서 실행되는 대표적인 컴퓨팅 중심 워크로드는 단 1%의 성능 저하만 초래하였습니다.3
컴퓨팅 중심
NGINX, Memcached, FFMpeg, Python의 기하 평균
1P 32C AMD EPYC 9355P
50% 메모리 감소 ➜ -1% 성능
메모리 용량에 민감한 워크로드는 메모리 제약 환경에서도 유연하게 확장될 수 있으며, AMD EPYC 9655 CPU로 구동되는 서버는 메모리 용량의 75%만 사용하여 작동하면서도 성능 저하는 단 6%에 그칩니다.4
메모리 용량 중심
SQL 서버
OLAP1P 96C AMD EPYC 9655
25% 메모리 감소 ➜ -6% 성능
50% 메모리 감소 ➜ -27% 성능
인프라 현대화를 통해 통합 및 가상화 밀도 개선을 위한 기회도 생깁니다. 서버 수를 줄이고 효율성을 개선함으로써, 귀사의 고객들은 또한 소프트웨어 라이선싱, 전력, 냉각, 운영 비용을 줄이는 동시에 메모리 사용량을 최적화할 수 있습니다. 훨씬 적은 수의 고성능 시스템을 도입할 수 있다는 것은 메모리에 지출되는 IT 예산이 절감된다는 뜻입니다.
공간, 전력 또는 냉각 제약에 직면한 기업은 인프라 효율성 개선을 통해 즉각적인 확장 없이도 기존 데이터 센터 용량을 확대할 수 있습니다. AI 워크로드로 인해 인프라에 대한 요구사항이 계속해서 증가함에 따라, 운영 효율성은 하드웨어 본연의 성능만큼이나 더욱 중요해질 것입니다.
고객 성공을 위한 도구 제공
AMD는 귀사가 고객들이 도전적인 시장을 헤쳐 나가도록 지원하는 데 도움을 드릴 수 있는 다양한 도구를 제공합니다. 메모리 예산을 적정 규모로 조정하는 데 도움이 되도록, 다음과 같은 도구를 사용해 온프레미스 및 클라우드 환경의 메모리 요구 사항을 측정하세요.
클라우드 인프라를 위한 활용 도구: AMD EPYC™ Cloud Instance Advisor.
웹 기반 도구인 AMD EPYC™ TCO Advisory Tool을 사용해 TCO 분석을 실행하세요. 이를 통해 고객과 협력하여 현재에 기반한 여러 가지 TCO 시나리오뿐 아니라, 맞춤형 메모리 가격도 분석할 수 있습니다.
AMD는 계속해서 최고의 성능과 최적화된 인프라를 제공하면서, 파트너와 그 고객들을 지원할 것입니다. AMD EPYC 서버 CPU 같은 하드웨어 플랫폼과 위에서 언급한 도구들을 활용하면 변동성이 심한 시장에서 성능, 확장성, 메모리 효율성의 균형을 잡는 데 도움이 됩니다.
메모리 가격 압박이 계속해서 인프라 계획 수립에 영향을 미치고 있긴 하지만, 현대화를 지연하면 장기적으로 운영 비효율성을 초래하고 비용이 상승할 수 있습니다. 워크로드를 감사하고, 메모리 투자를 적정 규모로 조정하고, 통합 기회를 포착함으로써, 파트너는 고객이 전략적으로 현대화하는 데 도움을 줄 수 있습니다.
자세히 알아보려면, AMD 담당자와 상담하세요.
AMD Arena
AMD AI 솔루션, AMD EPYC™ 서버 CPU, AMD Instinct™ GPU 등 AMD 포트폴리오 전반에 걸친 교육을 통해 전문 지식을 쌓아보세요.
구독하기
최신 AMD 제품, 교육 리소스, 전문가와의 만남 웨비나에 대한 월간 소식을 받으세요.
관련 문서
각주
- Gartner, 대두되는 문제: 2027년까지 메모리 가격 급등 관리, Joseph Unsworth, 2026년 2월 27일
GARTNER는 Gartner, Inc. 및/또는 그 계열사의 상표입니다.
- 9xx5TCO-025 AMD 내부 조사 및 최대한 근접한 값에 기초했음에도 불구하고 이 시나리오에는 많은 가정 및 추산이 포함되어 있으며, 오직 정보 목적의 예시로 간주되어야 하고 실제 테스트에 우선하는 의사 결정의 기초로 사용되어선 안 됩니다. AMD 서버 및 온실가스 배출 TCO(총 소유 비용) 견적 툴 버전 1.56은 2026년 3월 12일 기준 약 44,600개 유닛의 SPECrate2017_int_base 총 성능(TOTAL_PERFORMANCE)을 제공하는 데 필요한 선별된 AMD EPYC™ 및 인텔® 제온® CPU 기반 서버 솔루션을 비교합니다. 이 분석은 SPECrate2017_int_base 점수가 1640인 2P AMD 64코어 EPYC 9535 기반 서버를 비교합니다.
https://spec.org/cpu2017/results/res2025q3/cpu2017-20250728-49231.pdf cSPECrate2017_int_base 점수가 446점인 기존 2P 인텔 골드 32코어 6338 기반 서버와 비교 시, https://spec.org/cpu2017/results/res2023q2/cpu2017-20230423-35994.pdf
게시된 EPYC 9535 SPEC 점수는 메모리 구성을 최대 수량인 64GB RDIMM 24개에서 64GB RDIMM 16개(또는 메모리 대역폭의 약 3/4 수준)로 축소했을 때의 성능 영향을 추정하도록 조정되었습니다. Derate 계산은 SPECrate®2017_int_base 벤치마크에서 수행된 내부 실험실 테스트를 기반으로 SPECrate®2017_int_base 예상 점수를 산출합니다.
메모리 대역폭 감소 시의 워크로드 성능은 워크로드 특성 및 메모리 민감도에 따라 달라집니다. 제시된 결과는 명시된 특정 워크로드에만 국한되며 다른 워크로드로 일반화해서는 안 됩니다.
https://www.carbondi.com/#electricity-factors/, https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator. 자세한 사항은 https://www.amd.com/ko/legal/claims/epyc.html#q=9xx5TCO-025를 참조하세요.
- 9xx5-281: 2026년 4월 1일 기준 Phoronix 테스트 제품군 유료 테스트를 기반으로 한 비메모리 중심 Phoronix 워크로드 결과 4건의 기하 평균.
워크로드 구성: Memcached - Set To Get 비율: 1:10(Ops/초), nginx - 연결: 500(요청 수/초), 시간 지정 FFmpeg 컴파일 - 컴파일 시간(초), 시간 지정 CPython 컴파일 - 빌드 구성: 릴리즈 빌드, PGO + LTO 최적화(초)
1P 32C AMD EPYC 9355P 기반 프로덕션 시스템, BIOS 3.8, 3841GB Samsung MZWLO3T8HCLS-00A07 2개, Broadcom NetXtreme BCM5720 PCIe 2개, Ubuntu 26.04 6.19.0-9-generic(x86_64), GCC 15.2.0, SMT=ON, 메모리 구성: 12x64GB DDR5-6400(6000MT/s), 6x64GB DDR5-6400(6000MT/s) 워크로드 50% 메모리 100% 메모리 상대 정규화(HIB) memcached 5581297.57 5601003.16 0.996 nginx 348480.18 347401.43 1.003
ffmpeg 22.912 22.679 0.99
python 203.185 202.906 0.999
기하 평균 0.997
- 9xx5-282: MySQL TPC-H 파생 워크로드(SQL Server OLTP Brokerage) 추정치는 2026년 4월 1일 기준 내부 AMD 측정을 기준으로 합니다. MySQL TPC-H 워크로드는 TPC-H 벤치마크™ 표준에서 파생되었으며, 결과가 TPC-H 벤치마크 표준을 준수하지 않기 때문에 공개된 TPC-H™ 결과와 비교할 수 없습니다.
워크로드 구성: MySQL 8.0.39, SF3000
1P AMD EPYC 9655 기반 참조 시스템(총 96개 코어), Ubuntu 24.04.2 LTS(Linux 6.8.0-60-generic), BIOS RVC100DB, SMT=on, Mitigations=off, Power Determinism, 메모리 구성: 12x128GB DDR5-6400(100% 용량), 12x96GB DDR5-6400(약 75% 용량),
12x64GB DDR5-6400(약 50% 용량)
DIMM 상대 점수
128 2065198.0 1.00
96 1949138.6 0.95
64 1500947.6 0.73
절감된 메모리 용량의 워크로드 성능은 워크로드 특성 및 메모리 민감도에 따라 달라집니다. 표시된 결과는 테스트된 특정 워크로드로 제한되며 다른 워크로드로 일반화해서는 안 됩니다. 이와 같이 특정 결과에 영향을 미치는 변수로는 시스템 구성, 소프트웨어 버전, BIOS 설정이 있으며 이에 국한되지 않습니다. TPC, TPC Benchmark 및 TPC-H는 Transaction Processing Performance Council의 상표입니다.
- Gartner, 대두되는 문제: 2027년까지 메모리 가격 급등 관리, Joseph Unsworth, 2026년 2월 27일
GARTNER는 Gartner, Inc. 및/또는 그 계열사의 상표입니다. - 9xx5TCO-025 AMD 내부 조사 및 최대한 근접한 값에 기초했음에도 불구하고 이 시나리오에는 많은 가정 및 추산이 포함되어 있으며, 오직 정보 목적의 예시로 간주되어야 하고 실제 테스트에 우선하는 의사 결정의 기초로 사용되어선 안 됩니다. AMD 서버 및 온실가스 배출 TCO(총 소유 비용) 견적 툴 버전 1.56은 2026년 3월 12일 기준 약 44,600개 유닛의 SPECrate2017_int_base 총 성능(TOTAL_PERFORMANCE)을 제공하는 데 필요한 선별된 AMD EPYC™ 및 인텔® 제온® CPU 기반 서버 솔루션을 비교합니다. 이 분석은 SPECrate2017_int_base 점수가 1640인 2P AMD 64코어 EPYC 9535 기반 서버를 비교합니다.
- 9xx5-281: 2026년 4월 1일 기준 Phoronix 테스트 제품군 유료 테스트를 기반으로 한 비메모리 중심 Phoronix 워크로드 결과 4건의 기하 평균.
- 9xx5-282: MySQL TPC-H 파생 워크로드(SQL Server OLTP Brokerage) 추정치는 2026년 4월 1일 기준 내부 AMD 측정을 기준으로 합니다. MySQL TPC-H 워크로드는 TPC-H 벤치마크™ 표준에서 파생되었으며, 결과가 TPC-H 벤치마크 표준을 준수하지 않기 때문에 공개된 TPC-H™ 결과와 비교할 수 없습니다.
https://spec.org/cpu2017/results/res2025q3/cpu2017-20250728-49231.pdf cSPECrate2017_int_base 점수가 446점인 기존 2P 인텔 골드 32코어 6338 기반 서버와 비교 시, https://spec.org/cpu2017/results/res2023q2/cpu2017-20230423-35994.pdf
게시된 EPYC 9535 SPEC 점수는 메모리 구성을 최대 수량인 64GB RDIMM 24개에서 64GB RDIMM 16개(또는 메모리 대역폭의 약 3/4 수준)로 축소했을 때의 성능 영향을 추정하도록 조정되었습니다. Derate 계산은 SPECrate®2017_int_base 벤치마크에서 수행된 내부 실험실 테스트를 기반으로 SPECrate®2017_int_base 예상 점수를 산출합니다.
메모리 대역폭 감소 시의 워크로드 성능은 워크로드 특성 및 메모리 민감도에 따라 달라집니다. 제시된 결과는 명시된 특정 워크로드에만 국한되며 다른 워크로드로 일반화해서는 안 됩니다.
https://www.carbondi.com/#electricity-factors/, https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator. 자세한 사항은 https://www.amd.com/ko/legal/claims/epyc.html#q=9xx5TCO-025를 참조하세요.
워크로드 구성: Memcached - Set To Get 비율: 1:10(Ops/초), nginx - 연결: 500(요청 수/초), 시간 지정 FFmpeg 컴파일 - 컴파일 시간(초), 시간 지정 CPython 컴파일 - 빌드 구성: 릴리즈 빌드, PGO + LTO 최적화(초)
1P 32C AMD EPYC 9355P 기반 프로덕션 시스템, BIOS 3.8, 3841GB Samsung MZWLO3T8HCLS-00A07 2개, Broadcom NetXtreme BCM5720 PCIe 2개, Ubuntu 26.04 6.19.0-9-generic(x86_64), GCC 15.2.0, SMT=ON, 메모리 구성: 12x64GB DDR5-6400(6000MT/s), 6x64GB DDR5-6400(6000MT/s) 워크로드 50% 메모리 100% 메모리 상대 정규화(HIB) memcached 5581297.57 5601003.16 0.996 nginx 348480.18 347401.43 1.003
ffmpeg 22.912 22.679 0.99
python 203.185 202.906 0.999
기하 평균 0.997
워크로드 구성: MySQL 8.0.39, SF3000
1P AMD EPYC 9655 기반 참조 시스템(총 96개 코어), Ubuntu 24.04.2 LTS(Linux 6.8.0-60-generic), BIOS RVC100DB, SMT=on, Mitigations=off, Power Determinism, 메모리 구성: 12x128GB DDR5-6400(100% 용량), 12x96GB DDR5-6400(약 75% 용량),
12x64GB DDR5-6400(약 50% 용량)
DIMM 상대 점수
128 2065198.0 1.00
96 1949138.6 0.95
64 1500947.6 0.73
절감된 메모리 용량의 워크로드 성능은 워크로드 특성 및 메모리 민감도에 따라 달라집니다. 표시된 결과는 테스트된 특정 워크로드로 제한되며 다른 워크로드로 일반화해서는 안 됩니다. 이와 같이 특정 결과에 영향을 미치는 변수로는 시스템 구성, 소프트웨어 버전, BIOS 설정이 있으며 이에 국한되지 않습니다. TPC, TPC Benchmark 및 TPC-H는 Transaction Processing Performance Council의 상표입니다.