AMD Helios™ 랙스케일 플랫폼

AI 인프라, 시스템 수준의 과제

생성형 AI와 에이전틱 AI의 성장으로 인해 비즈니스 인프라 전반의 수요가 증가하고 있습니다. 이제 추론은 AI 워크로드에서 가장 중요한 부분을 차지하며, 학습은 꾸준히 확장되고 있고, 에이전틱 AI는 추론, 오케스트레이션, 데이터 이동 전반에 걸쳐 컴퓨팅을 놀라운 수준으로 이끌고 있습니다. 가속기 성능이 중요하기는 하지만 이러한 워크로드가 의존하는 것은 가속기 성능만이 아닙니다.

CPU는 워크로드를 오케스트레이션해야 하고, 네트워킹은 데이터를 끊임없이 이동시켜야 하며, 소프트웨어는 활용성을 유지해야 하고, 물리적 랙 자체는 전력과 냉각부터 대규모 가용성과 유지보수성에 이르기까지 모든 것을 지원해야 합니다.

고객의 배포가 증가함에 따라 이제는 개별 GPU만 단독적으로 평가하는 것이 아니라 시스템 전체의 출력과 효율성을 평가합니다. 고객이 점점 멀티 에이전트 워크플로에 집중하게 되면서 이러한 요구사항은 계속 늘어나고 있는데, 이는 상호 연결된 모델, 애플리케이션, 도구, 데이터가 모두 함께 원활하게 작동해야 하기 때문입니다.

고객이 AI 인프라를 확장할 때 구성요소별로 파편화된 설계는 통합, 네트워킹, 운영을 더욱 복잡하게 만들 수 있습니다. AMD Helios™ 랙스케일 플랫폼을 사용하면 컴퓨팅, 메모리, 네트워킹, 소프트웨어, 전력, 냉각, 보안, 유지보수성을 모두 하나의 공동 설계된 랙스케일 플랫폼에 모아 이러한 문제를 처리할 수 있습니다.

하이퍼스케일 및 소버린 AI를 위한 맞춤형 플랫폼

AMD Helios 랙스케일 플랫폼은 대량 추론, 프런티어 모델 학습, 미세 조정, 소버린 AI와 에이전틱 AI에 알맞게 구축되고 완전히 통합되어 있습니다. AMD Instinct™ GPU와 AMD EPYC™ 서버 CPU, AMD Pensando™ NIC 및 DPU, AMD ROCm™ 소프트웨어, Meta Open Rack 전반의 표준에 부합하는 개방형 랙 아키텍처의 힘을 결합한 AMD Helios 랙스케일 플랫폼은 AI 인프라를 시작하거나 업그레이드하려는 고객에게 올인원 솔루션을 제공합니다.

GPU를 활용하는 단순한 랙을 넘어, 업계를 선도하는 컴퓨팅을 위해 구축된 완벽한 청사진¹이며, 이를 통해 고객은 하이퍼스케일 설계를 배포 가능한 프로덕션 플랫폼으로 바꿀 수 있습니다.

파트너는 고객과 AI 요구사항에 최적화된 솔루션을 구성하지 않아도 AMD가 제공하는 최고의 기술을 통합하는 AMD Helios 랙스케일 플랫폼을 통해 하이퍼스케일, AI 클라우드/NeoCloud, 소버린 AI, 대형 엔터프라이즈 AI 인프라 배포 전반에 걸쳐 대용량 추론, 프런티어 모델 학습, 미세 조정, 에이전틱 AI에 최적화된 응집력 있는 시스템을 만들어 낼 수 있습니다.

AMD Helios 랙스케일 플랫폼의 구성요소

AMD Helios 랙스케일 플랫폼은 가속화된 컴퓨팅과 워크로드 오케스트레이션부터 데이터 이동, 인프라 오프로드, 물리적 유지보수성에 이르기까지, 서버 인프라의 다양한 과제를 해결하는 여러 핵심 AMD 구성요소를 한데 모아줍니다.

AMD Helios 랙스케일 플랫폼의 가치는 한 가지 구성요소에서 비롯되지 않습니다. 이와 같은 각각의 기술을 활용하고, AMD ROCm 소프트웨어의 지원을 받아 하나의 조율된 시스템으로 작동하도록 설계한 덕분에 고객은 필요에 맞춰 확장할 수 있는 놀라운 AI 성능을 손쉽게 누릴 수 있습니다.

AMD Instinct™ MI455X GPU

AI 인프라를 대규모로 구축하는 고객에게 AMD Helios 랙스케일 플랫폼의 가치는 이 플랫폼이 완전하고 반복 가능한 시스템이라는 데서 비롯됩니다. 72개의 AMD Instinct™ MI455X GPU가 최대 2.9 exaFLOPS FP4 또는 1.4 exaFLOPS FP8 컴퓨팅을 제공하고, 최대 31TB의 HBM4의 지원을 받아 HBM 대역폭이 최대 1.7PB/s, 확장 대역폭이 최대 260TB/s, 스케일 아웃 대역폭이 최대 43TB/s인 AMD Helios는 추론, 분산 학습, 대규모 미세 조정 워크로드의 효율적인 이동을 유지합니다.

AMD Helios 가이드에서 AMD Instinct MI455X GPU에 대해 자세히 알아보기 

AMD EPYC™ 9006 시리즈 서버 CPU

AMD EPYC™ 9006 시리즈 서버 CPU는 대규모 가속기 환경이 효율적으로 작동하는 데 필요한 오케스트레이션, 시스템 서비스, 제어 작업을 지원하며 AMD Helios 랙스케일 플랫폼의 처리 기반을 마련합니다.

이는 여러 모델, 애플리케이션, 도구, 데이터 소스가 지속적으로 상호작용하는 에이전틱 AI에 매우 중요합니다.

AMD EPYC 9006 시리즈 CPU에 대해 자세히 알아보기 

AMD Pensando™ Vulcano 800 AI NIC

AMD Pensando™ Vulcano 800 AI NIC는 랙 및 대규모 AI 클러스터 전반에 걸쳐 워크로드를 확장하는 데 사용되는 표준 기반 이더넷 스케일 아웃 연결성을 제공합니다. 랙 내부에서는 UALink over Ethernet이 72개 GPU를 하나의 조율된 스케일업 가속기 도메인으로 연결하며, Vulcano NIC는 고객이 별도의 네트워크 재설계 없이도 더욱 대규모의 반복 가능한 AI 인프라를 구축할 수 있도록 해당 성능을 랙 외부로 확장합니다.

추론 및 학습 워크로드가 분산됨에 따라 네트워킹은 효과적인 시스템 성능의 중대한 병목으로 작용할 수 있습니다. AMD Pensando AI NIC는 데이터가 인프라 전반의 효율적인 데이터 이동을 지원하여, 통신이 성능 제한 요소로 작용할 위험을 최소화합니다.

AMD Pensando Vulcano 800 AI NIC에 대한 블로그 읽어보기 

AMD Pensando™ Salina DPU

AMD Pensando™ Salina DPU는 호스트 CPU에서 일부 네트워킹, 스토리지, 보안 서비스를 오프로드하여 CPU가 기본적인 오케스트레이션 역할을 수행할 수 있도록 더 많은 용량을 확보하고, AI 인프라와 프런트 엔드 네트워크 및 서비스를 연결할 수 있도록 전용 레이어를 제공합니다. 이와 같이 분해된 접근 방식을 취하면 소프트웨어 정의 네트워크 기능을 전용 데이터 처리 하드웨어로 옮겨 인프라 효율성을 향상할 수 있습니다.

이러한 역할의 분리는 운영자가 모든 작업을 CPU에 배치하지 않고 공유 리소스, 인프라 서비스, 워크로드 격리를 관리해야 하는 AI 클라우드 및 멀티 테넌트 인프라에서 특히 중요합니다.

AMD Pensando Salina DPU에 대한 블로그 읽어보기 

개방형 산업 표준을 기반으로 구축된 아키텍처

AMD Helios 랙스케일 플랫폼의 최종 구성요소는 컴퓨팅을 둘러싼 물리적 아키텍처입니다. 이는 다양한 개방형 표준을 준수하고 반복 가능한 4-GPU 컴퓨팅 트레이를 기반으로 구축되어, 하이퍼스케일 배포를 위한 표준 호환 기반과 엔터프라이즈 고객을 위한 탁월한 유지보수성을 보장합니다. 이러한 표준에는 다음이 포함됩니다.

개방형 랙 와이드/OCP 준수 랙 설계

UALoE 확장

UEC 준수 Ether 스케일 아웃

AMD ROCm 소프트웨어

이러한 표준을 준수하면 고밀도 AI 컴퓨팅을 배포 가능한 프로덕션 인프라로 전환할 수 있으며, 전력, 냉각, 유지보수 및 부품 교체와 같은 요소가 랙 수준에서 고려되므로 고객은 일회성 시스템 설치를 넘어 반복 가능하고 효율적인 아키텍처 설계로 나아갈 수 있습니다.

AMD Helios 랙스케일 플랫폼으로 개방된 확장형 AI 인프라를 발전시키는 방법에 대한 블로그 읽기 

AI 과제를 대규모로 해결하는 AMD Helios

AMD Helios 랙스케일 플랫폼의 가치는 고객이 대규모 AI 인프라에서 필요로 하는 성과를 통해 가장 명확하게 드러납니다. 개별 시스템에서 프로덕션 플랫폼으로 배포 환경이 확장됨에 따라, 더 높은 랙 수준의 AI 팩토리 출력, 개방형 랙-클러스터 확장, 생산성 높은 인프라, 유지보수성, 보안, 향상된 경제성을 달성할 수 있습니다.

AMD ROCm™ 소프트웨어의 기반

고객 AI 인프라의 잠재적 성능은 하드웨어에 의해 정해집니다. 소프트웨어는 고객이 성능을 얼마나 쉽고 효과적으로 활용할 수 있는지를 결정하는 핵심 요소입니다.

AMD ROCm 소프트웨어는 AMD Helios 랙스케일 플랫폼에 개방형 소프트웨어 기반을 제공하며, 이를 통해 고객은 랙스케일 및 클러스터링된 환경에서 AI 추론, 학습, 미세 조정을 배포, 관리, 최적화하는 데 필요한 도구를 확보할 수 있습니다.

AMD ROCm 소프트웨어는 PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, SGLang, Triton 등 널리 사용되는 AI 모델, 프레임워크, 런타임과 함께 작동합니다. 최근 생태계 발전에는 2백만 개 이상의 모델에 대한 액세스와 오픈 소스 AI 프레임워크 및 추론 엔진 전반에 대한 지원 확대가 포함됩니다.

AMD ROCm이 개방형 표준 위주로 구축되었기 때문에 고객은 사용하는 모델, 도구, 환경에 대한 유연성을 높게 유지하는 한편, 소프트웨어 최적화 덕분에 워크로드가 성장해도 AI 워크로드를 실행하는 하드웨어는 생산성을 유지하여 효율적인 대규모 성능을 뒷받침할 수 있습니다.

파트너에게 이것은 고객 대화가 하드웨어 자체를 넘어서 확장되어야 한다는 사실을 의미합니다. 파트너는 고객이 선호하는 모델과 프레임워크의 지원 여부, 기존 애플리케이션의 이전을 위해 필요한 작업, 팀에 필요한 기술이 있는지 여부, 플랫폼이 기존 오케스트레이션, 모니터링, 관리 도구와 연결되는 방식 등을 평가하도록 지원할 수 있습니다.

AMD Helios 랙스케일 플랫폼 도입 대상

AMD Helios 랙스케일 플랫폼은 AI 인프라를 대규모로 운영하는 조직에 적합하게 설계되었습니다. 저마다 운영은 다르지만 랙스케일 AI를 살펴보는 고객은 모두 고밀도 컴퓨팅, 확장형 네트워크, 인프라에 대한 신뢰할 수 있는 운영 및 통제력을 필요로 합니다.

대규모 AI 운영업체: 하이퍼스케일러, AI 클라우드/NeoCloud 제공업체, 프런티어 모델 개발자

이러한 잠재고객은 전 세계적인 규모의 서비스와 AI 분야에서 빠르게 성장하는 수요를 뒷받침하기 위해 AI 팩토리를 구축합니다. 해당 워크로드에는 장비 규모 추론, 분산 학습 및 대규모 미세 조정이 포함되며, 보통 격리된 랙보다는 광범위한 클러스터에서 운영되는 경우가 많습니다.

이러한 고객의 주요 고려 사항은 출력 밀도, 가동률, 대역폭, 단일 랙에서 대규모 클러스터로 확장할 때의 경제성에 집중되어 있으며, 이들은 대규모 인프라 전반에 걸친 반복 가능성과 유지보수성을 중시합니다.

AMD Helios 랙스케일 플랫폼은 밀도 높은 랙 수준 컴퓨팅과 메모리 용량을 개방형 스케일 아웃 네트워킹 및 이러한 유형의 배포에 특히 적합하게 설계된 반복 가능 아키텍처와 결합합니다.

소버린 및 엔터프라이즈 AI 배포

소버린 AI 및 데이터 센터 플랫폼 팀은 정부, 공공 기관, 필수 산업에 AI 인프라에 대한 통제권을 제공합니다. 이러한 유형의 배포는 온프레미스 또는 국경 내에서 운영해야 하며 안보, 거버넌스, 장기적인 용량 위주의 요구사항을 준수해야 합니다.

AMD Helios 랙스케일 플랫폼은 이러한 고객이 제어권, 유연성, 장기적인 인프라 선택권을 유지할 수 있도록 컴퓨팅, 메모리, 개방형 네트워킹, 보안, ROCm 소프트웨어, 유지보수가 용이한 랙 설계를 결합하여 제공합니다.

OEM/ODM 및 생태계 빌더

이러한 고객은 AI 인프라 시장에서 서로 다른 역할을 수행하며, 고급 랙스케일 설계를 고객에 맞춰 반복적으로 구축, 검증, 제공, 서비스, 지원할 수 있는 시스템으로 전환해야 합니다.

해당 잠재고객에게 AMD Helios 랙스케일 플랫폼의 가치는 단순히 랙 자체의 성능에만 그치는 것이 아니라 AMD가 컴퓨팅, 네트워킹, 소프트웨어, 보안, 전력, 냉각, 물리적 유지보수성을 모두 하나의 완전한 AI 팩토리 청사진 내에 결합한다는 사실에 있습니다.

이를 통해 OEM/ODM 파트너와 생태계 빌더는 AMD 기술을 기반으로 차별화된 시스템을 개발하기 위한 보다 명확한 기반을 마련할 수 있습니다. AMD Helios는 파트너가 시스템 설계, 검증, 배포, 고객별 구현에 대한 혁신을 지속할 수 있도록 지원하는 동시에, 요구되는 맞춤형 통합 작업을 최소화합니다.

파트너가 제공할 수 있는 개방형 AI 팩토리 플랫폼

AI 인프라는 구성요소별 구매 대화 그 이상으로 확장되었습니다. 고객은 이제 AI 실험에서 대규모 프로덕션으로 나아갈 수 있도록 컴퓨팅, 메모리, 네트워킹, 소프트웨어, 보안, 물리적 랙 아키텍처의 스펙트럼을 포괄하는 솔루션과 이 모든 것이 하나의 조율된 시스템으로 작동하는 방식을 찾고 있습니다.

AMD Helios 랙스케일 플랫폼은 파트너가 고객에게 제안할 수 있는 완벽한 솔루션을 제공합니다. 이러한 각각의 강력한 기술을 개방형 랙 표준 및 AMD ROCm 소프트웨어와 결합한 이 플랫폼은 AI 출력, 확장성, 운영 신뢰성에 초점을 맞춘 모든 고객에게 탁월한 솔루션이 됩니다.

AMD Helios 랙스케일 플랫폼과 AI 분야에 진입하거나 비즈니스를 고도화하려는 고객을 지원하는 방법에 대해 자세히 알아보려면 AMD 담당자에게 문의하거나 amd.com을 방문하시기 바랍니다.

AMD Helios 랙스케일 플랫폼 랜딩 페이지 방문하기