AMD Ryzen™ AI PRO 프로세서로 비즈니스용 온디바이스 AI 구현

AMD AI PC는 CPU와 GPU 외에도 전용 신경 처리 장치(NPU)를 포함하는 시스템입니다. 많은 기존 PC도 CPU 또는 GPU를 사용하여 AI 워크로드를 실행할 수 있지만, AMD AI PC는 워크로드의 특성에 따라 세 가지 프로세싱 엔진 모두를 활용하여 AI 작업을 실행하도록 특별히 설계되었습니다. 비 AI PC는 일반적으로 CPU, 통합 그래픽 또는 외장 GPU를 사용하여 AI 워크로드를 실행합니다. 이와 달리 AMD AI PC는 온다이 AI 엔진을 탑재하여 적합한 AI 워크로드를 NPU로 오프로드함으로써 유연성과 효율성을 높입니다. 이를 통해 AI 작업은 전력 소모를 줄이면서 실행될 수 있으며, CPU와 GPU는 다른 시스템 프로세스에 사용할 수 있습니다. 두 가지 PC의 차이점은 AI 워크로드를 실행할 수 있는지 여부가 아니라, AI 워크로드를 효율적이고 동시에 지원하도록 설계된 전용 AI 하드웨어가 포함되어 있는지 여부입니다.

AMD Ryzen AI는 AMD Ryzen 프로세서에 통합된 AI 지원 하드웨어와 지원 소프트웨어의 조합을 의미합니다. 여기에는 다양한 워크로드에서 AI 기능을 구현하기 위해 함께 작동하는 전용 AI 엔진(NPU), AMD Radeon 그래픽, Ryzen CPU 코어가 포함됩니다. 실질적으로 AMD Ryzen AI는 AI 처리를 가속화하는 실리콘 기능과 이를 활용하는 데 필요한 소프트웨어 스택을 모두 포함합니다. AI 워크로드는 성능, 지연율, 전력 요구 사항에 따라 CPU, GPU 또는 NPU에서 실행될 수 있습니다. NPU가 탑재된 AMD Ryzen 프로세서는 시간이 지남에 따라 진화하는 AI 워크로드를 지원하도록 설계된 AMD XDNA™ 및 AMD XDNA2™ 아키텍처를 사용합니다. AI 작업을 NPU로 오프로드하면 성능 저하를 최소화하면서 멀티태스킹이 가능해지고, AI 처리가 병렬로 실행되는 동안에도 시스템 반응성을 유지할 수 있습니다.

AI 워크로드는 크게 학습과 추론의 두 가지 범주로 나뉩니다. 학습은 대규모 데이터 세트를 사용하여 AI 모델을 생성하거나 개선하는 과정을 포함하며, 일반적으로 GPU 클러스터 또는 특수 가속기를 사용하는 상당한 컴퓨팅 리소스가 필요합니다. 이러한 작업은 주로 데이터 센터 또는 클라우드 환경에서 수행됩니다. 추론은 학습된 모델을 새로운 데이터에 적용하는 과정입니다. 추론 워크로드는 일상적인 사용에서 훨씬 더 흔하며 CPU, GPU, NPU를 포함한 다양한 하드웨어에서 실행될 수 있습니다. 많은 AI 애플리케이션은 클라우드에 의존하기보다는 로컬 PC에서 추론을 수행하도록 설계되었습니다.

AMD Ryzen AI 기반 시스템은 로컬 추론 워크로드를 가장 적합한 프로세싱 엔진에서 실행함으로써 지원하도록 최적화되어 있습니다. NPU는 지속적인 저전력 AI 추론에 특히 적합하며, CPU와 GPU는 범용 또는 고도로 병렬화된 처리가 필요한 작업을 처리합니다.

"100개 이상의 AI 기반 성능을 경험하세요"란 AMD Ryzen AI 기반 시스템의 AI 가속 기능을 활용하는 애플리케이션 및 서비스 생태계가 지속적으로 확장되고 있음을 의미합니다. 여기에는 독립 소프트웨어 판매업체(ISV), 운영 체제 파트너, 플랫폼 개발자와의 협력을 통해 생산성, 보안, 콘텐츠 제작, 기술 워크플로 전반에 걸쳐 AI 기능을 구현하는 것이 포함됩니다. 이러한 경험은 로컬 추론, 하이브리드 로컬 및 클라우드 처리, OS 수준의 AI 통합을 활용하는 애플리케이션을 아우릅니다. 이 생태계의 폭넓은 범위는 단일 애플리케이션이나 사용 사례 지원이 아닌 소프트웨어 스택의 여러 계층에 걸쳐 AI를 구현하려는 AMD의 접근 방식을 반영합니다. 새로운 AI 지원 소프트웨어가 출시됨에 따라 AMD Ryzen AI에 대한 지원은 소프트웨어 업데이트 및 생태계 협력을 통해 지속적으로 확장되어 AI 모델 및 워크로드의 발전에 맞춰 시스템을 조정할 수 있습니다.

PC에서 AI 워크로드를 로컬로 실행하면 지연율을 줄이고 반응성을 높이며 데이터에 대한 제어력을 강화할 수 있습니다. 온디바이스 AI는 네트워크 연결이나 클라우드 서비스에 의존하지 않고 추론을 수행할 수 있도록 해주므로 개인 정보 보호가 중요하거나 시간 제약이 있는 작업에 유용할 수 있습니다. AMD Ryzen AI 기반 시스템은 CPU, GPU, NPU에 워크로드를 분산하여 온디바이스 AI를 지원합니다. NPU는 지속적인 AI 추론을 효율적으로 처리하도록 설계되어 전력 소비량을 줄이는 동시에 다른 시스템 리소스를 사용할 수 있도록 합니다. 이러한 접근 방식을 통해 더 광범위한 AI 사용 사례를 PC에서 직접 실행할 수 있으므로 클라우드 기반 서비스를 대체하는 것이 아니라 보완하는 역할을 합니다.