개요
AI 시대는 새로운 차원의 컴퓨팅과 CPU/GPU 공식을 바꾸는 수요를 창출하면서 진화하고 있습니다. 생성형 AI는 추론하고 대응할 수 있는 시스템을 프롬프트 및 응답 루프에 도입했습니다. 에이전틱 AI는 이러한 시스템을 에이전시와 함께 보완하여 작업을 계획하고, 수행하며, 완료합니다. AMD EPYC™ 서버 CPU는 에이전틱 AI 시대에 맞춰 데이터 센터를 준비할 수 있습니다.
에이전틱 AI는 데이터 센터의 요구를 변화시키고 있습니다
AMD의 컴퓨팅 및 엔터프라이즈 AI 담당 CVP인 Madhusudhan Rangarajan이 에이전틱 AI 시스템이 작동하는 방식 및 CPU와 GPU의 역할을 재편하여 데이터 센터를 혁신하는 이유를 설명합니다.
에이전틱 워크플로 내부
개별 컴퓨팅 단계의 파이프라인인 에이전틱 AI
게이트웨이부터 응답까지, 각 스테이지는 CPU에 대해 서로 다른 성능을 요구합니다. 에이전틱 AI는 컴퓨팅, 메모리, I/O, 보안, 가속화 집약적 단계를 지속적으로 거칩니다.
주요 리소스
에이전틱 워크플로가 어떻게 CPU 요구 사항을 증가시키는지에 대해 더 자세히 알아보세요.
CPU 역할
에이전틱 AI가 확장됨에 따라 각 에이전트는 여러 CPU를 사용하여 작업을 조정하고, 메모리를 관리하고, 엔터프라이즈 소프트웨어에 연결하고, 데이터 흐름을 처리함으로써 보드 전체의 CPU 요구 사항을 끌어올립니다. AMD EPYC™ 서버 CPU의 광범위한 포트폴리오는 에이전트가 작업을 완료하기 위해 필요한 에이전트 샌드박스 확장, AI 호스트 노드 처리율 극대화, 범용 워크로드 지원이라는 고유한 세 가지 역할에 걸쳐 이러한 요구 사항을 처리합니다.
에이전트 샌드박스 CPU
에이전틱 용량을 최적화하며, AMD EPYC 서버 CPU의 탁월한 와트당 성능, 달러당 최고 스레드 수, 랙당 최고 스레드 밀도로 와트당, 달러당, 랙당 최대의 에이전트를 제공하도록 제작되었습니다.2, 3
AI 호스트 노드 CPU
GPU 활용성을 극대화하고 고주파수 AMD EPYC 서버 CPU를 사용하여 토큰 생성을 촉진함으로써 GPU 효율성을 높이고 코어당 높은 성능을 제공합니다.
범용 CPU
AMD EPYC 서버 CPU의 폭넓은 포트폴리오로 계획 수립, 도구 사용, 하위 에이전트를 오케스트레이션하며 데이터베이스, 스토리지, 컴퓨팅, 검색의 범용 워크로드 전반에서 탁월한 성능을 확장하도록 설계되었습니다.
에이전틱 AI용 AMD EPYC 서버 CPU
에이전틱 시대를 위한 세계 최고의 서버 CPU 포트폴리오
AMD EPYC™ 서버 CPU는 탁월한 성능, 전력 효율, 코어 및 스레드 밀도를 갖춘 최고의 에이전틱 AI 솔루션을 제공하여 다수 에이전트를 병렬로 실행하는 동시에 총 소유 비용(TCO)을 최적화합니다.
포트폴리오
에이전틱 니즈에 맞출 수 있도록 설계된, 세계에서 가장 폭넓은 에이전틱 AI용 서버 CPU 포트폴리오를 살펴보세요.
블로그
자주 묻는 질문
에이전트 AI는 일반적으로 추론, 계획, 도구 사용, 메모리, 피드백을 결합하여 작동합니다. AI 에이전트가 목표를 받아서 계획을 수립하고, 적절한 도구나 데이터 소스를 선택해서 작업을 수행하며, 결과를 확인하고, 필요에 따라 조정합니다. 사용 사례에 따라 비즈니스 애플리케이션, 데이터베이스, API, 이메일, 채팅 플랫폼 또는 워크플로 시스템에 연결할 수 있습니다.
생성형 AI는 텍스트, 이미지, 코드, 요약 또는 권장 사항과 같은 콘텐츠를 만듭니다. 에이전트 AI는 행동을 취하며 한 걸음 더 나아갑니다. 목표를 단계로 나누고, 다음 단계를 결정하며, 소프트웨어 도구를 사용하고, 정보를 검색하고, 작업을 완료하고, 진행 상황을 모니터링할 수 있습니다. 대부분의 경우, 에이전트 AI는 생성형 AI를 사용하여 더 큰 워크플로의 일부로 인텔리전스를 제공합니다.
에이전트 AI는 다양한 비즈니스 부서에서 복잡한 워크플로를 지원할 수 있습니다. 일반적인 사용 사례로는 고객 서비스, 영업 지원, 연구, 소프트웨어 개발, 데이터 분석, IT 운영, 마케팅, HR, 재무, 백오피스 자동화 등이 있습니다. 예를 들어, AI 에이전트는 잠재 고객을 조사하고, CRM을 업데이트하며, 후속 이메일 초안을 작성하고, 다음 단계를 예약할 수 있습니다.
에이전트 AI는 조직의 생산성 향상, 반복 작업 감소, 의사 결정 속도 향상, 고객 및 직원 경험 개선에 도움을 줄 수 있습니다. 여러 단계로 이루어진 프로세스를 관리할 수 있기 때문에 시스템, 팀 또는 데이터 소스 간에 조율이 필요한 작업에 특히 유용합니다. 또한 반복적이거나 시간이 많이 걸리는 활동을 처리하여 직원들이 더 가치 있는 업무에 집중할 수 있도록 도와줄 수도 있습니다.
에이전트 AI는 적절한 통제 수단과 함께 설계될 때 안전하고 효과적일 수 있습니다. 중요한 안전 조치로는 인적 감독, 명확한 권한, 데이터 보안, 감사 추적, 테스트, 승인 워크플로, 에이전트가 취할 수 있는 작업에 대한 제한 등이 포함됩니다.
리소스
각주
- EPYC-068 - AMD EPYC 서버 CPU 포트폴리오는 범용 엔터프라이즈, 클라우드, 통신, SMB, HPC 시스템부터 샌드박스 에이전틱 AI 배포 및 GPU 헤드 노드 서버를 비롯한 신흥 AI 환경까지, 업계에서 가장 폭넓은 데이터 센터 배포 범위를 아우릅니다. AMD EPYC 6세대 플랫폼은 최대 512스레드의 높은 스레드 밀도 및 코어 수, 최대 16채널의 12.8GT/s MRDIMM 지원 고급 메모리 대역폭, 차세대 PCIe® Gen 6 연결성, 최대 5GHz의 향상된 주파수를 갖춘 특정 SKU를 고유하게 결합하여 이러한 폭을 확장합니다.
- 9xx6-013: 추정되는 최고 에이전트 / CPU $ 및 스레드 / CPU $ AMD EPYC™ 9006(512스레드), AMD EPYC™ 9005(384스레드), 인텔® 제온® 6(256스레드) SKU에 대해 공개된 최상급 코어 수 및 1Ku 가격에 기준한 비교, 2026/7/22 기준. 코어당 2스레드로 도출된 스레드(SMT). 인텔 및 제온은 Intel Corporation 또는 그 자회사의 상표입니다.
출처: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
에이전트 수는 일관된 이론적 워크로드에서 프록시로 사용되는 사용 가능한 CPU 스레드 리소스에서 도출되는 추정치입니다. 실제 에이전트 용량과 처리율은 워크로드, 모델, 메모리, 소프트웨어, 오케스트레이션, 시스템 구성에 따라 달라집니다.
- 9xx6-005A: 스레드 수에 기준한 vCPU 지원, 최상급 256코어(512스레드) 6세대 EPYC 9996 CPU와 192코어(384스레드) 5세대 EPYC 9965를 비교. 비교 시, 인텔® 제온® 프로세서에서 가장 높은 스레드 수는 인텔 제온 6990E의 288스레드이고, Nvidia CPU에서 가장 높은 스레드 수는 Nvidia Vera의 88개 코어(176개 스레드)입니다.
참고: 6세대 인텔 제온 CPU는 5세대 AMD EPYC CPU 스레드 수의 최대 0.8배를 지원하고, ARM AGI는 최대 0.7배, Nvidia Vera는 최대 0.5배를 지원할 것으로 예상됩니다.
- EPYC-068 - AMD EPYC 서버 CPU 포트폴리오는 범용 엔터프라이즈, 클라우드, 통신, SMB, HPC 시스템부터 샌드박스 에이전틱 AI 배포 및 GPU 헤드 노드 서버를 비롯한 신흥 AI 환경까지, 업계에서 가장 폭넓은 데이터 센터 배포 범위를 아우릅니다. AMD EPYC 6세대 플랫폼은 최대 512스레드의 높은 스레드 밀도 및 코어 수, 최대 16채널의 12.8GT/s MRDIMM 지원 고급 메모리 대역폭, 차세대 PCIe® Gen 6 연결성, 최대 5GHz의 향상된 주파수를 갖춘 특정 SKU를 고유하게 결합하여 이러한 폭을 확장합니다.
- 9xx6-013: 추정되는 최고 에이전트 / CPU $ 및 스레드 / CPU $ AMD EPYC™ 9006(512스레드), AMD EPYC™ 9005(384스레드), 인텔® 제온® 6(256스레드) SKU에 대해 공개된 최상급 코어 수 및 1Ku 가격에 기준한 비교, 2026/7/22 기준. 코어당 2스레드로 도출된 스레드(SMT). 인텔 및 제온은 Intel Corporation 또는 그 자회사의 상표입니다.
출처: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
에이전트 수는 일관된 이론적 워크로드에서 프록시로 사용되는 사용 가능한 CPU 스레드 리소스에서 도출되는 추정치입니다. 실제 에이전트 용량과 처리율은 워크로드, 모델, 메모리, 소프트웨어, 오케스트레이션, 시스템 구성에 따라 달라집니다. - 9xx6-005A: 스레드 수에 기준한 vCPU 지원, 최상급 256코어(512스레드) 6세대 EPYC 9996 CPU와 192코어(384스레드) 5세대 EPYC 9965를 비교. 비교 시, 인텔® 제온® 프로세서에서 가장 높은 스레드 수는 인텔 제온 6990E의 288스레드이고, Nvidia CPU에서 가장 높은 스레드 수는 Nvidia Vera의 88개 코어(176개 스레드)입니다.
참고: 6세대 인텔 제온 CPU는 5세대 AMD EPYC CPU 스레드 수의 최대 0.8배를 지원하고, ARM AGI는 최대 0.7배, Nvidia Vera는 최대 0.5배를 지원할 것으로 예상됩니다.