AMD EPYC 서버 CPU
AMD EPYC 서버 CPU는 AI 배포의 크기 또는 규모에 관계없이 엔터프라이즈 AI 및 범용 워크로드를 위한 에너지 효율적인 고성능 기반을 제공합니다.
에이전트 AI 시대의 도래
이미지 확대
생성형 AI가 추론하고 대응할 수 있는 시스템을 세상에 소개했다면,
에이전트 AI는 이러한 시스템을 보완하여 작업을 계획하고, 수행하며, 완료합니다.
에이전트 AI에서는 에이전트가 행동을 취합니다. 목표에서 계획을 수립하고, 데이터를 검색해서 처리하며, 추론을 트리거하고, 소프트웨어 도구를 사용하고, 최종 결과를 검증하고, 작업이 성공적으로 완료될 때까지 단계를 반복합니다.
실제로 에이전트 AI는 단순히 '함께 대화를 나누는' 대상, 그 이상입니다. 사용자 대신 소프트웨어를 운영함으로써 사용자 요청, 예약된 작업, 이벤트 또는 다른 에이전트에 의해 트리거되는 작업을 완료해 주는 디지털 도우미입니다. 코딩 에이전트, 리서치 에이전트, IT 자동화 에이전트, 비즈니스 프로세스 에이전트는 작업을 완료하기 위해 사용되는 에이전트의 초기 예시입니다.
이러한 대화에서 행동으로의 전환 덕분에 컴퓨팅의 균형이 근본적으로 변화하고 있습니다. CPU에서 실행되는 에이전트는 CPU 컴퓨팅 수요를 기하급수적으로 늘리기 때문에 AI에 대한 인프라 요구 사항이 바뀝니다. 에이전트 AI로 인해 CPU 사용량이 늘 수 있으며, GPU 사용량 또한 증가할 수 있습니다. 에이전트 AI는 일반적으로 인텔리전스 및 도구(CPU 사용량이 많은 워크로드)에 AI 추론(GPU 사용량이 많은 워크로드)을 사용하여 작업을 수행합니다.
모델에서 시스템까지: '에이전트' AI의 핵심 구성 요소
기존 AI 배포는 프롬프트/응답 루프를 중심으로 하며, 여기에서 사용자는 프롬프트를 제공하고, AI 모델은 응답을 제공합니다. 에이전트 AI는 정의된 경계 내에서 독립적으로 행동할 수 있는 능력인 대행력을 가진 시스템을 의미합니다. 에이전트는 하나의 프롬프트/응답 루프가 아니라, 그러한 루프를 시스템으로 확장합니다.
- 요청 및 토큰화: 입력 또는 프롬프트의 분해, 에이전트 세션 시작
- 계획 및 검색: 엔터프라이즈 지식을 맥락에 적용하여 다음 단계를 판단하는 계층
- 추론 및 생성: 에이전트에 응답을 제공하거나 작업을 완료하기 위한 추가 지침을 제공하는 기본 모델 추론
- 도구 실행: 소프트웨어, 서비스, API 전반에 걸쳐 조치를 취하는 계층
- 확인 및 대응: 응답의 완전성과 정확성을 보장하고 필요한 경우 결과를 사용자에게 전달하거나 프로세스를 반복
이와 같이 독특한 루핑 패턴은 비즈니스 프로세스를 혁신하고 있습니다. AI 시스템은 이제 작업의 말뭉치와 같은 역할을 합니다. 하나의 요청은 여러 에이전트를 생성할 수 있으며, 각 에이전트는 독립적이되 정의된 제약 조건 내에서 작동하면서 소프트웨어, 데이터, 서비스와 상호 작용한 후 작업이 완료되면 사라집니다.
에이전트 AI가 CPU의 중요성을 높이는 이유
에이전트는 CPU에서 실행됩니다. 또한 에이전트가 생성한 모든 작업을 처리하려면 에이전트마다 여러 개의 CPU가 필요합니다. 에이전트 AI가 확장되면 다음과 같이 GPU 외부에서 발생하는 작업이 증가합니다.
- 여러 동시 발생 에이전트 조율
- 시스템 상태 및 메모리 관리
- 엔터프라이즈 소프트웨어와의 연결 및 상호 작용
- 제어 경로 논리 및 I/O 처리
이 모든 것을 지원하기 위해 에이전트 시스템에는 세 가지 기본적인 CPU 역할이 있습니다
AI 호스트 CPU
데이터의 사전 및 사후 처리를 담당하며 GPU 실행 추론의 효율성을 극대화합니다. AMD EPYC 9005 고주파수 CPU는 탁월한 GPU 효율성을 제공합니다.
에이전트 CPU
에이전트 프레임워크의 호스팅을 담당합니다. ID 제어, 예산 및 우선순위 지정과 같은 정책 제어를 포함하여 CPU와 GPU 간에 모든 작업을 조정합니다. AMD EPYC 9005 CPU, 특히 코어 수가 높은 제품은 에이전트 워크로드를 확장하는 데 필요한 컴퓨팅 용량을 제공합니다.
도구 CPU
데이터베이스, 스토리지, 컴퓨팅, 검색 등 표준 엔터프라이즈 플랫폼에서 여러 에이전트에 의해 발생하는 작업을 실행하는 일을 담당합니다. 도구 CPU는 다양한 CPU 및 서버 구성에서 존재합니다. AMD EPYC 9005 서버 CPU는 종합적인 성능, 코어 수, 가격대를 갖추어 거의 모든 크기와 규모를 지원합니다.
좋은 에이전트 CPU를 만드는 요소는 무엇인가요?
동시 발생 에이전트를 확장하고 많은 작업 실행을 가능하게 하는 높은 코어 수
데이터 센터의 에이전트 용량을 극대화하는 전력 효율
수요 충족을 위해 에이전트를 확장하여 TCO를 최소화하는 비용 효율성
엔터프라이즈 도구 및 프레임워크를 위한 성숙한 소프트웨어 에코시스템
이러한 요구 사항에는 에이전트 AI가 근본적으로 범용 컴퓨팅 패러다임인 이유가 반영되어 있습니다.
에이전트 AI에 적합한 AMD EPYC 서버 CPU
AMD EPYC™ 9005 시리즈 서버 CPU는 다음과 같은 이점을 제공하기 때문에 모든 범위의 에이전트 AI 워크로드를 지원하는 데 있어 최고의 선택으로 꼽힙니다.
- 여러 에이전트를 병렬로 실행할 수 있는 탁월한 코어 밀도
- 독보적인 TDP당 vCPU 수가 제공하는 최적의 전력 효율
- 높은 TCO당 코어 수로 이상적인 비용 효율성
- 강력한 엔터프라이즈 x86 소프트웨어 에코시스템과의 기본 호환성
AMD EPYC 서버 CPU를 통해 고객은 처리율이 중요할 때는 높은 코어 수의 CPU 용량을, 반응성이 중요할 때는 고성능 코어를 사용하여 에이전트 AI를 획일적인 설계에 억지로 적용하지 않고도 인프라를 다양한 워크로드 요구 사항에 맞출 수 있습니다.
에이전트 AI 관련 FAQ
에이전트 AI는 일반적으로 추론, 계획, 도구 사용, 메모리, 피드백을 결합하여 작동합니다. AI 에이전트가 목표를 받아서 계획을 수립하고, 적절한 도구나 데이터 소스를 선택해서 작업을 수행하며, 결과를 확인하고, 필요에 따라 조정합니다. 사용 사례에 따라 비즈니스 애플리케이션, 데이터베이스, API, 이메일, 채팅 플랫폼 또는 워크플로 시스템에 연결할 수 있습니다.
생성형 AI는 텍스트, 이미지, 코드, 요약 또는 권장 사항과 같은 콘텐츠를 만듭니다. 에이전트 AI는 행동을 취하며 한 걸음 더 나아갑니다. 목표를 단계로 나누고, 다음 단계를 결정하며, 소프트웨어 도구를 사용하고, 정보를 검색하고, 작업을 완료하고, 진행 상황을 모니터링할 수 있습니다. 대부분의 경우, 에이전트 AI는 생성형 AI를 사용하여 더 큰 워크플로의 일부로 인텔리전스를 제공합니다.
에이전트 AI는 다양한 비즈니스 부서에서 복잡한 워크플로를 지원할 수 있습니다. 일반적인 사용 사례로는 고객 서비스, 영업 지원, 연구, 소프트웨어 개발, 데이터 분석, IT 운영, 마케팅, HR, 재무, 백오피스 자동화 등이 있습니다. 예를 들어, AI 에이전트는 잠재 고객을 조사하고, CRM을 업데이트하며, 후속 이메일 초안을 작성하고, 다음 단계를 예약할 수 있습니다.
에이전트 AI는 조직의 생산성 향상, 반복 작업 감소, 의사 결정 속도 향상, 고객 및 직원 경험 개선에 도움을 줄 수 있습니다. 여러 단계로 이루어진 프로세스를 관리할 수 있기 때문에 시스템, 팀 또는 데이터 소스 간에 조율이 필요한 작업에 특히 유용합니다. 또한 반복적이거나 시간이 많이 걸리는 활동을 처리하여 직원들이 더 가치 있는 업무에 집중할 수 있도록 도와줄 수도 있습니다.
에이전트 AI는 적절한 통제 수단과 함께 설계될 때 안전하고 효과적일 수 있습니다. 중요한 안전 조치로는 인적 감독, 명확한 권한, 데이터 보안, 감사 추적, 테스트, 승인 워크플로, 에이전트가 취할 수 있는 작업에 대한 제한 등이 포함됩니다.