LM Studio로 실행 및 제공하는 LLM
LM Studio를 통해 LLM을 로컬로 실행하고 제공하여 간편한 모델 배포 및 OpenAI 호환 로컬 API 호스팅을 지원합니다.
ROCm™ AI 개발자 허브: 로컬 AI
AMD Radeon™ GPU에서 소규모 모델을 로컬로 실행하세요
AMD Radeon GPU 프로그래밍을 위한 AMD ROCm™을 경험해 보세요. 샘플 플레이북, 로컬 AI 개발 도구, 튜토리얼, 오픈 소스 프로젝트, 문서 등을 찾아보세요.
ROCm 설치하기:
샘플 로컬 AI 워크로드 실행
ROCm 소프트웨어 스택을 사용해 에지 AI 사용 사례를 확인해 보세요.
주요 워크로드
AMD Radeon GPU 액세스
ROCm으로 AMD Radeon GPU 프로그래밍을 테스트하고 싶으신가요?
지역에 기반한 로컬 AI 애플리케이션 개발을 지원하는 강력한 AMD Radeon GPU를 경험해 보세요.
학습 리소스
더 많은 주제를 둘러보고 AMD의 최신 기술 발전에 대한 최신 정보를 얻을 수 있는 관련 학습 자료를 찾아 보세요.
커뮤니티 및 지원
자주 묻는 질문
GPU에서 로컬 AI 애플리케이션을 개발하는 것은 저지연율, 실시간 반응성, 비용 제어 또는 클라우드에 의존하지 않는 데이터 개인정보 보호가 필요할 때 이상적입니다. 개발자는 ROCm으로 AMD Radeon GPU를 프로그래밍하여 다음과 같은 사용 사례에 대한 AI 워크로드를 로컬로 실행할 수 있습니다.
- 검색 증강 생성(RAG), 코딩 지원, 프라이빗 AI 애플리케이션을 위한 로컬 LLM과 Copilot
- 이미지 생성, 비디오 및 오디오 향상, 3D 렌더링과 같은 크리에이티브 및 미디어 워크플로
- AI 기반 게이밍 및 실시간 그래픽
연속적인 ROCm 릴리스에서 상당한 성능 향상이 나타났습니다. 성능 결과 페이지에서 추론(예: vLLM, xDiT) 및 학습(예: PyTorch, Megatron-LM, JAX MaxText)에 널리 사용되는 AI 모델을 구동하는 ROCm 소프트웨어 환경에서 AMD Instinct GPU가 발휘하는 성능을 평가하기 위한 기준점을 확인해 보세요.
AMD Radeon RX, Radeon PRO, ROCm 지원 Radeon AI Pro GPU는 강력한 로컬 AI 미세 조정 및 추론 기능을 제공합니다. PyTorch는 PIP(Linux 및 Windows) 또는 Docker(Linux) 설치 방식을 사용하여 해당 GPU의 ROCm에 설치할 수 있습니다. AMD ROCm 팀은 오픈 소스 개발에 적극적으로 기여하며 PyTorch를 포함한 프레임워크 조직과 긴밀하게 협력합니다.
ROCm 뉴스 등록
ROCm 뉴스레터에 등록하여 최신 릴리스와 팁을 받아보세요.