AMD Ryzen™ AI 소프트웨어

1.6 릴리스 하이라이트

• BF16 컴파일러의 성능 향상 및 컴파일 시간 단축
• 일반 비대칭 양자화를 지원하는 새로운 정수 컴파일러(A8W8, A16W8)
• 성능이 최적화된 확장된 NPU 전용 모델 세트(KRK 및 GPT에서 더 높은 초당 토큰)
• 모든 LLM에 대해 컨텍스트 길이가 4K까지 증가
• 새로운 LLM 아키텍처 지원 추가: PHI-4 및 Qwen-3
• SD 3.0/3.5에 대한 동적 해상도 지원, 새로운 추가 기능(SD2.1-v 768 × 768 text2image, SDXL-base 1024 × 1024 text2image)을 포함한 기타 SD 모델의 성능 향상

1.5 릴리스 하이라이트

• 새로운 기능
  • Stable Diffusion 파이프라인(SD 1.5, 2.1, SDXL, 3.0)을 사용한 영상 생성
  • Zipformer와 Whisper 기반 모델을 지원하는 음성-텍스트 기능 통합
  • 우선 순위가 높은 작업에 컴퓨팅 리소스를 동적으로 할당하는 Pre-emption을 통해 시스템 응답 속도 최적화

1.4 릴리스 하이라이트

• 새로운 기능
  • LLM 및 일반 모델 흐름(INT8, BF16)을 모두 갖춘 통합 설치 프로그램으로 단일 릴리스 패키지의 모든 모델 유형을 지원하는 원활한 환경 제공
  • CNN 및 NLP 워크로드에 대한 BF16 모델 컴파일 및 양자화를 위한 Windows 지원의 첫 번째 릴리스
  • LLM OGA Flow 지원을 통해 효율적으로 LLM 배포
• 새로운 LLM 모델 지원
  • DeepSeek-R1 Distill 시리즈: Llama-8B, Qwen-1.5B, Qwen-7B 
  • Qwen2 시리즈: Qwen2-1.5B, Qwen2-7B 
  • Gemma2-2B 
  • AMD-OLMO-1B-SFT-DPO  
  • Codellama-7B, Mistral-7B 등

기술 리소스

1.3 릴리스 하이라이트

• 새로운 기능 
  • AMD 통합 퀀타이저 'Quark'에 대한 초기 지원
  • 혼합된 정밀도 데이터 유형 및 Copilot+ 앱 지원
  • 업데이트된 CNN 프로파일링 도구 
• ONNX-GenAI(OGA) 흐름에 대한 새 모델 지원 
  • Llama2-7B-Chat / Meta-Llama-3.1-8B
  • Phi-3-Mini-4K-Instruct / Phi-3.5-Mini-Instruct
  • Mistral-7B-Instruct-v0.3

기술 리소스

1.2 릴리스 하이라이트

• 새로운 아키텍처 지원 
  • Strix(STX) 지원: AMD Ryzen™ AI 9 HX370 및 Ryzen AI 9 365 NPU 
  • Ryzen AI 소프트웨어를 통해 통합 GPU(iGPU) 및 NPU를 통합적으로 지원
• 새로운 얼리액세스 도구, 모델 및 기능 
  • NPU(AI Analyzer)에서 실행되는 모델을 위한 새로운 모델 분석, 프로파일링 및 시각화 도구
  • 새로운 플랫폼/NPU 검사 및 관리 도구(xrt-smi)
  • PyTorch 및 ONNX 흐름 모두에서 다중을 위한 LLM 흐름 지원

기술 리소스

1.1 릴리스 하이라이트

• 새 모델 지원:
  • w4abf16(3비트 및 4비트) 양자화(베타)를 지원하는 Llama 2 7B
  • Whisper 기반(얼리액세스)
• 새로운 EoU 도구 및 기능:
  • RyzenAI-SW Rep의 CNN 벤치마킹 도구
  • 플랫폼/NPU 검사 및 관리 도구

기술 리소스

1.0 릴리스 하이라이트

• 모델 지원
  • 1,000개 이상의 검증된 CNN 모델
  • PyTorch 및 ONNX 흐름을 사용하는 NPU의 OPT-1.3B
• EoU 도구 및 기능
  • ONNX PTQ(학습 후 양자화), PyTorch PTQ 및 QAT(양자화 인식 학습) 지원
  • C++ 및 Python API를 모두 사용하여 ONNX 런타임 Vitis AI 실행 공급자 지원
  • NPU에서 최대 8개의 동시 추론 세션을 자동으로 예약

기술 리소스