AMD Ryzen™ AI 軟體

內建 NPU 的 AMD Ryzen 處理器與 Ryzen AI 軟體相容。支援的處理器清單

AMD Ryzen AI 軟體讓開發人員可使用 Ryzen NPU、整合式顯示卡 (iGPU)，或 NPU 與 iGPU 混合模式部署 AI 模型，在效能與效率之間取得平衡。AMD ROCm 軟體堆疊讓開發人員可使用 AMD 顯示卡（包括 Ryzen iGPU）進行 AI 模型訓練、推論與最佳化。

對於大型模型、需要高輸送量或高記憶體頻寬的模型，或涉及大量圖形處理或高強度運算的工作負載，進階開發人員應使用 ROCm 最佳化模型，並設定及管理 iGPU。

使用 iGPU 部署模型需要用到 AMD ROCm 軟體堆疊、DirectML 或 Lemonade。

• ROCm 是一套開發平台，可彈性進行模型開發、訓練與最佳化，以及設定和管理 AMD 顯示卡。
• DirectML 提供簡單明瞭的工作流程，可將模型轉換為 ONNX 並進行最佳化，以便使用 Ryzen 處理器的 iGPU 部署。
• 使用 AMD 的開放原始碼多模態 API Lemonade，即可自動設定及分配處理器、NPU 與 iGPU 資源，以執行多種 AI 應用程式。

最適合使用神經處理單元 (NPU) 開發的應用程式，是需要低功耗、高效率 AI 推論的應用程式。其中可能包括影像辨識、語言處理，以及即時視訊與音訊增強等工作。NPU 可執行小型到中型 AI 模型，包括 LLM、電腦視覺與影像產生模型。

NPU 應用程式非常適合用來為筆記型電腦、桌上型電腦與行動工作站導入 AI 功能，尤其適用於重視電池續航力的情況。NPU 也非常適合本機 AI，特別是在使用者需要保護資料隱私、要求低延遲，或無法仰賴網際網路連線的情況下。

鑑於 PyTorch 在 AI 開發領域極受歡迎，許多開發人員都想知道，是否能在 Windows 電腦上執行使用 PyTorch 開發的模型。以 PyTorch 或 TensorFlow 預先訓練的 AI 模型，可轉換為 ONNX 格式並進行量化，以與 AMD Ryzen AI 軟體相容。轉換後，即可在 Windows 與 Linux 上，針對配備 NPU 的 Ryzen 處理器開發 AI 應用程式。

最適合 NPU 應用程式開發的軟體工具，會針對特定 NPU 硬體進行最佳化，並支援開放原始碼架構與模型。這可讓開發人員兼顧效能與彈性。

AMD Ryzen AI 軟體包含可用來為 AMD NPU 建置應用程式的開發工具。此外也提供轉換工具，可將使用 PyTorch、TensorFlow 等熱門開放原始碼架構訓練的模型，轉換為經最佳化的 ONNX 格式，以便使用 NPU 執行。

最適合建置本機 AI 代理人的工具，會針對 NPU 與整合式顯示硬體進行最佳化。這有助於兼顧效能與效率，避免 AI 工作過度消耗電腦電池電量。這些工具也要支援各種開放原始碼預訓練模型，讓開發人員可依自身使用案例選擇最合適的模型。此外，軟體工具應讓所有資料保留在本機，且不需依賴雲端服務。

GAIA 是 AMD 推出的開放原始碼工具，可用來建置本機 AI 代理人。GAIA 可使用 AMD Ryzen AI 硬體完全在本機執行，不會產生雲端成本，也沒有 API 費用、用量限制或訂閱費用。

您可以透過 AMD 開發人員社群論壇與 AMD 開發人員 Discord 伺服器，直接與其他開發人員及 AMD 專家交流，以討論問題和協助疑難排解問題。您還可以在 GitHub 提交錯誤回報。