AMD Ryzen AI 软件

搭载 NPU 的 AMD 锐龙处理器均兼容 Ryzen AI 软件。受支持的处理器列表

AMD Ryzen AI 软件支持在锐龙 NPU 或集成 GPU (iGPU) 上部署 AI 模型，也支持在 NPU 与 iGPU 混合模式下进行部署，以兼顾性能与效率。AMD ROCm 软件栈支持在 AMD GPU（包括锐龙 iGPU）上进行 AI 模型训练、推理和优化。

对于大型模型、需要高吞吐量或内存带宽的模型，或者涉及密集图形处理或高强度计算的工作负载，高级开发者应使用 ROCm 来优化模型并配置和管理 iGPU。

要在 iGPU 上部署模型，需要使用 AMD ROCm 软件栈、DirectML 或 Lemonade。

• ROCm 是一个开发平台，在模型开发、训练、优化以及 AMD GPU 配置和管理方面提供了极大的灵活性。
• DirectML 提供简洁工作流程，可将模型转换为 ONNX 格式并完成优化，以便将模型部署在锐龙处理器的 iGPU 上。
• Lemonade 是 AMD 的开源多模态 API，可自动配置并分配 CPU、NPU 和 iGPU，以确保顺畅运行众多 AI 应用。

神经处理单元 (NPU) 最适合用于开发需要低功耗、高效 AI 推理的应用。这类应用可能涉及图像识别、语言处理以及实时视频和音频增强等任务。NPU 可运行中小型 AI 模型，包括 LLM、计算机视觉和图像生成模型。

如果想要为笔记本电脑、台式 PC 和移动工作站引入 AI 功能，NPU 应用便是理想之选，尤其是在优先考虑电池续航能力的情况下。对于用户需要保护数据隐私、追求低延迟或无法稳定联网的场景，NPU 也是实现本地 AI 的理想之选。

PyTorch 在 AI 开发领域的应用极为广泛，因此许多开发者想知道是否可以在 Windows PC 上运行基于 PyTorch 开发的模型。基于 PyTorch 或 TensorFlow 的预训练 AI 模型可以转换为 ONNX 格式并进行量化，以实现与 AMD Ryzen AI 软件的兼容。这使得开发者可在 Windows 和 Linux 系统上，基于搭载 NPU 的锐龙处理器进行 AI 应用开发。

适用于 NPU 应用开发的软件工具需要针对特定 NPU 硬件进行优化，并支持开源框架和模型。这使开发者能够兼顾性能与灵活性。

AMD Ryzen AI 软件包含基于 AMD NPU 构建应用所需的各种开发者工具。它还提供了相关工具，可将基于 PyTorch 和 TensorFlow 等常用开源框架训练的模型转换为经过优化的 ONNX 格式，以便在 NPU 上执行。

适用于构建本地 AI 智能体的工具需要针对 NPU 和集成 GPU 硬件进行优化。这有助于平衡性能和能效，确保 AI 任务不会耗尽 PC 电池电量。这些工具还需支持各种开源的预训练模型，以便开发者能够根据其应用场景选择适配的模型。最后，这些软件工具应确保所有数据均保留在本地，且无需依赖云服务。

GAIA 是 AMD 推出的一款用于构建本地 AI 智能体的开源工具。它完全在 AMD Ryzen AI 硬件上本地运行，无云端成本、无 API 费用、无使用限额，也无需订阅。

通过 AMD 开发者社区论坛和 AMD 开发者 Discord 服务器，您可以直接与其他开发者和 AMD 专家沟通交流，共同讨论问题并帮助解决问题。您还可以在 GitHub 上提交问题。