在 AMD 锐龙 AI Max+ Agentic PC 和 Radeon GPU 上运行 Meta Muse Glimmer 30B

智能体 AI (Agentic AI) 需要大容量上下文、持久化记忆、工具调用、隐私和低运营成本。有些方案会带来延迟、隐私问题和持续产生的词元（Token）使用成本。AMD 让这些工作负载能够在智能体 PC 上本地运行。

Muse Glimmer 是 Meta 超级智能实验室发布的一款全新开放权重的 300 亿参数密集模型（30B Dense Open-Weights Model）。采用 Apache 2.0 许可证，它专为本地智能体应用场景而设计。

在 AMD 平台上，Meta Muse Glimmer 30B 模型能够在 AMD 锐龙 AI Max+ 处理器的系统上或配备单张 AMD Radeon AI PRO R9700 显卡的工作站上高效运行，并可使用像 llama.cpp 这样的开放框架。这意味着，一款专为复杂智能体工作负载设计的模型如今可以直接运行在用户的桌面设备上，在保持工作负载本地运行的同时，减少持续产生的词元使用费用。

早期性能测试显示，Muse Glimmer 30B 在 AMD 硬件上的本地性能强劲，在 AMD 锐龙 AI Max+ 395 处理器上至高可达到每秒 24 个词元¹，在启用 dFlash 的单张 AMD Radeon AI PRO R9700 显卡上，至高可达到每秒 53 个词元²。这些初步测试结果是在 Windows 上使用流行的 llama.cpp 项目、结合 Vulkan 后端和 dFlash 推测解码测试的。随着软件和模型优化的推进，以及生态系统日趋成熟和，性能将继续提升。

300 亿参数、开放权重、开放、面向智能体，并采用 Apache 2.0 许可证

智能体需要保持上下文，完成一系列决策，调用工具，检查结果，动态调整并持续执行任务。Muse Glimmer 30B 正是为这种更长周期的工作流程而设计，包括跨越多个步骤和多个会话的复杂任务。它可以管理记忆，从故障中恢复，并在重启后继续运行，帮助开发者超越一次性互动，朝着能够承担有意义工作的智能体迈进。

与传统聊天机器人相比，智能体系统能够接触和处理更多与用户工作相关的上下文信息。它们可能需要访问和处理本地文件、消息、凭据和来自外部来源的内容。因此，隐私保护和系统韧性成为用户体验中的核心基础。Meta Muse Glimmer 30B 在设计时将安全性放在首位。它经过专门训练，以尽量减少不必要的信息披露，抵御来自不受信任内容的提示注入攻击，并遵守信息边界。通过本地运行，开发者可以更好地掌控数据在哪里处理，以及模型如何与工作流中的其他环节连接和交互。

Apache 2.0 许可证意味着开发者可以商业使用 Muse Glimmer 30B，对其进行修改、重新分发，并将其与他们已经使用的工具和开源框架进行集成和构建。

使用 LM Studio 运行

LM Studio 为消费者提供了一种直接且便捷的方式来本地体验 Meta Muse Glimmer。在配备 32GB 以上VRAM或可变图形内存 (VGM) 的 AMD 系统上，他们可以在几分钟内完成模型的发现、下载、运行并开始使用。基于 AMD 锐龙 AI Max+ 处理器的系统和搭载 AMD Radeon AI PRO R9700 32 GB 显卡的平台，均是运行 LM Studio + Muse Glimmer 30B 的推荐硬件配置，可以实现开箱即用。

注意：必须启用 dFlash 并正确设置草稿词元（Draft Token）的数量，以获得更优性能。

对于高级用户，还可以通过 LM Studio Server 在局域网中部署并提供模型服务，并利用其兼容 OpenAI 或 Anthropic 的接口，连接到主流智能体，如 Hermes Agent、Open Claw，或任何兼容 OpenAI 、Anthropic API 接口的其他应用程序。这使用户无需先开发应用程序，就能够轻松地从了解智能体 AI 快速过渡到在真实工作流中进行测试和验证。

智能体PC（Agentic PC）的下一个阶段

智能体 PC 正在从一台用于加速单个 AI 功能的设备，逐步演变为一个能够承载持久化智能的平台。

搭载AMD 锐龙 AI Max+ 的智能体PC 以及Radeon AI PRO R9700 显卡，为用户提供了两种推荐方式，将未来愿景带到桌面端。Llama.cpp 提供了基础，LM Studio 使模型易于使用，它们共同使强大的本地智能体能力从一个充满潜力的概念，转变为切实可用的实际应用。