AMD 赋能 MLPerf Endpoints：引领生成式 AI 基准测试新时代

AMD 如何助力打造开放透明、社区驱动且贴合实际应用场景的生成式 AI 服务基准测试模式

生成式 AI 性能评估领域正经历重大转变。评估重心已从单纯的硬件性能评估，转变为服务提供商视角下的综合评估。虽然测量 GPU 的 token 吞吐量依然重要，但向客户提供这些 token 已成为首要任务。基础设施也在历经演变，从聚焦单个框架转向通过端点提供托管式服务。

为跟上这些变化，作为行业标准 MLPerf 基准测试背后的联盟组织，MLCommons 一直在努力开发全新 AI 推理基准测试套件 MLPerf Endpoints，该套件专为生成式 AI 服务而设计。AMD 认识到这项开发计划的重要性，自该计划启动之初便积极参与其中，协助定义了这种新型性能评估方式所需的工作负载、规则和基础设施。MLPerf Endpoints 引入了多项新特性，包括以 API 为中心的架构和滚动提交机制，从而确保基准测试能与软件更新速度保持同步。

正因如此，AMD 积极牵头，大力推动 MLPerf Endpoints 发展。作为首批为 Endpoints 计划提供初始数据的五家合作方之一，AMD 积极参与构建该计划，因为我们坚信新一代 AI 基准测试模式应开放透明、由社区治理，并立足于实际部署场景。对 AMD 而言，在 AI 领域占据领导地位，不仅意味着提供性能卓越的硬件，还意味着抢先布局、参与制定关键标准，并秉持开放透明、广泛行业参与和长期信任的原则推动建立一种全新基准测试模式。

AMD 为 MLPerf Endpoints 增添了更多公信力，这得益于 AMD ROCm 软件栈一贯践行的开放理念。ROCm 为 AI 开发和部署提供了一个开放基础，其设计初衷便是支持生态系统协作、保障透明度以及广泛的软件兼容性。AMD 将这些原则贯彻到了基准测试中，针对基于开源 ROCm 软件栈和开源 AI 框架提交的所有 MLPerf 推理和训练测试，均发布了可复现的操作指南。因此，积极参与 MLPerf Endpoints，正是我们坚守开源软件、透明基准测试以及社区驱动发展这一更广泛承诺的延续。

MLPerf 基准测试之所以赢得业界信任，是因为 MLCommons 依托社区驱动的流程，基于公平中立、具有代表性且可重现的评估标准构建了该基准测试。MLPerf 基准测试套件由各领域专家工作组共同定义，这也是 MLPerf 获得采购方、构建者乃至更广泛生态系统重视的重要原因：MLPerf 标准是通过开放的行业流程形成，而非由单一供应商或发布者决定。

这一努力变得越来越重要。在快速发展的 AI 领域，基准测试既要贴合技术发展趋势，也要经由广泛社区共同制定，才能为整个行业创造价值。MLPerf Endpoints 依托中立的非营利组织管理模式、正式的工作组开发模式，以及一种让成员能够参与基准测试演进决策的治理模式，带来了这一全新维度。对于 AMD 而言，这种社区驱动的方法至关重要，因为它有助于建立一套可供整个生态系统审查、共同完善、长期信赖的行业标准。

MLPerf Endpoints 彰显了 AMD 在 AI 技术栈中一直倡导的原则：开放、透明、社区共促发展。MLPerf Endpoints 通过 API 和生产服务在实际应用场景中对生成式 AI 进行性能测评，相比由单一组织控制、测评方法或治理规则不太透明的封闭式评估模型，提供了更贴近现实的性能评估视角。依托以 API 为中心的框架、帕累托式报告以及滚动提交机制，MLPerf Endpoints 为评估现代生成式 AI 系统开辟了一条更开放、更实用的路径；正因如此，AMD 的参与也是其坚守开放创新和行业协作这一更广泛承诺的自然延伸。

随着 AI 逐渐成为一种服务，行业需要贴合现实、规则透明且开放共治的基准测试框架。这一点至关重要，因为基准测试方法正日益影响着 AI 基础设施的评估、筛选和采购方式。通过牵头推动 MLPerf Endpoints 发展，AMD 发出了明确的信号：AI 的未来应由性能卓越的硬件与由社区驱动的开放标准共同定义。随着该计划的推进，我们期待继续助力完善 MLPerf Endpoints 基准测试，并发布基于 AMD Instinct GPU 的测试结果。