概述
AI 時代持續演進，不僅帶來新一類運算需求，也改變了處理器與顯示卡之間的搭配關係。生成式 AI 帶來能在提示與回覆的循環中進行推論並做出回覆的系統。代理式 AI 進一步讓這些系統具備自主能力，能夠規劃、採取行動並完成工作。AMD EPYC™ 伺服器處理器可協助您的資料中心作好迎接代理式 AI 時代的準備。
代理式 AI 正在改變資料中心需求
AMD 運算與企業 AI 公司副總裁 Madhusudhan Rangarajan 說明代理式 AI 系統的運作方式，以及這類系統為何將改變資料中心，並重塑處理器與顯示卡的角色。
深入解析代理式工作流程
代理式 AI 是由不同運算階段組成的管線
從閘道到回覆，每個階段對處理器都有獨特的需求。代理式 AI 會持續不斷地經歷運算、記憶體、I/O、安全性及加速器密集型等不同階段。
精選資源
深入瞭解代理式工作流程為何會增加處理器需求。
處理器角色
隨著代理式 AI 規模擴大，每個代理人都會用到多個處理器來協調工作、管理記憶體、連接企業軟體並處理資料流，因而全面推升處理器需求。豐富的 AMD EPYC™ 伺服器處理器產品組合能以三種不同角色因應這些需求：擴充代理人沙箱、最大化 AI 主控節點輸送量，以及支援代理人完成工作所需的一般用途工作負載。
代理人沙箱處理器
運用 AMD EPYC 伺服器處理器領先的每瓦效能、單位成本最高執行緒數，以及每機架最高執行緒密度，來最佳化代理人承載量，讓每瓦、每美元和每機架所能支援的代理人數達到最高2,3。
AI 主控節點處理器
運用高頻率 AMD EPYC 伺服器處理器，最大化顯示卡使用率並協助增加符元生成量，實現卓越的顯示卡效率與優異的每核心效能。
一般用途處理器
透過豐富的 AMD EPYC 伺服器處理器產品組合，為規劃、工具使用與子代理人進行調度工作，將領先效能延伸至資料庫、儲存、運算與搜尋等一般用途工作負載所。
適用於代理式 AI 的 AMD EPYC 伺服器處理器
代理式時代的全球最佳伺服器處理器產品組合
AMD EPYC™ 伺服器處理器憑藉領先效能、能效，以及高核心與執行緒密度，提供最佳代理式 AI 解決方案，可同時平行執行大量代理人，並最佳化您的整體持有成本 (TCO)。
產品組合
探索全球最豐富的代理式 AI 伺服器處理器產品組合，滿足您的代理式需求。
部落格
常見問答
代理式 AI 的運作，通常是結合了推論、規劃、工具使用、記憶與回饋這些面向。AI 代理人會接收目標、建立計畫、選擇合適的工具或資料來源、執行動作、檢查結果，並視需要進行調整。根據使用案例不同，它可能會連線至企業的應用程式、資料庫、API、電子郵件、聊天平台或工作流程系統。
生成式 AI 會建立文字、影像、程式碼、摘要或建議等內容。代理式 AI 則更進一步採取行動。它可以將目標拆解為多個步驟、決定下一步要做什麼、使用軟體工具、擷取資訊、完成工作，並監控進度。在大多數情況下，代理式 AI 為了提供情報，會在整個工作流程中的某些部分用到生成式 AI。
代理式 AI 可支援複雜的工作流程，範圍涵括多種企業部門。常見使用案例包括客戶服務、銷售支援、研究、軟體開發、資料分析、IT 營運、行銷、HR、財務與後台自動化。例如，AI 代理人可以研究潛在客戶、更新 CRM、撰寫後續追蹤電子郵件，並安排下一步。
代理式 AI 可協助組織提升生產力、減少重複性工作、加快決策速度，並改善客戶與員工體驗。由於代理式 AI 可以管理多步驟流程，因此特別適合需要跨系統、團隊或資料來源協調的工作。它也能透過處理例行性或耗時的活動，協助員工專注於更高價值的工作。
在具備適當控制機制的設計下，代理式 AI 可以安全且有效。重要防護措施包括真人監督、明確權限、資料安全性、稽核存底、測試、核准工作流程，以及限制代理人可採取的動作。
資源
尾註
- EPYC-068 - AMD EPYC 伺服器處理器產品組合的資料中心部署涵蓋範圍為業界最廣，從一般用途企業、雲端、電信、中小企業和 HPC 系統，到包含沙箱化代理式 AI 部署與顯示卡主控節點伺服器在內的新興 AI 環境，可謂無一不包。第 6 代 AMD EPYC 平台進一步提升此系列的多樣性，獨特結合最高 512 個執行緒的高核心與執行緒密度、最高支援 16 通道 12.8 GT/s MRDIMM 的進階記憶體頻寬、新一代 PCIe® Gen 6 連線能力，以及特定 SKU 最高 5 GHz 的提升頻率。
- 9xx6-013：此比較是依據截至 2026 年 7 月 22 日公開的最高階產品核心數與 1Ku 定價，以估算 AMD EPYC™ 9006（512 執行緒）、AMD EPYC™ 9005（384 執行緒）和 Intel® Xeon® 6（256 執行緒）SKU 的最高單位處理器成本代理人數與單位處理器成本執行緒數。執行緒數以每核心 2 個執行緒 (SMT) 計算。Intel 與 Xeon 是 Intel Corporation 或其子公司的商標。
資料來源：https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
代理人數為估計值，是在一致的理論工作負載下，以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。
- 9xx6-005A：vCPU 支援數量以執行緒數為基準，比較最高階的 256 核心（512 執行緒）第 6 代 EPYC 9996 處理器，以及 192 核心（384 執行緒）第 5 代 EPYC 9965。相較之下，Intel® Xeon® 處理器中執行緒數最高的是 Intel Xeon 6990E，共 288 個執行緒；Nvidia 處理器中執行緒數最高的是 Nvidia Vera，具備 88 個核心（176 個執行緒）。
作為參考，本註在此補充，第 6 代 Intel Xeon 處理器支援的執行緒數最高約為第 5 代 AMD EPYC 處理器的 0.8 倍，ARM AGI 預期最高約為 0.7 倍，而 Nvidia Vera 預期約為 0.5 倍。
- EPYC-068 - AMD EPYC 伺服器處理器產品組合的資料中心部署涵蓋範圍為業界最廣，從一般用途企業、雲端、電信、中小企業和 HPC 系統，到包含沙箱化代理式 AI 部署與顯示卡主控節點伺服器在內的新興 AI 環境，可謂無一不包。第 6 代 AMD EPYC 平台進一步提升此系列的多樣性，獨特結合最高 512 個執行緒的高核心與執行緒密度、最高支援 16 通道 12.8 GT/s MRDIMM 的進階記憶體頻寬、新一代 PCIe® Gen 6 連線能力，以及特定 SKU 最高 5 GHz 的提升頻率。
- 9xx6-013：此比較是依據截至 2026 年 7 月 22 日公開的最高階產品核心數與 1Ku 定價，以估算 AMD EPYC™ 9006（512 執行緒）、AMD EPYC™ 9005（384 執行緒）和 Intel® Xeon® 6（256 執行緒）SKU 的最高單位處理器成本代理人數與單位處理器成本執行緒數。執行緒數以每核心 2 個執行緒 (SMT) 計算。Intel 與 Xeon 是 Intel Corporation 或其子公司的商標。
資料來源：https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
代理人數為估計值，是在一致的理論工作負載下，以可用的處理器執行緒資源作為代理推算而得。實際代理人承載量與輸送量會因工作負載、模型、記憶體、軟體、調度和系統組態而有所不同。 - 9xx6-005A：vCPU 支援數量以執行緒數為基準，比較最高階的 256 核心（512 執行緒）第 6 代 EPYC 9996 處理器，以及 192 核心（384 執行緒）第 5 代 EPYC 9965。相較之下，Intel® Xeon® 處理器中執行緒數最高的是 Intel Xeon 6990E，共 288 個執行緒；Nvidia 處理器中執行緒數最高的是 Nvidia Vera，具備 88 個核心（176 個執行緒）。
作為參考，本註在此補充，第 6 代 Intel Xeon 處理器支援的執行緒數最高約為第 5 代 AMD EPYC 處理器的 0.8 倍，ARM AGI 預期最高約為 0.7 倍，而 Nvidia Vera 預期約為 0.5 倍。