代理式 AI 時代已經來臨
影像縮放
生成式 AI 帶來了能夠推理與回覆的系統。
代理式 AI 則增強這些系統，使其能夠針對工作進行規劃、採取行動和加以完成。
在代理式 AI 中，代理人會採取行動。它會將目標轉化為計畫、擷取並處理資料、觸發推論、使用軟體工具，最後驗證結果，並反覆執行各階段，直到工作成功完成。
就應用層次，代理式 AI 不只是您用來「聊天」的工具。它是一種可由使用者要求、排程工作、事件或另一個代理人觸發的數位助理，可代表您操作軟體來協助完成工作。編碼代理人、研究代理人、IT 自動化代理人與業務流程代理人，都是代理人被用來完成工作的早期範例。
這種從對話轉向行動的變化，從根本上改變了運算的平衡。代理人使用處理器執行，因此會使處理器運算需求呈指數增加，進而改變 AI 的基礎架構需求。雖然代理式 AI 可能會提高處理器使用率，但也可能會提高顯示卡使用率。代理式 AI 通常是使用 AI 推論來產出情報（顯示卡密集型工作負載），執行工作方面則是運用工具（處理器密集型工作負載）。
從模型到系統：是什麼讓 AI 具備「代理」能力
傳統 AI 部署以提示/回覆迴路為核心：使用者提供提示，AI 模型則提供回覆。代理式 AI 是指具備自主行動能力的系統，也就是能在定義範圍內獨立採取行動的能力。代理人不再只是單一提示/回應迴路，而是將該迴路擴大為一套系統：
- 要求與符元化：分解輸入或提示，並啟動代理式工作階段
- 規劃與擷取：將企業知識帶入上下文，並決定下一步行動的層級
- 推論與生成：主要的模型推論層級，向代理人提供回覆，或向代理人提供進一步指示以完成工作
- 工具執行：跨軟體、服務與 API 採取行動的層級
- 驗證與回覆：確保回覆完整且正確，並將結果提供給使用者，或視需要反覆執行流程
這種獨特的迴路模式正在轉變業務流程。AI 系統現在就像一組工作集合。單一要求可以產生多個代理人，每個代理人都會在定義好的限制範圍內獨立運作，與軟體、資料和服務互動，並在工作完成後消失。
為什麼代理式 AI 提高了處理器的重要性
代理人使用處理器執行。每個代理人也需要不只一個處理器來處理其建立的所有工作。隨著代理式 AI 擴充，顯示卡以外的工作也會增加：
- 協調大量同時執行的代理人
- 管理系統狀態與記憶體
- 與企業軟體連線並互動
- 處理控制路徑邏輯與 I/O
為了支援上述所有需求，代理式系統中的處理器有三種基本角色
AI 主控處理器
負責資料預處理與後處理，以最大化執行推論之顯示卡的效率。AMD EPYC 9005 高頻率處理器可實現卓越的顯示卡效率。
代理人處理器
負責主控代理人架構。協調處理器與顯示卡之間的所有工作，包括身分控管、預算與優先順序等政策控制。AMD EPYC 9005 處理器，尤其是高核心數產品，可提供擴充代理式工作負載所需的運算產能。
工具處理器
負責在資料庫、儲存、運算、搜尋等標準企業平台上執行工作，工作的來源不一而足，由複數代理人產生者便是其中一例。工具處理器存在於各種處理器與伺服器組態中。AMD EPYC 9005 伺服器處理器提供一系列完整的效能、核心數與價格選擇，可支援幾乎任何大小與規模。
什麼造就優秀的代理人處理器？
高核心數，可拉高代理人並行數量，並實現高工作執行能力
能效可最大化資料中心中的代理人容量
成本效益可擴充代理人以滿足需求，進而最大限度降低 TCO
成熟的軟體生態系統，可支援企業工具與架構
這些需求反映出，代理式 AI 從根本上來說是一種典型的通用運算。
AMD EPYC 伺服器處理器是代理式 AI 的理想選擇
AMD EPYC™ 9005 系列伺服器處理器是支援各種代理式 AI 工作負載的首選，因為這個系列提供：
- 領先的核心密度，可平行執行大量代理人
- 最佳化能效，提供領先的每 TDP vCPU 數量
- 理想成本效益，提供高每 TCO 核心數
- 原生相容於健全的企業 x86 軟體生態系統
AMD EPYC 伺服器處理器讓客戶能夠依據多樣化的工作負載需求配置基礎架構，在輸送量極其重要的情境中善用高核心數處理器的產能，在響應速度極其重要的情境中使用高效能核心，而不必將代理式 AI 侷限於一體適用的設計。
代理式 AI 常見問題
代理式 AI 的運作，通常是結合了推論、規劃、工具使用、記憶與回饋這些面向。AI 代理人會接收目標、建立計畫、選擇合適的工具或資料來源、執行動作、檢查結果，並視需要進行調整。根據使用案例不同，它可能會連線至企業的應用程式、資料庫、API、電子郵件、聊天平台或工作流程系統。
生成式 AI 會建立文字、影像、程式碼、摘要或建議等內容。代理式 AI 則更進一步採取行動。它可以將目標拆解為多個步驟、決定下一步要做什麼、使用軟體工具、擷取資訊、完成工作，並監控進度。在大多數情況下，代理式 AI 為了提供情報，會在整個工作流程中的某些部分用到生成式 AI。
代理式 AI 可支援複雜的工作流程，範圍涵括多種企業部門。常見使用案例包括客戶服務、銷售支援、研究、軟體開發、資料分析、IT 營運、行銷、HR、財務與後台自動化。例如，AI 代理人可以研究潛在客戶、更新 CRM、撰寫後續追蹤電子郵件，並安排下一步。
代理式 AI 可協助組織提升生產力、減少重複性工作、加快決策速度，並改善客戶與員工體驗。由於代理式 AI 可以管理多步驟流程，因此特別適合需要跨系統、團隊或資料來源協調的工作。它也能透過處理例行性或耗時的活動，協助員工專注於更高價值的工作。
在具備適當控制機制的設計下，代理式 AI 可以安全且有效。重要防護措施包括真人監督、明確權限、資料安全性、稽核存底、測試、核准工作流程，以及限制代理人可採取的動作。