導入 AI
企業面臨的挑戰
各產業對 AI 的需求持續加速成長。雖然效益與生產力提升極具吸引力,但要如何針對自身需求來正確配置基礎架構,這項判斷經常讓企業無所適從,畢竟需求會隨著工作負載波動而有增有減。工具會隨著時間經過演進,新的可能性會出現。企業可能難以跟上發展腳步,甚至不知道該如何開始。
許多企業客戶面臨以下幾項挑戰:
工具零散化:不可預測性與工具的零散,會導致資源可視性與使用率不足,讓客戶難以掌握狀況,也難以最佳化工作流程。
複雜的基礎架構:封閉式平台、橫跨多種配置的複雜工作負載,以及缺乏效能最佳化,都會拖慢企業腳步並造成效能瓶頸。
投資報酬率不明確:企業會問自己:「AI 的潛力究竟有多大?需要投入多少資源,才能達成哪些成果?」若沒有專責團隊推動 AI,企業對於 AI 導入的走向便會欠缺通盤的掌握。
確保 AI 導入真正符合客戶需求,對長期採用極其重要。AI 仍分散於不同硬體與軟體環境中,迫使客戶自行整合解決方案。有了 AMD Enterprise AI Reference Stack,客戶不再需要獨自面對這項挑戰。
此堆疊是一套以開放原始碼技術打造的統合模組化平台,讓企業能將 AI 從實驗階段推進至為業務帶來實質影響。AMD Enterprise AI Reference Stack 可加速 AI 部署、強化現有營運並充分提升投資報酬率,讓您為客戶提供的硬體充分發揮應有價值,進一步拓展 AI 在企業領域的可能性。
透過值得信賴的生態系合作夥伴關係推動企業 AI
AMD 正與 VMware、Nutanix、Red Hat、Canonical 及 SUSE 等領先 OSV 供應商合作,提供針對 AMD 硬體調整與最佳化的企業 AI 解決方案。這些合作夥伴關係共同協助企業在混合雲、虛擬化環境與內部部署環境中實現可擴充、安全且具互通性的 AI 部署,並透過經驗證的軟體堆疊,利用 AMD Instinct™ 顯示卡與採用 AMD 技術之基礎架構所提供的最佳化效能,加速企業採用 AI。
快速支援 AI 技術
深入解析 AMD Enterprise AI Reference Stack
AMD Enterprise AI Reference Stack 提供四個不同的元件,這些元件雖整合於同一套方案中,但仍保有模組化選擇彈性,讓客戶能依使用案例選用所需元件。開始使用也十分簡單;客戶只需幾分鐘,即可從裸機硬體邁向生產級 AI 環境。
AMD Resource Manager
AMD Resource Manager 透過各種檢視方式與功能,讓客戶全面掌握並管理基礎架構,其中包括資源儀表板,可清楚呈現叢集、顯示卡節點等資源的整體概況。客戶可透過智慧工作負載排程、配額管理,以及整合 Ray 的分散式排程,最佳化顯示卡使用率與成本控管;此外,具體可行的遙測資料還能提升跨團隊的輸送量、公平性與產能規劃。
AMD AI Workbench
AMD AI Workbench 透過動態工作區、用於微調基礎模型的預先建置管線,以及推論部署,加速 AI 開發與協作,簡化從原型到實際執行的歷程。
AMD AI Workbench 提供針對 AMD 運算最佳化的開放原始碼模型庫,並簡化 Visual Studio Code 與 JupyterLab 等互動式工具的部署,讓企業能在熟悉的 IDE 中快速進行 AI 應用程式的原型設計與開發。
AMD Inference Microservices (AIM)
AIM 提供預先建置且經過最佳化的容器,其中包含 AI 模型、推論引擎,以及使用 AMD 平台所需的具體配置,可實現更快速且更有效率的部署。AIM 支援開放式模型與 OpenAI 相容 API,並具備智慧硬體偵測與調整功能,以充分提升效能與成本效益。
AMD Solution Blueprints
AMD Solution Blueprints 提供預先建置且經過驗證的設計,協助企業加快專案進度、降低工程開發成本,並導入可重複部署的生產級解決方案。這些藍圖可拉近原始 AI 模型與實用商業工具之間的落差,為常見的企業 AI 應用提供已準備就緒的起點。
清楚呈現各項效益
這四個元件相輔相成,填平「AI 能為客戶帶來的無限可能」與「客戶目前面臨的瓶頸與資源缺口」兩者之間的鴻溝。AMD 合作夥伴如今不再只能提供硬體,而是能為企業客戶提供完整的生產級解決方案。
輕鬆移轉:AMD Inference Microservices 採用具備硬體感知能力且使用 OpenAI 相容 API 的容器,讓目前使用競爭對手平台的客戶能流暢移轉。透過 Enterprise AI Reference Stack,客戶可迅速完成上線並開始使用 AI,讓移轉流程更加流暢。
投資報酬率最大化:AMD Resource Manager 可協助客戶避免顯示卡閒置與資源浪費,充分發揮硬體投資效益,並在各團隊之間有效分配運算資源。
提升生產力:AMD AI Workbench 讓團隊能直接將模型部署至硬體進行測試與微調,有助於縮短正式上線所需時間,並確保新基礎架構的投資從第一天起就能針對投資報酬率進行最佳化。
簡化部署:有了 AMD Solution Blueprints,您的客戶不需要聘雇大批 AI 工程師。這些參考設計可立即執行,能因應從文件研究到自動化程式碼助理等最常見的企業需求。這些參考設計已由 AMD 預先驗證,可搭配 AMD 硬體運作,並且提供精簡的導入方式,可協助您的企業客戶迅速開始執行 AI 工作負載。
對所有人開放的 AI
有別於專有替代方案,AMD Enterprise AI Reference Stack 以開放式技術為基礎打造,讓客戶能擁有自己的技術堆疊,並保有對部署環境的控制權。
如果您想深入瞭解 Enterprise AI Reference Stack,以及其能為您的客戶帶來的各種可能性,請洽詢您的 AMD 代表。
AMD Arena
透過針對 AMD 各類產品的訓練資源,培養關於 AMD AI 解決方案、AMD EPYC™ 伺服器處理器、AMD Instinct™ 顯示卡和其他產品的專業知識。
訂閱
取得關於最新 AMD 產品、訓練資源和「專家面對面」網路研討會的每月最新消息。