簡介

由於神經網路愈來愈廣大而複雜,使用較低功率獲得更高運算密度的需求也持續增長。探索 AMD XDNA™ NPU 架構如何滿足這項需求。

影像縮放
佔位符

AMD XDNA - AI 引擎

AMD XDNA 是一種空間資料流程 NPU 架構,由 AI 引擎處理器的並排陣列組成。每塊 AI 引擎磚都包含向量處理器、純量處理器,以及本機資料和程式記憶體。與需要從快取中重複擷取資料的傳統架構(會消耗能源)不同,AI 引擎使用晶片上記憶體和自訂資料流程,支援 AI 和訊號處理功能進行高效率、低功率的運算。

磚內探秘

每塊 AI 引擎磚都包含 VLIW(超長指令字)、SIMD(單一指令多重資料)向量處理器,針對機器學習和進階訊號處理應用程式最佳化。AI 引擎處理器可加速超過 1.3 GHz,支援高效率、高輸送量和低延遲功能。每塊磚也包含程式和本機記憶體,用於儲存資料、權重、激發和係數;精簡指令集電腦 (Reduced Instruction Set Computer, RISC) 純量處理器和不同的互連模式,則是用於處理不同類型的資料通訊。

影像縮放
佔位符

AMD XDNA 2

新一代 AMD XDNA 2 專為電腦中的生成式 AI 體驗所打造,可提供優異的運算效能、頻寬和能效。 

優勢

Big data analytics through machine learning, Artificial Intelligence concept background
軟體可程式化

AMD NPU 可程式化而且可編譯,僅需數分鐘。它也能利用程式庫型設計簡化機器學習 (Machine Learning, ML) 框架開發人員的工作流程。

Digital brain illustration on dark blue background, artificial intelligence
決定性

AMD NPU 包含專用的指令和資料記憶體,以及搭配 DMA 引擎的專屬連線功能,以便使用 AI 引擎磚之間的連線功能,進行排定的資料移動作業。

Cyber big data flow. Blockchain data fields. Network line connect stream
高效率

AMD NPU 可提供比傳統架構更高的運算密度,並可帶來卓越能效。

Generative ai embossed mesh representing internet connections in cloud computing
可擴充

AMD NPU 架構如同由多個 AI 引擎磚組成的 2D 陣列,可在單一裝置中將 AI 引擎磚從數十個擴充至數百個,滿足各種應用程式的運算需求。

相關產品