拡張性を重視した AI ネットワーキング

AI ネットワーキングは、スケールアップおよびスケールアウト アーキテクチャで実行される同期化された大容量 GPU 通信に最適化されており、従来のワークロードでは必要とされない、インテリジェントな輻輳管理、高速リカバリ、および詳細な可観測性を提供します。

AI NIC は、GPU 間の通信を最適化し、レイテンシを低減し、大規模なスケールでの信頼性を向上させるプログラマブル ロジックと専用アクセラレーションを追加します。

スケールアップとは、ノード内または密結合システム内のパフォーマンスを最大化することです。スケールアウトとは、データセンター内のクラスターやポッドにまたがり拡大することです。スケールアクロスとは、地理的に分散した複数のデータセンターの統合的な管理とオーケストレーションを可能にすることで、単一の統合システムとして運用できます。

AMD は、実績のあるイーサネット規格を基にしており、パートナー エコシステムとの広範な関係を維持することで、相互運用性を確保しつつ、ベンダーの柔軟性を維持しています。

UALoE (Ultra Accelerator Link over Ethernet) は、スケールアップ ネットワーク ファブリック用のラックスケール システムで使用されます。これにより、多くの GPU が 1 つの統合システムとして動作できるようになります。本番環境対応の AI に必要な信頼性とオープン性を維持しながら、密結合 GPU のパフォーマンスを提供します。これらはすべてイーサネット規格に基づいて構築され、将来に備えて柔軟性を確保しています。

AMD のソフトウェアスタックには、自動化されたデイ ゼロ/デイ ツー運用のための AMD Cluster Controller (ACC)、GPU のパーティション化と分離用の AMD Fabric Manager (AFM)、信頼性の高いスイッチ オペレーション用の AMD Fabric Operating System (AFOS) が含まれています。これらを組み合わせることで、手作業による構成を排除し、大規模な AI クラスターを本番環境で実用的に運用できるようになります。