AMD Helion™ エージェント型 AI 用ラック

ハイパースケーラーのニーズと企業のニーズは根本的に異なります。ハイパースケーラーは、エージェントをきわめて大規模に展開し、ワットあたりのエージェント数を最適化し、既に別々の高速インフラストラクチャを運用しています。これに最適なのは CPU のみのラックです。企業は通常、2 つの別々のラックを設置することなく、エージェント用のコンピューティングとアクセラレーションの両方を提供する単一のラックを求めています。

はい、そのように設計されています。エージェントの構成に合わせて CPU ブレードを混在させることができ、エンタープライズ構成では GPU ブレードも併せて追加できます。

AMD Instinct™ MI350P です。5U サーバーに 8 基の GPU を搭載できます。ラックには 2 台の GPU サーバーを収納でき、合計 16 基の GPU (8 基ずつのノードが 2 つ) を搭載できます。この 2 つのノードは独立して動作し、両者の間にスケールアップ用の GPU ファブリックは存在しません。この構成はフロンティアスケールのトレーニングではなく、エンタープライズ向けのエージェント ワークロードとアクセラレーション向けに設計されているためです。

ラックおよびバスバーについては Orv3、ホスト プロセッサ モジュールについては DC-MHS、管理とセキュリティについては DC-SCM、電源シェルフについては HPRv2、ネットワークについては OCP NIC 3.0、シリコンの信頼のルートについては Caliptra です。すべてのレイヤーで準拠しています。たまたま OCP に合致したラック フレームではありません。

いいえ、それぞれ異なるニーズに対応します。AMD Helios™ は、スケールアップ GPU ドメインを統合することで、フロンティアスケールの AI トレーニングと大規模推論に対応できるよう構築されています。AMD Helion のエンタープライズ構成は、単一のラックで推論を実行するエージェント用インフラストラクチャを必要とする企業向けです。