AMD Helios™ ラックスケール プラットフォーム

AI インフラストラクチャ: システム レベルの課題

生成 AI とエージェント型 AI の普及により、企業のインフラストラクチャの至るところで需要が高まっています。AI ワークロード全体の中で推論が最も大きなウェイトを占めるようになった今、トレーニングの規模は拡大の一途をたどり、エージェント型 AI は、推論、オーケストレーション、データ転送における演算能力の要求レベルを大幅に押し上げています。こうしたワークロードの性能を左右するのはアクセラレータの性能だけではありません (もちろん重要な要素ではありますが)。

CPU はワークロードをオーケストレーションし、ネットワークはデータを転送し続け、ソフトウェアは高い使用率を維持し、そして物理ラックそのものは、大規模環境での電力や冷却から可用性や保守性に至るまで、あらゆる要素に対応する必要があります。

顧客の展開規模が拡大する中、顧客による評価の対象はもはや GPU 単体ではなく、システム全体の出力と効率になっています。顧客はますますマルチエージェント型のワークフローを重視するようになっているため、この必要性は高まる一方です。なぜなら、相互接続されたモデル、アプリケーション、ツール、データは、すべてが連携してスムーズに動作する必要があるからです。

顧客が AI インフラストラクチャを拡大させる中、コンポーネント単位で別々に設計されたものでは、統合、ネットワーキング、運用の複雑さが増す可能性があります。AMD Helios™ ラックスケール プラットフォームなら、演算、メモリ、ネットワーキング、ソフトウェア、電力、冷却、セキュリティ、保守性が、協調設計されたラックスケール プラットフォーム一つにまとめられているため、この問題への対処が可能です。

ハイパースケール AI とソブリン AI のために設計されたプラットフォーム

AMD Helios ラックスケール プラットフォームは、大量の推論、最先端モデルのトレーニング、ファインチューニング、ソブリン AI、エージェント型 AI 向けに設計された完全統合型のプラットフォームです。AMD Instinct™ GPU、AMD EPYC™ サーバー向け CPU、AMD Pensando™ NIC および DPU、AMD ROCm™ ソフトウェア、そして Meta の Open Rack Wide 規格に準拠したオープンなラック アーキテクチャを組み合わせた AMD Helios ラックスケール プラットフォームは、AI インフラストラクチャの導入を開始、あるいはアップグレードしようとしている顧客にとってオールインワンのソリューションになります。

GPU を利用するための単なるラックという枠を超え、このプラットフォームは、業界をリードする演算性能¹ を実現するために構築された包括的なブループリントです。顧客は、ハイパースケール向けの設計に基づいて、実際に展開できる本番環境向けのプラットフォームを構築できるようになります。

顧客や、顧客が求める AI ニーズに最適なソリューションを構成する必要はありません。パートナーは、AMD Helios ラックスケール プラットフォームを使用して、AMD が提供する最高レベルの技術を組み合わせ、大量の推論、最先端モデルのトレーニング、ファインチューニング、エージェント型 AI に最適化された一体的なシステムを、ハイパースケール、AI クラウド/ネオクラウド、ソブリン AI、大規模な企業向け AI インフラストラクチャなどさまざまな展開で実現できます。

AMD Helios ラックスケール プラットフォームを支える構築ブロック

AMD Helios ラックスケール プラットフォームは AMD の複数の中核的な構築ブロックを一つにまとめ、その各ブロックは、サーバー インフラストラクチャの課題を構成するさまざまな要素に対応します。その要素とは、アクセラレータを活用した演算やワークロードのオーケストレーション、データ転送やインフラストラクチャのオフロード、物理的な保守性などです。

AMD Helios ラックスケール プラットフォームの価値は、一つのコンポーネントだけから生まれるものではありません。それぞれのテクノロジを活用し、連携した一つのシステムとして動作するように設計することで、また、AMD ROCm ソフトウェアのサポートもうけながら、顧客はニーズに応じて拡張できる圧倒的な AI パフォーマンスを容易に利用できるようになります。

AMD Instinct™ MI455X GPU

AI インフラストラクチャを大規模に構築する顧客にとって、AMD Helios ラックスケール プラットフォームの価値は、包括的で再現可能なシステムとして機能することです。72 基の AMD Instinct™ MI455X GPU が最大 2.9 exaFLOPS FP4 または 1.4 exaFLOPS FP8 演算を実現。また、最大 31 TB の HBM4、最大 1.7 PB/s の HBM 帯域幅、最大 260 TB/s のスケールアップ帯域幅、最大 43 TB/s のスケールアウト帯域幅によって、AMD Helios は、推論、分散トレーニング、大規模ファインチューニングの各ワークロードの効率的な処理を維持します。

AMD Instinct MI455X GPU の詳細を AMD Helios ガイドでご覧ください 

AMD EPYC™ 9006 シリーズ サーバー向け CPU

AMD EPYC™ 9006 シリーズ サーバー向け CPU は、AMD Helios ラックスケール プラットフォームの処理基盤を提供し、大規模アクセラレータ環境の効率的な運用に必要なオーケストレーション、システム サービス、制御タスクをサポートします。

これは、複数のモデル、アプリケーション、ツール、データ ソースが継続的に相互作用するエージェント型 AI に不可欠です。

AMD EPYC 9006 シリーズ サーバー向け CPU の詳細をご覧ください 

AMD Pensando™ Vulcano 800 AI NIC

AMD Pensando™ Vulcano 800 AI NIC は、ワークロードを複数のラックやより大規模な AI クラスターに拡張するのに使用される、標準規格に基づくイーサネットのスケールアウト接続を提供します。ラック内では、イーサネット上の UALink が 72 基の GPU を接続して一つの連携したスケールアップ型アクセラレータ領域として機能し、同時に Vulcano NIC がそのパフォーマンスをラックをまたいで拡張することで、顧客は、ネットワークを別に再設計することなく、大規模で再現可能な AI インフラストラクチャを構築できます。

推論やトレーニングのワークロードの分散化に伴い、ネットワークは効率的なシステム パフォーマンスを達成する上で著しいボトルネックになり得ます。AMD Pensando AI NIC は、インフラストラクチャ全体での効率的なデータ転送を維持し、通信が制約の要因になるリスクを低減します。

AMD Pensando Vulcano 800 AI NIC に関するブログをご覧ください 

AMD Pensando™ Salina DPU

AMD Pensando™ Salina DPU は、ネットワーク、ストレージ、セキュリティの一部のサービスをホスト CPU からオフロードすることで、オーケストレーションという本来の役割のためにより多くの処理能力を CPU が使用できるようにし、同時に、AI インフラストラクチャをフロントエンドのネットワークとサービスに接続するための専用のレイヤーを提供します。この分離型のアプローチでは、ソフトウェア定義ネットワークの機能を専用のデータ処理ハードウェアに移動させることで、インフラストラクチャの効率を向上できます。

この役割の分離は、AI クラウドやマルチテナント インフラストラクチャで特に重要となります。そのような環境では、運用者は、すべてのタスクを CPU に割り振らず、共有リソース、インフラストラクチャ サービス、ワークロード分離を管理する必要があります。

AMD Pensando Salina DPU に関するブログをご覧ください 

オープンな業界標準に基づいて構築されたアーキテクチャ

AMD Helios ラックスケール プラットフォームの最後の構築ブロックは、演算を取り巻く物理アーキテクチャです。各種のオープン スタンダードに準拠し、再現可能な GPU 4 基のコンピューティング トレイを基に構築されています。この容易に標準規格に対応できる基盤が、企業顧客によるハイパースケール環境での展開と保守を可能にします。これらの標準規格には次が含まれます。

オープンなラック全体設計/OCP 準拠のラック設計

UALoE スケールアップ

UEC 準拠のイーサネット スケールアウト

AMD ROCm ソフトウェア

これらの規格に準拠することで、高密度な AI 演算が、本番環境に展開可能なインフラストラクチャへと変わります。電力、冷却、保守、コンポーネント交換といった要素はラック レベルでの扱いとなるため、顧客は、一度限りのシステム導入から脱却し、再現可能で効率的なアーキテクチャ設計へと移行できます。

AMD Helios ラックスケール プラットフォームがオープンでスケーラブルな AI インフラストラクチャをどのように進化させるのか、詳細をブログでご確認ください 

AMD Helios が大規模な AI 運用に伴う課題を解決

AMD Helios ラックスケール プラットフォームの価値は、顧客が大規模な AI インフラストラクチャに求める性能を評価することで最も正しく理解できます。たとえば、ラックレベルの AI ファクトリのより高い性能、ラックからクラスターまでのオープンな拡張、生産性の高いインフラストラクチャ、保守性、セキュリティ、そして、個々のシステムから本番環境向けのプラットフォームへと展開が移行する際の優れた経済性などがあります。

AMD ROCm™ ソフトウェアの基盤

ハードウェアによって、顧客の AI インフラストラクチャが発揮できる性能の上限が決まります。そしてソフトウェアによって、顧客が実際にその性能をどれだけ簡単に、どれだけ効果的に活用できるかが決まります。

AMD ROCm ソフトウェアは、AMD Helios ラックスケール プラットフォームにオープンなソフトウェア基盤を提供し、顧客は、ラックスケール環境とクラスター環境全体で、AI 推論、トレーニング、ファインチューニングを展開、管理、最適化するのに必要なツールを得ることができます。

AMD ROCm ソフトウェアは、PyTorch、TensorFlow、JAX、ONNX Runtime、vLLM、SGLang、Triton などの広く利用されている AI モデル、フレームワーク、ランタイムに対応しています。最近のエコシステムの進展によって、200 万を超えるモデルが利用できるようになり、また、オープンソースの AI フレームワークと推論エンジン全体でのサポートも拡充されています。

AMD ROCm はオープン スタンダードを中心に構築されているため、顧客は使用するモデル、ツール、環境に対してより高い柔軟性を保持できます。また、AI ワークロードを実行するハードウェアは、ワークロードが拡大してもソフトウェアの最適化によって高い生産性を維持し、大規模環境でも効率的なパフォーマンスを発揮します。

パートナーにとってこれは、顧客との対話はハードウェアそのものにとどまるべきではないことを意味しています。顧客はパートナーの支援のもと、希望するモデルやフレームワークがサポートされているか、既存のアプリケーションの移動に伴う作業は何か、必要なスキルがチームにあるか、プラットフォームが既存のオーケストレーション、監視、管理の各ツールにどのように接続するか、などを評価します。

AMD Helios ラックスケール プラットフォームの対象ユーザー

AMD Helios ラックスケール プラットフォームは、AI インフラストラクチャを大規模に運用する組織向けに設計されています。運用形態が異なっていても、ラックスケール AI を求めている顧客は皆、高密度演算、スケーラブルなネットワーキング、安定した運用と自社インフラに対する制御という同じニーズを持っています。

大規模 AI 運用事業者: ハイパースケーラー、AI クラウド/ネオクラウド プロバイダー、最先端モデルの開発企業

この層は、AI ファクトリを構築して、グローバル規模のサービスと、AI 分野において急速に拡大する需要を支えています。そのワークロードには、フリート規模での推論、分散トレーニング、大規模ファインチューニングが含まれ、多くの場合、個々のラックではなく大規模なクラスター全体で処理されています。

そういった顧客の主な懸念は、出力密度、使用率、帯域幅、そしてシングル ラックから大規模なクラスターに拡張する際の経済性に集中しています。重視するのは、大規模なフリート全体での再現性と保守性です。

AMD Helios ラックスケール プラットフォームは、ラックレベルの高密度演算およびメモリ容量と、この種の展開に特化して設計されたオープンなスケールアウト ネットワークおよび再現性のあるアーキテクチャを結び付けます。

ソブリン AI とエンタープライズ AI の展開

ソブリン AI チームとデータセンター プラットフォーム チームは、政府、公共機関、重要産業が、所有する AI インフラストラクチャを制御するのに必要な能力を提供します。このタイプの展開では、セキュリティ、ガバナンス、長期的なキャパシティに関する要件を満たしながら、オンプレミスまたは国境内で運用する必要があります。

AMD Helios ラックスケール プラットフォームは、演算、メモリ、オープン ネットワーク、セキュリティ、ROCm ソフトウェア、保守性の高いラック設計を統合し、このようなタイプの顧客が、制御、柔軟性、将来にわたるインフラストラクチャの選択肢を維持できるようにします。

OEM/ODM およびエコシステム構築企業

この層の顧客は、AI インフラストラクチャ市場で異なる役割を果たしています。彼らは、高度なラックスケール設計を、顧客向けに繰り返し構築、検証、提供、保守、サポートできるシステムに変換する必要があります。

こういった顧客にとっての AMD Helios ラックスケール プラットフォームの価値は、ラックそのものが発揮するパフォーマンスだけではなく、AMD が、演算、ネットワーク、ソフトウェア、セキュリティ、電力、冷却、物理的な保守性を、AI ファクトリの包括的なブループリントにまとめたことにあります。

それによって、OEM/ODM パートナーやエコシステム構築企業にはより明確な基盤がもたらされ、AMD テクノロジを中心に差別化されたシステムを開発できるようになります。AMD Helios は、必要となるカスタム統合を減らしますが、パートナーには変わらず、システムの設計、検証、展開、顧客ごとの実装においてイノベーションを行う余地があります。

オープンな AI ファクトリ プラットフォームのパートナーが実現できること

AI インフラストラクチャは、そのコンポーネントごとに購入を検討するような段階にはもうありません。顧客が今求めているソリューションは、演算、メモリ、ネットワーク、ソフトウェア、セキュリティ、物理的なラック アーキテクチャの幅広い領域と、さらに、それらすべてが連携して一つのシステムとしてどのように動作するかまでをカバーし、AI の実験段階から大規模な本番運用への移行を支援するものになります。

AMD Helios ラックスケール プラットフォームはパートナーに、顧客に提案するための包括的なソリューションを提供します。強力なテクノロジそれぞれを、ラックのオープン スタンダードと AMD ROCm ソフトウェアに結び付けることで、AI の処理性能、スケーラビリティ、運用上の信頼性を重視するあらゆる顧客に応える素晴らしいソリューションになっています。

AMD Helios ラックスケール プラットフォームについてと、AI 分野に参入する、またはさらなる発展を目指す顧客をどのように支援できるかについて、詳しくは AMD 担当者までお問い合わせいただくか、AMD.com にアクセスしてください。

AMD Helios ラックスケール プラットフォームのランディング ページにアクセス