エージェント型 AI を支えるインフラストラクチャの構築を後押し

AI を取り巻く状況が再び変化

お客様の多くは今もなお、AI の従来の使い方に基づく狭い視野を通して AI インフラストラクチャを捉えている可能性があります。つまり、一問一答型の単一の出力を前提として、どの GPU を使うか、アクセラレータのメモリ容量はどれくらい必要か、どのモデルを実行するかについて考えています。

いずれも重要な考慮事項ですが、もはや全体像ではありません。それらの事項は、試すことが最優先だった AI 導入の第 1 波においては合理的でした。ですが、エージェント型 AI の登場でインフラストラクチャを巡る話題が変わり、パートナーの皆様にとっては、GPU ばかりに注目する AI 観から脱却できるようにお客様を後押しする機会が生じています。

AI ワークロードの変化

AI は、LLM を使用したシンプルな一問一答型のワークロードから、継続的に動作する自律的なワークロードへと変革が進んでいます。この変革により、お客様は自社のインフラストラクチャで人間による介入なく運用やワークロードを継続的に実行して、従来よりも多くの処理をこなせるようになります。

エージェント型 AI システムは、自律的に計画を立て、情報を抽出し、ツールを呼び出し、API とやり取りできます。また、状態を更新し、データベースを照会し、ワークフローをトリガーし、複数のサービスを取りまとめることができます。このようなシステムが実運用に投入されるのに伴い、お客様には、従来のような個別のモデル推論に加えて、並列性とサービス負荷の高い継続動作のワークロードにも対応できるインフラストラクチャが必要です。

GPU は、AI の大規模なトレーニングや推論に引き続き不可欠であり、モデル演算に必要なアクセラレータ性能を提供していますが、エージェント型環境においてはシステムの一部にすぎません。エージェント型ワークフローの導入には、エージェント サンドボックスの拡張、AI ホストノード スループットの最大化、汎用ワークロードへの対応を組み合わせる必要があります。

こうした周辺作業の大半は CPU で処理されます。CPU が追いつかなければ、アクセラレータに多額の投資をしたとしても、ボトルネック、高レイテンシ、GPU の低使用率、効率の低い拡張性といった問題に行き当たります。

したがって、バランスの取れた AI プラットフォームには 2 つの要素が必要です。1 つはモデル演算用のアクセラレータ、そしてもう 1 つは、エージェント型 AI を大規模に利用できるようにするサービス、オーケストレーション、データ レイヤーに必要な、サーバー向けの高性能 CPU です。

AMD EPYC™ 9006 シリーズ サーバー向け CPU の登場により、インフラストラクチャは進化し、それらの新たな需要を満たすと共に、エージェント型 AI が導入されても最先端のパフォーマンスを引き続き提供できるようになりました。

エージェントの時代にふさわしい最高のサーバー向け CPU ポートフォリオ¹

AMD EPYC 9006 シリーズ サーバー向け CPU は、エージェント型 AI、クラウド、エンタープライズおよびハイパフォーマンス コンピューティング ワークロードにおいて、業界をリードする性能を発揮します。最大 256 コア、512 スレッド、最大クロック速度 5 GHz までを取り揃えており、コアあたりの性能はサーバー プロセッサとして群を抜いています。業界をリードする PCIe® Gen 6 I/O と、ソケットあたり最大 1.6 TB/秒のメモリ帯域幅を誇っており、需要の厳しいエージェント型ワークフローへと舵を切ろうとしているお客様の先導役となります。

AMD EPYC サーバー向け CPU は、高密度かつ高効率のサーバー インフラストラクチャを実現する標準ベースの x86 基盤を、アップグレードに不安を抱えるお客様に対して既にご提供しています。さらに、この次世代 CPU はロードマップを将来に向けて拡張しており、お客様が既存の本番環境に支障をきたすことなく、シームレスにアップグレードするのに役立ちます。

この新製品ラインアップはパートナーの皆様にとって、エージェント型 AI に関するお客様との対話に、スケールアップ、スループットの最大化、AI を取り巻く汎用ワークロードの処理という、3 つの明快な切り口を提供します。

1.スケールアップ

サンドボックス環境を構築しているお客様には、マルチエージェントの実証実験、並列度の高いエージェント サービス、高密度演算が重要です。使用可能な電力、ラック、予算といった制約の範囲内でより多くのエージェントを運用できるほど、持続不能なインフラストラクチャ コストや複雑さを生じさせることなく AI の導入を拡張しやすくなります。

コア数の多い AMD EPYC 9006 シリーズ サーバー向け CPU は、このニーズを満たすように設計されています。コア数は前世代よりも最大 33% 多いため²、パートナーの皆様は、エージェント密度を高めることでエージェントの処理能力の問題に直接対処できる方法としてお客様に提供できます。

2.スループットの最大化

アクセラレータが豊富に搭載されているシステムでも、サーバー向け CPU は重要な役割を担います。GPU へのデータ供給、データ移動の調整、I/O サポート、ホスト側サービスの実行、そしてモデルの実行とより広範なアプリケーション環境との間の摩擦軽減に貢献します。

高周波数の AMD EPYC 9006 シリーズ サーバー向け CPU は、業界をリードする PCIe® Gen 6 I/O サブシステムを備えており、前世代の製品と比べてレーンあたり 2 倍の帯域幅と³、ソケットあたり最大 1.6 TB/秒のメモリ帯域幅を提供し、ホスト側のボトルネックの緩和とシステム内での円滑なデータ移動を支えます。

GPU の使用率やトークン生成の最大化を重視するお客様にとって、これらの CPU は、AI ワークロードに欠かせないアクセラレータ パフォーマンスに、ホスト プラットフォームが対応するのに役立ちます。

3.汎用 AI サービス

お客様のワークロードの多くが単一の AI カテゴリには収まりきりません。お客様のユース ケースは、データベース、ストレージ サービス、CPU 推論、オーケストレーション ロジック、分析、ミドルウェア、セキュリティなどにわたっています。エージェント型 AI が最新のビジネス ワークロードを管理するための強力な援軍となるのは、まさにこのような汎用ワークロードです。

AMD EPYC 9006 シリーズ サーバー向け CPU の幅広いポートフォリオを活かすことで、パートナーの皆様は、お客様の要件を製品ファミリの適切なプロセッサに対応させて、小中規模の言語モデル向けには CPU 推論を、計画立案やツール向けにはオーケストレーションを提供し、また AMD SEV や Trusted I/O 機能などの AMD セキュリティ テクノロジを通じて機密 AI 環境のサポートを提供できます。

お客様が AI の導入と同時に既存のエンタープライズ インフラストラクチャのモダナイゼーションを進める場合は、AMD EPYC 9006 シリーズ サーバー向け CPU に移行することで、ソフトウェア スタックが依存している x86 プラットフォームを維持でき、移行の問題の軽減と、AI に関する計画立案から導入までの期間の短縮を実現できます。