Aider les clients à construire l'infrastructure nécessaire pour l'IA agentique

Le paysage de l'IA est à nouveau en train de changer

Vos clients ont probablement encore une vision étroite de l'infrastructure d'IA, fondée sur la manière dont ils ont utilisé cette technologie jusqu'à présent : des réponses ponctuelles à des questions telles que le choix des GPU à utiliser, la quantité de mémoire d'accélérateur nécessaire et les modèles qu'ils souhaitent exécuter.

Tous ces éléments sont certes importants, mais ils ne reflètent plus la réalité dans son ensemble. Ils avaient leur raison d'être lors de la première vague d'adoption de l'IA, lorsque la priorité était donnée à l'expérimentation. Avec l'avènement de l'IA agentique, le débat sur l'infrastructure a évolué. Les partenaires ont désormais l'opportunité d'aider leurs clients à dépasser une vision de l'IA exclusivement centrée sur les GPU.

Évolution des charges de travail d'IA

L'IA évolue, passant de simples charges de travail de type « appel-réponse » basées sur des LLM à des charges de travail continues et autonomes qui permettent aux clients de tirer pleinement parti de leur infrastructure, en exécutant des opérations et des charges de travail en continu sans intervention humaine.

Les systèmes d'IA agentique peuvent en toute autonomie planifier, récupérer des informations, appeler des outils, interagir avec des API, mettre à jour des états, interroger des bases de données, déclencher des flux de travail et coordonner plusieurs services. À mesure que ces systèmes entrent en production, les clients doivent disposer d'une infrastructure capable de gérer des charges de travail continues, simultanées et gourmandes en services, et non plus seulement l'inférence de modèles isolée traditionnelle.

Si les GPU restent essentiels pour l'entraînement et l'inférence d'IA à grande échelle et fournissent les performances d'accélération requises pour le calcul des modèles, ils ne constituent qu'une partie du système dans les environnements agentiques Le déploiement de flux de travail agentiques repose sur une combinaison de plusieurs éléments : la mise à l'échelle des environnements de test des agents, l'optimisation du débit des nœuds hôtes d'IA et la prise en charge des charges de travail polyvalentes.

Une grande partie de ce travail est effectuée par le CPU. Si celui-ci ne parvient pas à suivre le rythme, les clients seront confrontés à des goulets d'étranglement, un temps de latence élevé, une faible utilisation des GPU ou une évolutivité insuffisante, même après avoir investi massivement dans des accélérateurs.

Une plateforme d'IA équilibrée nécessite donc ces deux éléments : des accélérateurs pour le calcul des modèles et des CPU pour serveur hautes performances pour les couches de service, d'orchestration et de données qui permettent d'utiliser l'IA agentique à grande échelle.

Avec l'introduction des CPU pour serveurs AMD EPYC™ Série 9006, les infrastructures peuvent évoluer en vue de répondre à ces nouvelles exigences et continuer à offrir des performances de pointe à mesure que l'IA agentique est adoptée.

La meilleure gamme de CPU pour serveur pour l'ère de l'IA agentique¹

Les CPU pour serveur AMD EPYC Série 9006 offrent des performances de pointe pour les charges de travail liées à l'IA agentique, au cloud, aux environnements d'entreprise et aux calculs hautes performances, avec jusqu'à 256 cœurs, 512 threads et des vitesses d'horloge pouvant atteindre 5 GHz, ainsi que des performances par cœur exceptionnelles pour un processeur destiné aux serveurs. Grâce à des interfaces d'E/S PCIe® Gen 6 de pointe et à une bande passante mémoire pouvant atteindre 1,6 To/s par socket, ces processeurs constituent la solution de choix pour les clients qui s'engagent dans les flux de travail agentiques les plus exigeants.

Pour les clients soucieux de la mise à niveau, les CPU pour serveur AMD EPYC offrent déjà une base x86 conforme aux normes pour une infrastructure serveur dense et efficace. Cette nouvelle génération de CPU étend cette feuille de route aux déploiements futurs. Elle permet aux clients de procéder à une mise à niveau en toute fluidité, sans perturber leurs environnements de production existants.

Pour les partenaires, cette nouvelle gamme de produits offre trois points d'entrée clairs dans le dialogue avec les clients sur l'IA agentique : l'évolutivité, l'optimisation du débit et la prise en charge des charges de travail polyvalentes liées à l'IA.

1. Évolutivité

La densité de calcul est essentielle pour les clients qui mettent en place des environnements de sandbox, des expérimentations multiagents ou des services agentiques à forte simultanéité. Plus un client peut intégrer d'agents dans les limites de sa consommation électrique, de son espace de rack et de son budget, plus il lui est facile de généraliser l'adoption de l'IA sans générer de coûts d'infrastructure insoutenables ni de complexité excessive.

Les CPU pour serveur AMD EPYC Série 9006, dotés d'un nombre élevé de cœurs, sont conçus pour répondre à ce besoin. Ils offrent jusqu'à 33 % de cœurs en plus par rapport à la génération précédente², ce qui permet aux partenaires d'augmenter directement la capacité des systèmes agentiques grâce à une concentration plus élevée d'agents.

2. Optimisation du débit

Dans les systèmes riches en accélérateurs, les CPU pour serveur jouent toujours un rôle déterminant. Ils aident à alimenter les GPU, à coordonner les déplacements de données, à prendre en charge les E/S, à exécuter des services côté hôte et à réduire les frictions entre l'exécution des modèles et l'environnement applicatif plus large.

Les CPU pour serveur AMD EPYC Série 9006 à haute fréquence intègrent des sous-systèmes d'E/S PCIe® Gen 6 de pointe qui offrent une bande passante par voie deux fois supérieure à celle des produits de la génération précédente³ et jusqu'à 1,6 To/s de bande passante mémoire par socket, contribuant ainsi à réduire les goulets d'étranglement côté hôte et à faciliter le transfert rapide des données à travers le système.

Pour les clients soucieux d'optimiser l'utilisation des GPU et la génération de jetons, ces CPU garantissent la compatibilité de la plateforme hôte avec les performances des accélérateurs dont dépendent leurs charges de travail d'IA.

3. Services d'IA à usage général

De nombreuses charges de travail des clients ne s'inscrivent pas clairement dans une seule catégorie d'IA. Leurs cas d'utilisation couvrent les bases de données, les services de stockage, l'inférence de CPU, la logique d'orchestration, l'analyse, les middlewares, la sécurité et bien plus encore. Ce sont précisément ces types de charges de travail polyvalentes qui font de l'IA agentique un atout si précieux pour la gestion des charges de travail des entreprises modernes.

L'étendue de la gamme de CPU pour serveur AMD EPYC Série 9006 permet aux partenaires de répondre aux besoins des clients en leur proposant le processeur le plus adapté au sein de cette gamme, qu'il s'agisse d'inférence de CPU pour des modèles de langage de petite et moyenne taille, d'orchestration pour la planification et l'utilisation d'outils, ou encore de prise en charge d'environnements d'IA confidentiels grâce aux technologies de sécurité AMD telles qu'AMD SEV et aux capacités d'E/S de confiance.

Pour les clients qui modernisent leur infrastructure d'entreprise existante tout en adoptant l'IA, le passage aux CPU pour serveur AMD EPYC Série 9006 permet de conserver la plateforme x86 sur laquelle repose leur pile software, ce qui contribue à réduire les problèmes de migration et raccourcit le passage de la planification au déploiement de l'IA.