Amélioration des performances dans les réseaux d'IA
Rapide, efficace et à la pointe de la technologie : la révolution des réseaux d'IA est arrivée, avec des produits et des solutions qui changent radicalement la donne. La plateforme AMD Pensando™ utilise une technologie avancée pour fournir des services de cloud, de calcul, de réseau, de stockage et de sécurité à l'échelle du cloud.
AMD Advancing AI – Groupe Networking Technology Solutions - Rapport d'analyse
Soni Jiandani, vice-présidente senior du groupe Networking Technology Solutions d'AMD, s'entretient avec les leaders d'IBM Cloud, de Microsoft Azure, d'Oracle Cloud, de Tensorwave et de Cisco au sujet des résultats révolutionnaires et de l'avenir de la mise en réseau pour les charges de travail d'IA.
Produits présentés
Mise en réseau back-end avec les adaptateurs AMD Pensando™ Pollara 400
Conçue pour répondre aux exigences uniques de la mise en réseau de l'IA, la carte réseau Pollara 400 permet des transferts de données efficaces, fiables et à haut débit, donnant aux entreprises les moyens d'exploiter pleinement le potentiel du cloud computing assisté par l'IA.
Fonctionnalités
- RDMA compatible UEC
- Pulvérisation de paquets adaptative
- Contournement de la congestion en fonction du chemin
- Retransmission sélective des pertes
- Capacités avancées de surveillance et de télémétrie
- Optimisée pour les tâches d'entraînement et d'inférence de l'IA
Avantages
- Compatibilité Ethernet ouverte pour choisir le fournisseur
- Prêt pour l'avenir avec l'assistance de l'Ultra Ethernet Consortium (UEC)
- Délais d'exécution des tâches rapides
- Performances des charges de travail d'IA accélérées
Le RDMA compatible UEC surpasse le RoCEv2
Temps de traitement des messages 6 fois plus rapide1
Résultats de performances estimés
Temps de réalisation collectif 5 fois plus rapide1
Résultats de performances estimés
Placer la barre toujours plus haut grâce à des performances fiables
La DPU AMD Pensando Salina est entièrement programmable en langage P4 et optimisée pour un temps de latence, une distorsion et des exigences énergétiques minimaux. Offrant une efficacité énergétique incroyable tout en bénéficiant d'un débit important pour les pipelines P4, la DPU Salina préserve également la compatibilité software avec les précédentes DPU AMD Pensando™, ce qui facilite son adoption par les clients.
Fonctionnalités
- Observabilité améliorée
- Mise en réseau dans le cloud
- Sécurité avancée
- Accélération du stockage
- Cryptage
Avantages
- Des performances et une mise à l'échelle 2 fois supérieures par rapport à la génération précédente des DPU6
- Optimisez les performances de l'infrastructure front-end du cloud et de l'IA
- Temps de latence déterminé et prévisible, avec une faible distorsion
- Chemin de données P4 entièrement programmable
Découvrez les produits Cisco équipés de DPU AMD Pensando™
Commutation Cisco N9300 Hypershield
Les plateformes Cisco Nexus 9300 dotées de la technologie DPU AMD Pensando™ et Hypershield offrent une architecture de sécurité complète pour les centres de données, améliorant la conformité et réduisant les risques pour les entreprises en intégrant nativement Hypershield dans le commutateur intégré avec les DPU.
Commutateur Cisco 8102 DPU
Le Cisco 8102-28FH-DPU-O est une plateforme de commutation, avec des DPU AMD Pensando intégrés, qui améliore considérablement les performances des services réseau pour les charges de travail très exigeantes dans Microsoft Azure.
En savoir plus sur le cas d'utilisation des gains de performances de Microsoft Azure avec AMD et Cisco.
Commutateur intelligent HPE Aruba CX 10000 avec les DPU AMD Pensando™
L'Aruba CX 10000 fournit un pare-feu distribué à états de 800 G pour le trafic est-ouest, une segmentation Zero Trust et une télémétrie omniprésente.
Fournir des résultats probants à nos clients
Multiplication par 5 des performances SDN2
Multi-services
Prêt pour l'avenir
Multiplication par 100 des gains CPS3
Réduction des coûts
Bare Metal et VSI
Réduction du TCO (coût total de possession)4
Secteurs réglementés
Réduction de 65 millions de dollars du TCO (coût total de possession)5
Commutateur réseau Cisco SiliconOne et DPU AMD Pensando™
Expériences clients avec les DPU AMD Pensando™
Ressources
Notes de bas de page
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Étude de cas : STrack : un transport multichemin fiable pour les clusters IA/ML . Les résultats ne sont pas spécifiquement liés à la carte réseau IA 400, et les performances réelles peuvent varier.
- Vithal Shirodkar, vice-président senior du service de développement logiciel, OCI Networking : « Cette solution, développée conjointement, a joué un rôle déterminant dans l'accélération des performances pour les charges de travail les plus exigeantes des clients. Les améliorations ont été spectaculaires, avec une multiplication par 5 des performances pour les réseaux SDN. » – publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald de Grace, responsable, Connexions accélérées Microsoft Azure : « Notre collaboration avec AMD à l'aide de l'appliance intelligente basée sur le DPU AMD Pensando et du logiciel AMD à pile complète en production pour les connexions accélérées a permis de multiplier par 100 les performances CPS par rapport à notre solution existante. Nous pourrons en outre les étendre à d'autres échelons plus larges du réseau Azure à l'avenir. »
- Satinder Sethi, directeur général, IBM Cloud Infrastructure Services : « En collaborant avec AMD et en utilisant leur DPU programmable, ainsi que leur logiciel de services de sécurité et SDN clé en main, IBM Cloud a pu accélérer la commercialisation de notre offre primée de serveurs "bare metal pour VPC" sécurisés et hautes performances pour les charges de travail VMware, Red Hat et SAP. Cela a permis d'améliorer considérablement le débit réseau pour les clients, et de réaliser 30 % d'économies sur le coût total de possession grâce à une plus grande densité de charges de travail et à la préservation des cœurs de CPU. » -- publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, vice-président des services d'infrastructure et de cloud, DXC : « Ce qui nécessitait auparavant des centaines de pare-feu virtuels et physiques pour répondre à nos exigences en matière de segmentation et de conformité est désormais fourni nativement en ligne sur la plateforme, ce qui a transformé le modèle du coût total de possession de notre entreprise et permis de réaliser des économies sur le coût total de possession estimées à environ 65 millions de dollars. » -- publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012 : mesures réalisées par AMD Performance Labs le 27 août 2024, sur les spécifications actuelles de l'accélérateur DPU AMD Pensando™ Salina, conçu avec la technologie de processus AMD Pensando™ 5 nm, dont les performances de ligne sont estimées à 400 Gbit/s. Les résultats fournis estimés calculés pour la DPU AMD Pensando™ Elba, conçue avec la technologie de processus AMD Pensando 7 nm, ont permis d'obtenir des performances de ligne de 200 Gbit/s. Les résultats réels peuvent varier selon la production de silicium.
Notes de bas de page
- Yanfang Le, Rong Pan, Peter Newman, Jeremias Blendin, Abdul Kabbani, Vipin Jain, Raghava Sivaramu, Francis Matus. Étude de cas : STrack : un transport multichemin fiable pour les clusters IA/ML . Les résultats ne sont pas spécifiquement liés à la carte réseau IA 400, et les performances réelles peuvent varier.
- Vithal Shirodkar, vice-président senior du service de développement logiciel, OCI Networking : « Cette solution, développée conjointement, a joué un rôle déterminant dans l'accélération des performances pour les charges de travail les plus exigeantes des clients. Les améliorations ont été spectaculaires, avec une multiplication par 5 des performances pour les réseaux SDN. » – publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- Gerald de Grace, responsable, Connexions accélérées Microsoft Azure : « Notre collaboration avec AMD à l'aide de l'appliance intelligente basée sur le DPU AMD Pensando et du logiciel AMD à pile complète en production pour les connexions accélérées a permis de multiplier par 100 les performances CPS par rapport à notre solution existante. Nous pourrons en outre les étendre à d'autres échelons plus larges du réseau Azure à l'avenir. »
- Satinder Sethi, directeur général, IBM Cloud Infrastructure Services : « En collaborant avec AMD et en utilisant leur DPU programmable, ainsi que leur logiciel de services de sécurité et SDN clé en main, IBM Cloud a pu accélérer la commercialisation de notre offre primée de serveurs "bare metal pour VPC" sécurisés et hautes performances pour les charges de travail VMware, Red Hat et SAP. Cela a permis d'améliorer considérablement le débit réseau pour les clients, et de réaliser 30 % d'économies sur le coût total de possession grâce à une plus grande densité de charges de travail et à la préservation des cœurs de CPU. » -- publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- Jayant Tulsiani, vice-président des services d'infrastructure et de cloud, DXC : « Ce qui nécessitait auparavant des centaines de pare-feu virtuels et physiques pour répondre à nos exigences en matière de segmentation et de conformité est désormais fourni nativement en ligne sur la plateforme, ce qui a transformé le modèle du coût total de possession de notre entreprise et permis de réaliser des économies sur le coût total de possession estimées à environ 65 millions de dollars. » -- publié sur amd.com : https://www.amd.com/fr/solutions/data-center/data-center-ai-premiere/industry-support.html
- PEN-012 : mesures réalisées par AMD Performance Labs le 27 août 2024, sur les spécifications actuelles de l'accélérateur DPU AMD Pensando™ Salina, conçu avec la technologie de processus AMD Pensando™ 5 nm, dont les performances de ligne sont estimées à 400 Gbit/s. Les résultats fournis estimés calculés pour la DPU AMD Pensando™ Elba, conçue avec la technologie de processus AMD Pensando 7 nm, ont permis d'obtenir des performances de ligne de 200 Gbit/s. Les résultats réels peuvent varier selon la production de silicium.