Sur de nombreux marchés dynamiques et en constante évolution, tels que la 5G, les centres de données, l'automobile et l'industrie, les applications exigent une accélération de calcul toujours plus importante tout en conservant leur efficacité énergétique. La loi de Moore et la loi de Dennard ne suivant plus leurs trajectoires traditionnelles, le passage au nœud de silicium de nouvelle génération ne peut à lui seul offrir les avantages d'une réduction de la consommation et des coûts avec de meilleures performances, comme dans les générations précédentes.
En réponse à cette augmentation non linéaire de la demande des applications de nouvelle génération, telles que la formation de faisceaux sans fil et l'inférence d'apprentissage automatique, AMD a développé une technologie de traitement innovante, AI Engine, dans le cadre de l'architecture AMD Versal™.
Les AI Engines sont conçus comme des matrices 2D composées de plusieurs tuiles AI Engine et permettent une solution très évolutive dans l'ensemble du portefeuille Versal, allant de 10 à 100 AI Engines dans un seul appareil, répondant aux besoins de calcul d'un large éventail d'applications. Les avantages comprennent :
Pour les applications DSP hautes performances, les méthodes suivantes sont disponibles pour le codage des AI Engines (pour plus d'informations, consultez : Conception DSP AI Engine AMD Vitis™))
Chaque tuile AI Engine se compose d'un mot d'instruction très long (VLIW), d'un processeur vectoriel à instruction unique/données multiples (SIMD) optimisé pour l'apprentissage automatique, et d'applications de traitement du signal avancées. Le processeur AI Engine peut fonctionner à plus de 1,3 GHz, ce qui lui permet de gérer des fonctions efficaces, à haut débit et à faible latence.
En plus du processeur vectoriel VLIW, chaque tuile contient une mémoire programme pour stocker les instructions nécessaires, une mémoire de données locale pour stocker les données, les pondérations, les activations et les coefficients, ainsi qu'un processeur scalaire RISC et différents modes d'interconnexion pour gérer différents types de communication de données.
AMD propose deux types d'AI Engines : AIE et AIE-ML (AI Engine pour l'apprentissage automatique), qui offrent tous deux des améliorations significatives des performances par rapport aux FPGA de la génération précédente. AIE accélère un ensemble plus équilibré de charges de travail, y compris les applications d'inférence ML et les charges de travail de traitement de signaux DSP haute performance telles que la formation de faisceaux, les radars et d'autres charges de travail nécessitant une quantité massive de filtrage et de transformations. Avec des extensions vectorielles d'IA améliorées et l'introduction de tuiles de mémoire partagée dans la matrice AI Engine, AIE-ML offre des performances supérieures à celles d'AIE pour les applications axées sur l'inférence ML, tandis qu'AIE peut offrir de meilleures performances qu'AIE-ML pour certains types de traitement de signaux avancés.
AIE accélère un ensemble équilibré de charges de travail, y compris les applications d'inférence ML et les charges de travail de traitement avancé du signal telles que la formation de faisceaux, les radars, les FFT et les filtres.
Voir le Manuel d'architecture AI Engine AMD Versal pour en savoir plus.
*BFLOAT16 implémenté à l'aide d'un processeur vectoriel FP32.
L'architecture AI Engine-ML est optimisée pour l'apprentissage automatique, améliorant à la fois l'architecture du cœur de calcul et de la mémoire. Capables à la fois de traiter le ML et les signaux avancés, ces tuiles optimisées limitent l'importance de la prise en charge d'INT32 et de CINT32 (courante dans le traitement radar) pour améliorer les applications axées sur le ML.
AIE-ML sera disponible en deux versions : AIE-ML, qui double le calcul par rapport à AIE, et AIE-MLv2, qui double le calcul par rapport à AIE-ML et ajoute une bande passante supplémentaire entre les interconnexions de flux.
**Émulation SW pour la prise en charge d'AIE-ML FP32.
L'AI Engine, associé à une logique programmable et à un système de traitement, forme une architecture hétérogène étroitement intégrée dans les SoC adaptatifs Versal, qui peut être modifiée aux niveaux hardware et software pour s'adapter de manière dynamique aux besoins d'un large éventail d'applications et de charges de travail.
Conçue dès le départ pour être programmable par software, l'architecture Versal dispose d'un Network on Chip (NoC) flexible et programmable à plusieurs térabits par seconde pour intégrer de manière fluide tous les composants et interfaces clés, ce qui garantit la disponibilité de la plateforme au démarrage et sa facilité de programmation par les développeurs de software, les spécialistes des données et les développeurs de hardware.
AI Engines pour les charges de travail hétérogènes - Du traitement sans fil à l'apprentissage automatique dans le cloud, le réseau et l'edge
Calcul dans le centre de données
L'analyse d'images et de vidéos est au cœur de l'explosion des données dans le centre de données. La nature du réseau neuronal convolutif (CNN) de ces charges de travail nécessite des quantités massives de calcul, atteignant souvent plusieurs téraOPS. Les AI Engines ont été optimisés pour fournir cette densité de calcul de manière rentable et efficace.
Traitement sans fil 5G
La 5G permet d'atteindre un débit sans précédent avec un temps de latence extrêmement faible, ce qui nécessite une augmentation significative du traitement du signal. Les AI Engines permettent d'exécuter ce traitement du signal en temps réel dans l'unité radio (RU) et l'unité distribuée (DU) avec une consommation énergétique réduite, comme avec les techniques sophistiquées de formation de faisceaux utilisées dans les panneaux MIMO massifs pour augmenter la capacité du réseau.
ADAS et conduite automatisée
Les CNN (Convolutional Neural Networks) sont une catégorie de réseaux neuronaux artificiels profonds à action directe, le plus souvent utilisés pour analyser des images visuelles. Les CNN sont devenus essentiels, car les ordinateurs sont utilisés partout, des véhicules autonomes à la vidéosurveillance. Les AI Engines fournissent la densité de calcul et l'efficacité nécessaires pour les petits formats avec des enveloppes thermiques restreintes.
Aérospatiale et défense
La fusion de moteurs DSP vectoriels performants avec des AI Engines dans un petit format permet de développer une large gamme de systèmes dans les domaines de l'aérospatiale et de la défense, notamment les radars à balayage électronique, l'alerte avancée (EW), les communications militaires (MILCOM) et les véhicules sans pilote. Prenant en charge des charges de travail hétérogènes allant du traitement et du conditionnement des signaux à l'AI Inference pour les charges utiles multi-missions, les AI Engines offrent l'efficacité de calcul nécessaire pour répondre aux exigences strictes de ces systèmes critiques en matière de taille, de poids et de puissance (SWaP).
Industrie
Les applications industrielles, notamment la robotique et la vision industrielle, combinent la fusion de capteurs avec l'IA/ML pour effectuer le traitement des données à la source et à proximité de la source d'information. Les AI Engines améliorent les performances et la fiabilité de ces systèmes en temps réel, malgré l'incertitude de l'environnement.
Équipement de test sans fil
Le DSP en temps réel est largement utilisé dans les équipements de test des communications sans fil. L'architecture AI Engine est parfaitement adaptée à la gestion de tous les types d'implémentation de protocoles, y compris la 5G, du front-end numérique à la bande de base, en passant par la formation de faisceaux.
Santé
Les applications médicales qui exploitent les AI Engines comprennent les dispositifs de formation de faisceaux parallèles à hautes performances pour les échographies médicales, la rétroprojection pour les scanners CT, le délestage de la reconstruction d'images dans les équipements IRM et le diagnostic assisté dans diverses applications cliniques et diagnostiques.
Les AI Engines sont conçus dès le départ pour être programmables par software et adaptables via hardware. Il existe deux flux de conception distincts permettant aux développeurs de tirer parti des performances de ces moteurs de calcul, avec une capacité de compilation en quelques minutes et d'exploration rapide de différentes microarchitectures. Ces deux flux de conception sont les suivants :
Les matrices AI Engine permettent également d'implémenter des fonctions DSP hautes performances de manière optimisée en matière de ressources et de consommation énergétique. L'utilisation de moteurs d'IA en conjonction avec les ressources de la structure FPGA permet d'implémenter des applications DSP hautes performances de façon très efficace. Découvrez comment utiliser le flux d'outils AMD Vitis pour exploiter les capacités d'accélération hardware des AI Engines pour les applications DSP : Conception DSP AMD Vitis AI Engine
Avec la bibliothèque Vitis Acceleration, AMD fournit des noyaux pré-construits qui offrent les avantages suivants :
Les développeurs de software et de hardware programment directement les AI Engines basés sur des processeurs vectoriels et peuvent faire appel à des bibliothèques prédéfinies avec du code C/C++, le cas échéant.
Les spécialistes des données d'IA continuent à travailler dans leurs environnements familiers, tels que PyTorch ou TensorFlow, et font appel à des superpositions ML prédéfinies via Vitis AI sans avoir à programmer directement les AI Engines.
Ces bibliothèques sont open source et disponibles sur GitHub : https://github.com/Xilinx/Vitis_Libraries.
L'architecture AI Engine est basée sur une technologie de flux de données. Les éléments de traitement se présentent sous forme de matrices de 10 à 100 tuiles, créant un programme unique à l'échelle des unités de calcul. Pour un concepteur, il serait fastidieux et presque impossible d'intégrer des directives pour spécifier le parallélisme entre ces tuiles. Pour surmonter cette difficulté, la conception AI Engine s'effectue en deux étapes : le développement d'un seul noyau suivi de la création d'un graphe ADF (Adaptive Data Flow), qui connecte plusieurs noyaux dans une application globale.
Vitis Unified IDE constitue un cockpit IDE unique qui permet le développement de noyaux AI Engine à l'aide de code de programmation C/C++ et de conception de graphes ADF. Plus précisément, les concepteurs peuvent :
Par défaut, un seul noyau s'exécute sur une seule tuile AI Engine. Cependant, plusieurs noyaux peuvent s'exécuter sur la même tuile AI Engine, partageant le temps de traitement lorsque l'application le permet.
Voici un exemple conceptuel :
Au sein de Vitis Unified IDE, la conception AI Engine peut être incluse dans un système complet plus vaste qui combine tous les aspects de la conception en un flux intégré permettant la simulation, l'émulation hardware, le débogage et le déploiement.
Le kit d'évaluation VEK280, équipé du SoC adaptatif Versal AI Edge VE2802, offre des moteurs d'accélération hardware AIE-ML et DSP, ainsi que plusieurs options de connectivité haut débit. Ce kit est optimisé pour les applications d'inférence ML dans des marchés tels que l'automobile, la vision, l'aérospatiale et la défense, l'industrie, les sciences et la médecine.
Le kit d'évaluation VCK190 permet aux concepteurs de développer des solutions utilisant des moteurs DSP et AI Engine capables de fournir des performances de calcul plus de 100 fois supérieures à celles des processeurs actuels de classe serveur. Avec un large éventail d'options de connectivité et des flux de développement standardisés, l'appareil VC1902 de la série Versal AI Core offre le débit d'AI Inference et de traitement du signal le plus élevé de la gamme Versal pour les applications cloud, réseau et edge.
La plateforme software unifiée AMD Vitis fournit des kits de développement et des bibliothèques de base complets qui utilisent la technologie d'accélération hardware.
Rendez-vous sur les référentiels GitHub Vitis et de développement AI Engine pour accéder à divers tutoriels sur AI Engine et en savoir plus sur les fonctionnalités technologiques et la méthodologie de conception.
Les outils AI Engine, à la fois compilateur et simulateur, sont intégrés à l'IDE Vitis et nécessitent une licence dédiée supplémentaire. Contactez votre représentant commercial AMD local pour plus d'informations sur l'accès aux outils et à la licence AI Engine ou remplissez le formulaire Contacter le service commercial.
AMD Vitis Model Composer est un outil de conception basé sur un modèle qui permet une exploration rapide des conceptions dans les environnements Simulink® et MATLAB®. Il facilite le développement et le test de graphes ADF AI Engine au niveau du système, permettant aux utilisateurs d'incorporer des blocs RTL et HLS avec des noyaux et/ou des graphes AI Engine dans la même simulation. L'exploitation des fonctions de génération et de visualisation de signaux dans les outils Simulink et MATLAB permet aux ingénieurs DSP de concevoir et de déboguer dans un environnement familier. Pour apprendre à utiliser les Versal AI Engines avec Vitis Model Composer, rendez-vous sur la page de ressources d'AI Engine.
Basé sur la série Versal AI Core, le kit VCK190 permet aux concepteurs de développer des solutions à l'aide des AI Engines et des moteurs DSP. Ce kit d'évaluation contient tout ce dont vous avez besoin pour démarrer vos conceptions.
La carte de développement VCK5000 basée sur PCIe® est également disponible. Elle intègre le dispositif Versal AI Core avec des AI Engines, conçus pour l'AI Inference à haut débit dans le centre de données.
Pour le développement d'AIE-ML, le Kit d'évaluation VEK280, basé sur la série Versal AI Edge, permettra aux développeurs de créer des applications DSP et ML.
Les ressources de formation et d'apprentissage AMD vous offrent les compétences pratiques et les connaissances fondamentales dont vous avez besoin pour être pleinement productif dans votre prochain projet de développement de SoC adaptatif Versal. Les formations comprennent :
De la planification de la solution à l'intégration et la validation du système, AMD fournit des vues personnalisées de la longue liste de documentation du SoC adaptatif Versal afin d'optimiser la productivité des conceptions des utilisateurs. Rendez-vous sur les hubs de processus de conception de SoC adaptatif Versal pour accéder au contenu le plus récent correspondant à vos besoins de conception, ainsi que pour découvrir les capacités AI Engine et les méthodologies de conception.
Inscrivez-vous à la liste de notification sur les SoC adaptatifs et les FPGA pour recevoir les dernières actualités et mises à jour.
