Em muitos mercados dinâmicos e em evolução, como celulares 5G, data centers, setores automotivo e industrial, as aplicações estão buscando uma aceleração de computação cada vez maior, mantendo a eficiência de energia. Como a Lei de Moore e o Escalonamento de Dennard não seguem mais as suas trajetórias tradicionais, a migração para a próxima geração de nós de silício, por si só, não pode mais garantir os benefícios de menor consumo de energia e custo com melhor desempenho, como acontecia nas gerações anteriores.
Em resposta a esse aumento não linear da demanda por aplicações de última geração, como beamforming sem fio e inferência de aprendizado de máquina, a AMD desenvolveu uma inovadora tecnologia de processamento, o mecanismo de IA, como parte da arquitetura AMD Versal™.
Os mecanismos de IA são arquitetados como matrizes 2D que consistem em vários blocos de mecanismos de IA e permitem uma solução muito dimensionável em todo o portfólio Versal, variando de dezenas a centenas de mecanismos de IA em um único dispositivo, atendendo às necessidades de computação de uma ampla gama de aplicações. Os benefícios incluem:
Para aplicações de DSP de alto desempenho, os seguintes métodos estão disponíveis para codificação de mecanismos de IA (para obter mais informações, consulte: Projeto de DSP do mecanismo de IA AMD Vitis™)
Cada bloco do mecanismo de IA consiste em um processador vetorial de VLIW (Very Long Instruction Word, Palavra de instrução muito longa), em um processador vetorial de SIMD (Single Instruction Multiple Data, Instrução única, vários dados ) otimizado para aplicações de aprendizado de máquina e processamento avançado de sinais. O processador do mecanismo de IA pode executar até 1,3 GHz, permitindo funções muito eficientes, de alta produtividade e baixa latência.
Além do processador vetorial de VLIW, cada bloco contém memória de programa para armazenar as instruções necessárias; memória local para armazenar dados, pesos, ativações e coeficientes; um processador escalar RISC e diferentes modos de interconexão para lidar com tipos diferentes de comunicação de dados.
A AMD oferece dois tipos de mecanismos de IA: AIE e AIE-ML (AI Engine for machine learning, Mecanismo de IA para aprendizado de máquina), ambos oferecendo melhorias significativas de desempenho em relação à geração anterior de FPGAs. O AIE acelera um conjunto mais equilibrado de cargas de trabalho, incluindo aplicações de inferência de ML e cargas de trabalho de processamento de sinal DSP de alto desempenho, como beamforming, radar e outras cargas de trabalho que exigem uma grande quantidade de filtragem e transformações. Com extensões vetoriais de IA aprimoradas e a introdução de blocos de memória compartilhados dentro da Matriz do mecanismo de IA, o AIE-ML oferece desempenho superior em relação ao AIE para aplicações focadas em inferência de ML, enquanto o AIE pode oferecer melhor desempenho em relação ao AIE-ML para certos tipos de processamento avançado de sinais.
O AIE acelera um conjunto equilibrado de cargas de trabalho, incluindo aplicações de inferência de ML e cargas de trabalho de processamento avançado de sinais, como beamforming, radar, FFTs e filtros.
Consulte o Manual de arquitetura do mecanismo de IA Versal da AMD para saber mais.
*BFLOAT16 implementado usando o processador vetorial FP32.
A arquitetura do ML no mecanismo de IA é otimizada para aprendizado de máquina, aprimorando o núcleo de computação e a arquitetura de memória. Com capacidade de processamento avançado de sinais e de ML, esses blocos otimizados reduzem a ênfase no suporte a INT32 e CINT32 (comum no processamento de radar) para aprimorar as aplicações com foco em ML.
O AIE-ML estará disponível em duas versões: AIE-ML, que dobra a computação em comparação com o AIE, e AIE-MLv2, que dobra a computação em comparação com o AIE-ML e adiciona largura de banda extra entre as interconexões de fluxo.
**Emulação de software para suporte ao AIE-ML FP32.
O mecanismo de IA, juntamente com a lógica programável e um sistema de processamento, formam uma arquitetura heterogênea altamente integrada nos SoCs adaptativos Versal, que pode ser alterada nos níveis de hardware e software para se adaptar dinamicamente às necessidades de uma ampla variedade de aplicações e cargas de trabalho.
Criada desde o início para ser nativamente programável por software, a arquitetura Versal apresenta uma NoC (Network on Chip, Rede em chip) flexível e programável de vários terabits por segundo para integrar perfeitamente todos os componentes e as principais interfaces, tornando a plataforma disponível na inicialização e facilmente programada por desenvolvedores de software, cientistas de dados e desenvolvedores de hardware.
Mecanismos de IA para cargas de trabalho heterogêneas, desde o processamento sem fio até o aprendizado de máquina na nuvem, na rede e na borda
Computação do data center
A análise de imagens e vídeos é fundamental para a explosão de dados no data center. A natureza da CNN (Convolutional Neural Network, Rede neural convolucional) dessas cargas de trabalho exige uma quantidade intensa de computação, muitas vezes atingindo vários teraOPS. Os mecanismos de IA foram otimizados para oferecer essa densidade computacional de forma econômica e com eficiência de energia.
Processamento sem fio 5G
O 5G pode fornecer uma produtividade sem precedentes com latência extremamente baixa, necessitando de um aumento significativo no processamento de sinais. Os mecanismos de IA podem executar esse processamento de sinal em tempo real na RU (Radio Unit, Unidade de rádio) e na DU (Distributed Unit, Unidade distribuída) com menor consumo de energia, como as sofisticadas técnicas de beamforming usadas em painéis MIMO massivo para aumentar a capacidade da rede.
ADAS e condução autônoma
As CNNs são uma classe de redes neurais artificiais profundas e feed-forward, mais comumente aplicadas à análise de imagens visuais. As CNNs tornaram-se essenciais à medida que os computadores são usados para tudo, de veículos autônomos à vigilância por vídeo. Os mecanismos de IA oferecem a densidade computacional e a eficiência necessárias para fatores de forma compactos com restrições térmicas rigorosas.
Aeroespacial e Defesa
A combinação de poderosos mecanismos de DSP baseados em vetores com mecanismos de IA em um formato compacto possibilita uma ampla gama de sistemas no segmento A&D, incluindo radares de matriz em fase, EW (Early Warning, Alerta precoce), MILCOM e veículos não tripulados. Com suporte a cargas de trabalho heterogêneas que vão desde processamento e condicionamento de sinais e inferência de IA para cargas úteis de múltiplas missões, os mecanismos de IA oferecem a eficiência computacional para atender aos requisitos rigorosos de SWaP (Size, Weight and Power, Tamanho, peso e energia) desses sistemas de missão crítica.
Industrial
Aplicações industriais, incluindo robótica e visão computacional, combinam fusão de sensores com IA/ML para realizar o processamento de dados na borda e próximo à fonte de informações. Os mecanismos de IA melhoram o desempenho e a confiabilidade nesses sistemas em tempo real, apesar da instabilidade do ambiente.
Equipamento de teste sem fio
O DSP em tempo real é amplamente utilizado em equipamentos de teste de comunicações sem fio. A arquitetura do mecanismo de IA é perfeitamente adequada para lidar com todos os tipos de implementações de protocolos, incluindo 5G, desde o front-end digital até o beamforming e o processamento de banda base.
Assistência médica
Os aplicativos da área de assistência médica que utilizam mecanismos de IA incluem beamformers paralelos de alto desempenho para ultrassom médico, retroprojeção para scanners de tomografia computadorizada, descarregamento de reconstrução de imagens em máquinas de ressonância magnética e diagnóstico assistido em uma variedade de aplicações clínicas e de diagnóstico.
Os mecanismos de IA são construídos desde o início para serem programáveis por software e adaptáveis por hardware. Há dois fluxos de projeto distintos para que os desenvolvedores liberem o desempenho desses mecanismos de computação com a capacidade de compilar em minutos e explorar rapidamente diferentes microarquiteturas. Os dois fluxos de projeto consistem no:
As matrizes do mecanismo de IA também podem possibilitar a implementação de funções de DSP de alto desempenho de forma otimizada em termos de recursos e energia. O uso de mecanismos de IA em conjunto com os recursos da malha FPGA pode possibilitar a implementação muito eficiente de aplicativos DSP de alto desempenho. Saiba como usar o fluxo da ferramenta AMD Vitis para desbloquear os recursos de aceleração de hardware dos mecanismos de IA para aplicações DSP: Projeto de DSP do mecanismo de IA AMD Vitis
Com a Biblioteca de aceleração Vitis, a AMD fornece kernels pré-criados que permitem:
Os desenvolvedores de software e hardware programam diretamente os mecanismos de IA baseados em processadores vetoriais e podem recorrer a bibliotecas pré-construídas com código C/C++, quando apropriado.
Os cientistas de dados de IA permanecem em seus ambientes de estrutura familiares, como PyTorch ou TensorFlow, e podem recorrer a sobreposições de ML pré-criadas por meio do Vitis AI sem precisar programar diretamente os mecanismos de IA.
As bibliotecas são de código aberto e estão disponíveis no GitHub: https://github.com/Xilinx/Vitis_Libraries.
A arquitetura do mecanismo de IA é baseada em uma tecnologia de fluxo de dados. Os elementos de processamento são fornecidos em matrizes de 10 a 100 blocos, criando um único programa em todas as unidades de computação. Para um projetista, incorporar diretivas para especificar o paralelismo entre esses blocos seria um processo tedioso e quase impossível. Para superar essa dificuldade, o projeto do mecanismo de IA é realizado em duas etapas: o desenvolvimento de um único kernel, seguido pela criação do gráfico de ADF (Adaptive Data Flow, Fluxo de dados adaptativo), que conecta múltiplos kernels em uma aplicação geral.
O Vitis Unified IDE oferece um único cockpit de IDE que permite o desenvolvimento de kernels do mecanismo de IA usando código de programação C/C++ e projeto de gráficos de ADF. Especificamente, os projetistas podem:
Por padrão, um único kernel é executado em um único bloco do mecanismo de IA. No entanto, vários kernels podem ser executados no mesmo bloco do mecanismo de IA, compartilhando o tempo de processamento que a aplicação permite.
Abaixo, um exemplo conceitual:
No Vitis Unified IDE, o projeto do mecanismo de IA pode ser incluído em um sistema completo maior que combina todos os aspectos do projeto em um fluxo integrado em que é possível fazer simulação, emulação de hardware, depuração e implantação.
O Kit de avaliação VEK280, equipado com o SoC adaptativo Versal AI Edge VE2802, oferece mecanismos de aceleração de hardware AIE-ML e DSP, juntamente com várias opções de conectividade de alta velocidade. Esse kit é otimizado para aplicações de inferência de ML em mercados como o automotivo, de visão, aeroespacial e de defesa, industrial, científico e médico.
O Kit de avaliação VCK190 permite que os projetistas desenvolvam soluções usando mecanismos de IA e de DSP capazes de oferecer um desempenho de computação 100 vezes maior em comparação com as CPUs de classe de servidor atuais. Com uma ampla variedade de opções de conectividade e fluxos de desenvolvimento padronizados, o dispositivo Versal Série AI Core VC1902 oferece a mais alta produtividade de processamento de sinal e inferência de IA do portfólio Versal para aplicações de nuvem, rede e borda.
A plataforma de software unificada AMD Vitis fornece kits de desenvolvimento e bibliotecas de núcleo abrangentes que usam tecnologia de aceleração de hardware.
Visite os repositórios Vitis GitHub e Desenvolvimento do mecanismo de IA para acessar uma variedade de tutoriais do mecanismo de IA e saber mais sobre os recursos de tecnologia e a metodologia de projeto.
As ferramentas do mecanismo de IA, tanto o compilador quanto o simulador, são integradas ao Vitis IDE e exigem uma licença dedicada adicional. Entre em contato com o representante de vendas local da AMD para obter mais informações sobre como acessar as ferramentas e a licença do mecanismo de IA ou acesse o formulário de contato com o setor de vendas.
O AMD Vitis Model Composer é uma ferramenta de projeto baseada em modelos que possibilita a exploração rápida do projeto nos ambientes Simulink® e MATLAB®. Ele facilita o desenvolvimento e os testes de gráficos de ADF do mecanismo de IA no nível do sistema, permitindo que os usuários incorporem blocos de RTL e HLS com kernels e/ou gráficos do mecanismo de IA na mesma simulação. O aproveitamento dos recursos de geração e visualização de sinais da ferramenta Simulink e MATLAB permite que os engenheiros de DSP projetem e depurem em um ambiente familiar. Para saber como usar mecanismos de IA Versal com o Vitis Model Composer, visite a página de recursos do mecanismo de IA.
Com base no Versal Série AI Core, o kit VCK190 permite que os projetistas desenvolvam soluções usando mecanismos de IA e de DSP. O kit de avaliação tem tudo o que você precisa para dar início aos seus projetos.
Também está disponível a placa de desenvolvimento VCK5000 baseada em PCIe®, que apresenta o dispositivo Versal AI Core com mecanismos de IA, criado para inferência de IA de alto rendimento no data center.
Para o desenvolvimento do AIE-ML, o Kit de avaliação VEK280, baseado no Versal Série AI Edge, permitirá que os desenvolvedores criem aplicações de DSP e ML.
Os recursos de treinamento e aprendizado da AMD fornecem as habilidades práticas e o conhecimento básico de que você precisa para ser totalmente produtivo em seu próximo projeto de desenvolvimento de SoC adaptativo Versal. Os cursos incluem:
Do planejamento da solução à integração e validação do sistema, a AMD oferece visualizações personalizadas da extensa lista de documentação do SoC adaptativo Versal para maximizar a produtividade dos projetos do usuário. Visite os hubs de processo de projeto de SoC adaptativo Versal para obter o conteúdo mais recente para as suas necessidades de projeto e explorar os recursos do mecanismo de IA e as metodologias de projeto.
Junte-se à lista de notificações de SoC adaptativo e FPGA para receber as últimas notícias e atualizações.
