Otimizações de software AMD para AI Inference
Suporte para estruturas: a AMD oferece suporte para as estruturas de IA mais populares, incluindo TensorFlow, PyTorch e ONNX Runtime, abrangendo diversos casos de uso, como classificação de imagens e mecanismos de recomendação.
Código aberto e compatibilidade: as otimizações são integradas em estruturas populares que oferecem ampla compatibilidade e familiaridade com upstream de código aberto. Além disso, a AMD está trabalhando com a Hugging Face para possibilitar modelos de código aberto direto da produção com o ZenDNN.
Plug-ins ZenDNN: esses plug-ins aceleram as cargas de trabalho de AI Inference ao otimizar operadores, aproveitar microkernels e implementar multithreading eficiente em núcleos AMD EPYC.