Una pila de referencia completa para la IA empresarial
Mediante la conexión de marcos de IA clave de código abierto y modelos de IA generativa con una plataforma Kubernetes lista para empresas, las organizaciones pueden pasar del procesamiento sin sistema operativo a la IA de nivel de producción en minutos, lo que minimiza el tiempo que transcurre desde la experimentación con la IA hasta la producción a gran escala en las plataformas de procesamiento de AMD.
Acelera la IA empresarial desde el piloto hasta la producción
Utilización optimizada del procesamiento
Tu procesamiento de IA se utiliza de manera eficiente en grupos de usuarios, proyectos y casos de uso.
Tiempo de creación de valor acelerado
Desde equipos sin sistema operativo o la nube hasta ejecutar cargas de trabajo de producción en pocos minutos.
Operaciones de IA eficientes
Enfócate en el valor real de la IA mediante la automatización de la infraestructura.
TCO inigualable
Un hardware eficaz y rentable combinado con un software eficiente y optimizado.
Arquitectura modular de código abierto
Una plataforma de código abierto garantiza que evites el bloqueo de proveedores y te beneficies al máximo de la comunidad global de IA.
Implementa, administra y acelera las cargas de trabajo de IA a escala
Creadas para la escala empresarial en las tecnologías de centros de datos de AMD, las interfaces intuitivas permiten a las organizaciones comenzar rápidamente con el desarrollo de IA y utilizar de manera eficiente los recursos de procesamiento en toda la organización.
AMD Inference Microservices
Contenedores de inferencia prediseñados que agrupan el modelo, el motor y la configuración optimizada para el hardware de AMD. Admite API compatibles con OpenAI y modelos de peso abierto, lo que permite una implementación rápida sin rediseños. El ajuste con aprovechamiento de hardware (hardware-aware) optimiza la precisión, el paralelismo del tensor y la productividad para un rendimiento óptimo.
Inferencia a escala
Enrutamiento y programación de inferencia inteligentes, almacenamiento en caché de modelos y escalado automático en tiempo real basado en la utilización real, en combinación con las API estándar de la industria.
Contenedores AIM y tiempos de ejecución de SO optimizados
Modelos de perfiles optimizados para las opciones de hardware de AMD y KPI de uso específicos de cada caso.
Seguridad y gobernanza listas para las empresas
Observabilidad y administración de modelos a través de paneles de monitoreo en tiempo real y administración del ciclo de vida de modelos y claves.
AMD AI Workbench
AMD AI Workbench proporciona a los usuarios un entorno de código bajo fácil de usar para administrar implementaciones de AIM. Los desarrolladores de IA cuentan con ajustes de código bajo mediante recetas fáciles de usar, así como espacios de trabajo y cargas de trabajo de referencia de CLI para los usuarios expertos.
Implementa y gestiona AIM
Interfaz intuitiva para implementar, interactuar con AIM y monitorear sus implementaciones.
Espacios de trabajo para desarrolladores
Entornos de desarrollo virtualizados basados en laptops, IDE populares o acceso flexible a nivel de SSH.
Herramientas de desarrollador de la comunidad
Las herramientas de desarrollo de IA más comunes disponibles para los desarrolladores, desde el seguimiento de experimentos y los flujos hasta las evaluaciones comparativas y la elaboración de perfiles.
AMD Solution Blueprints
Aplicaciones de referencia listas para implementar creadas con AIM (AMD Inference Microservices) para ofrecer una implementación rápida y servir como puntos de partida para el desarrollo. Solution Blueprints brinda una manera fácil de explorar AIM en el contexto de una solución de microservicio, como flujos de trabajo agénticos, resumen de documentos, chatbots de RAG y asistentes de codificación de IA.
Se adapta a las necesidades de la empresa
Amplía y modifica las aplicaciones de referencia comprobadas según tus necesidades y, al mismo tiempo, preserva la coherencia de la implementación. Personaliza Solution Blueprints según tus requisitos de implementación.
Implementación nativa de Kubernetes
Solution Blueprints están integrados como gráficos Helm listos para su implementación en clústeres de Kubernetes en el procesamiento de AMD.
Catálogo de AMD Solution Blueprints
Explora un catálogo en expansión de Solution Blueprints, que va desde demostraciones e interfaces hasta plataformas y flujos de trabajo agénticos.
AMD Resource Manager
AMD Resource Manager permite a las organizaciones administrar los recursos de procesamiento de manera eficiente, con una sólida administración de clústeres, monitoreo en tiempo real y control de acceso detallado.
Programación inteligente de recursos
Asigna recursos de forma flexible con una programación inteligente de cargas de trabajo basada en políticas y prioridades predefinidas, lo que reduce la inactividad de la GPU.
Administración de colas de trabajo
Garantiza una distribución de procesamiento equilibrada entre equipos y cargas de trabajo mediante la asignación inteligente de cuotas y el escalado dinámico.
Métricas y análisis
Haz un seguimiento y supervisa la utilización de procesamiento entre grupos de usuarios y cargas de trabajo. Optimiza la asignación de recursos basada en comentarios del mundo real.
Recursos
