¿Dónde debe ejecutarse la IA?

Donde se ejecuta la IA importa

La IA ahora se ejecuta en muchos lugares más que solo en la nube: en las PC de los empleados, en el perímetro, en los centros de datos de los clientes o a través de los servicios en la nube. A medida que las empresas encuentran más formas de poner en funcionamiento la IA, la ubicación correcta depende de lo que cada carga de trabajo necesita: acceso a los datos, rendimiento con gran capacidad de respuesta, conectividad confiable, capacidad suficiente y costos manejables.

Para los socios, la oportunidad es convertir esos requisitos en recomendaciones prácticas de infraestructura. Un asistente de documentos local y un sistema de análisis de video que presta servicios a varios sitios pueden necesitar diferentes enfoques. Comienza con la carga de trabajo y, luego, identifica dónde debe ejecutarse la carga de trabajo de IA.

El tipo de trabajo de IA también importa. El entrenamiento o el perfeccionamiento de un modelo grande normalmente requieren una potencia informática sustancial basada en el centro de datos o la nube. Muchas de las cosas para las que los clientes usan la IA todos los días, como resumir documentos o ayudar a los empleados a completar tareas rutinarias, implican inferencia, mediante el uso de un modelo existente para manejar nuevas solicitudes. Según el modelo y el software, ese trabajo puede ejecutarse en una PC, en el perímetro o en una infraestructura centralizada. Comprender dicha diferencia ayuda a los socios a ver dónde tienen flexibilidad los clientes y dónde sus cargas de trabajo son más exigentes y requieren soluciones específicas.

Cinco preguntas para tus clientes

Antes de recomendar productos, define lo que la carga de trabajo necesita. Estas cinco preguntas ayudan a los socios a identificar las opciones de implementación adecuadas y a explicar las consecuencias para los clientes.

• ¿Los datos deben permanecer locales? Es probable que la información confidencial, las reglas de la industria y las políticas de la empresa favorezcan el procesamiento en el dispositivo o dentro de la propia infraestructura del cliente.
  
  
• ¿Con qué rapidez debe responder la carga de trabajo? Es probable que las tareas que involucran video en vivo, maquinaria o asistencia interactiva se inclinen por la inferencia que se produce cerca de donde se crean los datos.
  
  
• ¿Requiere funcionamiento sin conectividad confiable? Es posible que los sitios remotos, los empleados móviles y los entornos restringidos necesiten IA para seguir trabajando cuando una conexión no está disponible o no es confiable.
  
  
• ¿Cuántos usuarios o sistemas necesitan acceder a ella? Un empleado que utiliza un asistente local es muy diferente de un modelo compartido que presta servicios a toda la empresa, especialmente a medida que la demanda cambia con el tiempo.
  
  
• ¿Cómo se ve el costo a medida que aumenta el uso? La ejecución de la IA a través de las API de la nube puede introducir cobros continuos basados en tokens, mientras que la IA local agrega costos de hardware y operación a la ecuación.

Ese último punto importa más a medida que la IA se convierte en parte del trabajo diario. Las API de la IA en la nube pueden cobrarse según el uso de token, mientras que las suscripciones empresariales pueden utilizar precios basados en puestos o de otro tipo. Con las API basadas en el uso, los costos pueden aumentar a medida que aumenta el volumen de solicitudes y del consumo de tokens.

Comprensión de los costos de IA con la calculadora de tokenomía de AMD

Utiliza la calculadora de tokenomía de AMD para comparar los costos estimados de los casos de IA locales y en la nube admitidos. Ingresa el tamaño del equipo del cliente, el uso esperado, el modelo de nube seleccionado y el período de análisis para explorar cómo pueden cambiar los costos a medida que crece la adopción.

La calculadora estima el costo durante el período que elijas. También compara los costos de API en la nube con la ejecución de cargas de trabajo de IA admitidas en dispositivos AMD o a través de una combinación de procesamiento local y en la nube, incluidas las estimaciones de costos operativos y de hardware. Para los socios, es una manera excelente y fácil de mostrarles a los clientes cómo las diferentes opciones pueden afectar los costos a medida que crece su uso de IA.

Trata los resultados como un punto de partida. Antes de recomendar una implementación, confirma la compatibilidad del modelo y el software y considera la licencia, el soporte de TI y otros costos excluidos de las suposiciones de la calculadora.

¿Dispositivo, perímetro, centro de datos o nube?

Una vez que tengas una imagen más clara de lo que la carga de trabajo necesita, es más fácil determinar dónde debería ejecutarse.

Considera la IA en el dispositivo cuando los empleados necesiten aplicaciones compatibles para procesar los datos localmente o para operar sin una conexión a Internet continua. Los sistemas que cuentan con procesadores AMD Ryzen™ AI PRO combinan CPU, GPU y NPU para admitir aplicaciones locales de IA, desde herramientas de productividad hasta asistencia de documentos. El procesamiento local puede reducir la dependencia de las conexiones de red y evitar idas y vueltas de red para cargas de trabajo compatibles.

Obtener más información acerca de las PC con IA empresarial e IA híbrida

Considera la IA en el perímetro cuando las cámaras, los sensores o el equipo necesitan procesamiento cerca de donde se generan los datos. Los procesadores AMD Ryzen™ AI Embedded Serie X100 reúnen la aceleración de CPU, GPU y NPU para sistemas que necesitan manejar la IA local junto con otras tareas exigentes. Mantener más de ese procesamiento en el sitio puede reducir la cantidad de datos sin procesar enviados a través de la red, lo que disminuye las demandas de ancho de banda y ayudar a los sistemas con plazos acotados a responder sin esperar a los servicios remotos.

Considera la infraestructura centralizada del centro de datos cuando los modelos más grandes, los servicios compartidos o el entrenamiento intensivo requieran recursos más allá de los dispositivos individuales. Las CPU para servidores AMD EPYC™ y las GPU AMD Instinct™ admiten inferencia intensiva, entrenamiento de modelos y los servicios que mantienen funcionando los sistemas de IA empresariales. AMD Enterprise AI Reference Stack también ayuda a las empresas a implementar y administrar la IA en la infraestructura de AMD a través de una base de software abierta.

Obtener detalles sobre las CPU para servidores AMD EPYC para la IA empresarial

Considera los servicios en la nube cuando los clientes necesiten acceso a modelos alojados o capacidad que puedan ajustar a medida que cambia la demanda. Para algunas empresas, mantener grandes cargas de trabajo de IA dentro de sus propios centros de datos será más conveniente en términos de costo y escala. Otras pueden preferir servicios en la nube para cargas de trabajo que fluctúan o necesitan recursos que no pueden justificar el mantenimiento interno.

El caso de la IA híbrida

Las diferentes tareas dentro del mismo flujo de trabajo de IA pueden adaptarse a diferentes entornos. Un enfoque híbrido permite a los clientes mantener un trabajo local adecuado mientras utilizan recursos centralizados o en la nube para tareas que necesitan capacidad adicional o diferentes modelos.

AMD proporciona un ejemplo útil de cuánto trabajo de IA se puede manejar localmente en la aplicación correcta. En el artículo Advancing AI 2026, AMD describe una demostración de soporte al cliente en la que un sistema con procesadores AMD Ryzen™ AI que ejecutan Lemonade maneja solicitudes de modelo rutinarias en el dispositivo y envía solicitudes más exigentes a un modelo en la nube. En esa demostración específica, AMD informó que el 69 % del procesamiento de tokens se mantuvo local, con el 31 % desviado a la nube.

Esas cifras provienen de una demostración, por lo que la división de cada cliente será diferente. Lo que hace que el ejemplo sea útil es cómo la aplicación toma esa decisión para las solicitudes individuales; la IA local puede manejar las tareas para las que es adecuada, con acceso a modelos de nube más grandes cuando es necesario, lo que mantiene la seguridad y la gestión de datos como prioridad y ayuda a reducir los costos continuos de computación en la nube.

Los procesadores AMD Ryzen AI pueden admitir el trabajo en dispositivos de empleados, mientras que los procesadores AMD Ryzen™ AI Embedded pueden generar inferencia en sistemas en el sitio, y las CPU para servidores AMD EPYC y las GPU AMD Instinct pueden admitir cargas de trabajo centralizadas. El resultado es más flexibilidad para crear en torno a lo que los clientes hacen actualmente y cómo sus necesidades de IA se pueden desarrollar tanto a corto como a largo plazo.

Ayudar a los clientes a encontrar el ajuste adecuado

Las cinco preguntas mencionadas en la parte superior de este artículo ofrecen a los socios un punto de partida útil. La IA en el dispositivo y en el perímetro puede ser conveniente en las ubicaciones en las que las respuestas inmediatas o el uso sin conexión son importantes, y los datos que deben permanecer de forma local y fuera de las plataformas basadas en la nube se pueden manejar en el dispositivo o dentro de la infraestructura local. Para modelos compartidos más grandes, entrenamiento intensivo o capacidad que crece con la demanda, considera las opciones de centro de datos y nube. Cuando los requisitos de los clientes varían según las tareas, explora una configuración híbrida desde el principio.

Una vez que hayas reducido las opciones, vale la pena explorar juntos los costos. Si las PC con IA locales forman parte del debate, la calculadora de tokenomía de AMD puede ayudarte a comparar los posibles costos de ejecución de trabajos a nivel local y mediante las API de la nube. A partir de ahí, asegúrate de que los modelos de IA y el software que eligió el cliente sean adecuados para el hardware y habla sobre cómo sería la gestión y el soporte de la configuración día a día.

Inicia la siguiente conversación con el cliente con una carga de trabajo de IA definida. Utiliza las cinco preguntas para identificar las opciones de implementación adecuadas, comparar los costos estimados con la calculadora de tokenomía de AMD, cuando corresponda, y validar la compatibilidad del modelo y el software antes de recomendar el hardware. Habla con tu representante de AMD acerca de la compatibilidad de procesadores, aceleradores y software AMD con los requisitos de carga de trabajo del cliente.