Elige tu plataforma

Antes de crear con IA, debes elegir la plataforma en la que se alojará. Tu elección afecta la velocidad, el costo, la escalabilidad y la confiabilidad de tu sistema de IA. Puedes elegir entre las siguientes opciones:

• IA del cliente: Se ejecuta directamente en el navegador. Esto significa que los datos pueden permanecer privados, en el dispositivo del usuario, y no hay latencia de red. Sin embargo, para que funcione bien, la IA del cliente necesita casos de uso muy específicos y bien definidos.
• IA del servidor: Se ejecuta en la nube. Es muy capaz y escalable, pero más costoso en términos de latencia y costo.

Cada opción tiene sus ventajas y desventajas, y la configuración adecuada depende de tu caso de uso, las habilidades de tu equipo y los recursos. Por ejemplo, puedes ofrecer una herramienta de resumen que se ejecute de forma local para que los usuarios puedan hacer preguntas personales sin necesidad de administrar información de identificación personal (PII). Sin embargo, un agente de asistencia al cliente podría brindar respuestas más útiles si usara un modelo basado en la nube que tenga acceso a una gran base de datos de recursos.

En este módulo, aprenderás a hacer lo siguiente:

• Compara las ventajas y desventajas de la IA del cliente y del servidor.
• Adapta tu plataforma a tu caso de uso y a las capacidades de tu equipo.
• Diseña sistemas híbridos que ofrezcan IA en el cliente y el servidor para crecer con tu producto.

Revisa las opciones

Para la implementación, piensa en las plataformas de IA en función de dos ejes principales. Puede elegir una de las siguientes opciones:

• Dónde se ejecuta el modelo: ¿Se ejecuta del lado del cliente o del servidor?
• Personalización: ¿Cuánto control tienes sobre el conocimiento y las capacidades del modelo? Si puedes controlar el modelo, es decir, modificar los pesos del modelo, puedes personalizar su comportamiento para que cumpla con tus requisitos específicos.

IA del cliente

La IA del cliente se ejecuta en el navegador y el procesamiento se realiza de forma local en el dispositivo del usuario. No necesitas proporcionar recursos de procesamiento en el tiempo de inferencia, y los datos permanecen en la máquina del usuario. Esto lo hace rápido, privado y adecuado para experiencias interactivas y ligeras.

Sin embargo, los modelos del cliente suelen ser bastante pequeños, lo que puede limitar sus capacidades y rendimiento. Son más adecuados para tareas muy especializadas, como la detección de toxicidad o el análisis de opiniones. A menudo, se trata de tareas de IA predictiva con un espacio de salida limitado.

Existen dos opciones principales:

• IA integrada: Los navegadores, como Google Chrome y Microsoft Edge, están integrando modelos de IA. Se puede acceder a ellos a través de llamadas de JavaScript, sin necesidad de configuración ni hosting. Una vez que se descarga el modelo, todos los sitios web que lo usan pueden llamarlo.
• Modelos personalizados: Puedes usar bibliotecas del cliente, como Transformers.js y MediaPipe, para integrar modelos en tu aplicación. Esto significa que puedes controlar los pesos del modelo. Sin embargo, eso también significa que cada usuario de tu sitio web debe descargar tu modelo personalizado. Incluso los modelos de IA más pequeños son grandes en el contexto de un sitio web.

IA del servidor

Con la IA del servidor, tu aplicación web llama a una API para enviar entradas al modelo de IA y recibir sus salidas. Esta configuración admite modelos más grandes y complejos, y es independiente del hardware del usuario.

Las dos categorías de IA del servidor son las siguientes:

• Servicios administrados: Son modelos alojados en centros de datos por un tercero, como Gemini 3 y GPT-5. El propietario del modelo proporciona una API para acceder a él. Esto significa que puedes usar modelos de vanguardia con una configuración mínima. Son ideales para la creación rápida de prototipos, conversaciones abiertas y razonamiento de uso general. Sin embargo, el escalamiento en un servicio administrado puede ser costoso.
• Modelos autoalojados: Puedes implementar modelos de código abierto, como Gemma o Llama, en tu propia infraestructura o en un contenedor administrado, como Vertex AI o Hugging Face Inference. Este enfoque significa que puedes aprovechar el entrenamiento previo que realizó el creador del modelo, pero mantienes el control sobre el modelo, los datos de ajuste y el rendimiento.

Elige una plataforma inicial

Revisa las características de arquitectura de las plataformas de IA y analiza las compensaciones para decidir tu configuración inicial.

Define tus requisitos de arquitectura

Con cada decisión, debes llegar a acuerdos. Consulta las características clave que definen el costo y el valor de tu plataforma de IA:

• Potencia del modelo: Indica qué tan bien se desempeña el modelo en una amplia variedad de usuarios y tareas, sin necesidad de ajustarlo. A menudo, esto se correlaciona con el tamaño del modelo.
• Capacidad de personalización: Es el grado en el que puedes ajustar, modificar o controlar el comportamiento y la arquitectura del modelo.
• Precisión: Calidad y confiabilidad generales de las predicciones o generaciones del modelo
• Privacidad: Es el grado en que los datos del usuario permanecen locales y bajo su control.
• Costo fijo: Es el gasto recurrente necesario para operar el sistema de IA, independientemente del uso, incluido el aprovisionamiento y el mantenimiento de la infraestructura.
• Costo por solicitud: Es el costo adicional de cada solicitud entrante.
• Compatibilidad: Indica qué tan ampliamente funciona el enfoque en diferentes navegadores, dispositivos y entornos sin lógica de resguardo.
• Comodidad del usuario: Indica si los usuarios deben realizar pasos adicionales para usar el sistema de IA, como descargar un modelo.
• Comodidad para los desarrolladores: Qué tan rápido y fácil es para la mayoría de los desarrolladores implementar, integrar y mantener el modelo, sin necesidad de experiencia especializada en IA

En la siguiente tabla, se proporciona un ejemplo de las estimaciones sobre el rendimiento de cada plataforma para cada criterio, en el que 1 es el valor más bajo y 5 es el más alto.

Analiza las ventajas y desventajas

Para ilustrar el proceso de toma de decisiones, agregaremos otra función a Example Shoppe, una plataforma de comercio electrónico de tamaño mediano. Te interesa ahorrar costos en el servicio de atención al cliente fuera del horario de atención, por lo que decides crear un asistente potenciado por IA para responder las preguntas de los usuarios sobre pedidos, devoluciones y productos.

Analiza la situación con dos enfoques: los requisitos del caso de uso y las restricciones comerciales o del equipo.

Ahora que priorizaste tus criterios, puedes consultar la tabla de estimación de compensaciones para determinar qué plataforma coincide con tus criterios de mayor prioridad:

En este desglose, queda claro que debes usar la IA del servidor y, probablemente, un servicio administrado. Esto ofrece un modelo versátil para preguntas complejas de los clientes. Minimiza el esfuerzo de mantenimiento y desarrollo, ya que delega la infraestructura, la calidad del modelo y el tiempo de actividad al proveedor.

Si bien la personalización es limitada, vale la pena hacer este intercambio para un equipo de desarrollo web con experiencia limitada en ingeniería de modelos.

Una configuración de generación mejorada por recuperación (RAG) puede ayudarte a proporcionar el contexto pertinente al modelo en el momento de la inferencia.

Hybrid AI

Los sistemas de IA consolidados rara vez se ejecutan en una sola plataforma o con un solo modelo. En cambio, distribuyen las cargas de trabajo de IA para optimizar las compensaciones.

Identifica oportunidades para la IA híbrida

Una vez que lo lances, deberás definir mejor tus requisitos en función de los datos y los comentarios reales. En nuestro ejemplo, Example Shoppe, esperas unos meses para analizar los resultados y encuentras lo siguiente:

• Alrededor del 80% de las solicitudes son repetitivas ("¿Dónde está mi pedido?", "¿Cómo devuelvo este artículo?"). Enviar estas solicitudes a un servicio administrado genera muchos costos y sobrecarga.
• Solo el 20% de las solicitudes requieren un razonamiento más profundo y una conversación interactiva y abierta.

Un modelo local ligero podría clasificar las entradas del usuario y responder consultas de rutina, como "¿Cuál es su política de devoluciones?". Puedes enrutar preguntas complejas, poco frecuentes o ambiguas al modelo del servidor.

Si implementas la IA tanto del lado del servidor como del cliente, puedes reducir los costos y la latencia, y, al mismo tiempo, mantener el acceso a un razonamiento potente cuando sea necesario.

Distribuye la carga de trabajo

Para compilar este sistema híbrido para Example Shoppe, debes comenzar por definir el sistema predeterminado. En este caso, lo mejor es comenzar del lado del cliente. La aplicación debe enrutar a la IA del servidor en dos casos:

• Respaldo basado en la compatibilidad: Si el dispositivo o el navegador del usuario no pueden controlar la solicitud, se debe recurrir al servidor.
• Derivación basada en capacidades: Si la solicitud es demasiado compleja o abierta para el modelo del cliente, según los criterios predeterminados, se debe derivar a un modelo más grande del servidor. Podrías usar un modelo para clasificar la solicitud como común, de modo que realices la tarea del lado del cliente, o como poco común, y envíes la solicitud al sistema del servidor. Por ejemplo, si el modelo del cliente determina que la pregunta está relacionada con un problema poco común, como obtener un reembolso en una moneda diferente.

La flexibilidad introduce más complejidad

Distribuir las cargas de trabajo entre dos plataformas te brinda más flexibilidad, pero también agrega complejidad:

• Organización: Dos entornos de ejecución significan más partes móviles. Necesitas lógica para el enrutamiento, los reintentos y las copias de seguridad.
• Control de versiones: Si usas el mismo modelo en todas las plataformas, debe seguir siendo compatible en ambos entornos.
• Ingeniería de instrucciones y de contexto: Si usas diferentes modelos en cada plataforma, debes realizar ingeniería de instrucciones para cada uno.
• Supervisión: Los registros y las métricas se dividen y requieren un esfuerzo adicional de unificación.
• Seguridad: Mantienes dos superficies de ataque. Tanto los extremos locales como los de la nube deben reforzarse.

Esta es otra compensación que debes tener en cuenta. Si tienes un equipo pequeño o estás creando una función no esencial, es posible que no quieras agregar esta complejidad.

Tus conclusiones

Espera que tu elección de plataforma evolucione. Comienza con el caso de uso, alinea tu estrategia con la experiencia y los recursos de tu equipo, y realiza iteraciones a medida que crezcan tu producto y tu madurez en la IA. Tu tarea es encontrar la combinación adecuada de velocidad, privacidad y control para tus usuarios y, luego, crear con cierta flexibilidad. De esta manera, puedes adaptarte a los requisitos cambiantes y aprovechar las futuras actualizaciones de la plataforma y el modelo.

Recursos

• Dado que la elección de la plataforma y el modelo son interdependientes, obtén más información sobre la selección de modelos.
• Descubre cómo ir más allá de la nube con la IA híbrida y del cliente

Verifica tus conocimientos