Choisissez votre plate-forme

Avant de créer avec l'IA, vous devez choisir la plate-forme sur laquelle elle est hébergée. Votre choix a un impact sur la vitesse, le coût, l'évolutivité et la fiabilité de votre système d'IA. Vous avez le choix entre plusieurs options :

• IA côté client : s'exécute directement dans le navigateur. Cela signifie que les données peuvent rester privées, sur l'appareil de l'utilisateur, et qu'il n'y a pas de latence réseau. Toutefois, pour fonctionner correctement, l'IA côté client a besoin de cas d'utilisation très spécifiques et bien définis.
• IA côté serveur : s'exécute dans le cloud. Il est très performant et évolutif, mais plus coûteux en termes de latence et de coût.

Chaque option présente des avantages et des inconvénients. La configuration appropriée dépend de votre cas d'utilisation, des compétences de votre équipe et de vos ressources. Par exemple, vous pouvez proposer un outil de synthèse qui s'exécute en local afin que les utilisateurs puissent poser des questions personnelles sans avoir à gérer d'informations permettant de les identifier personnellement. Toutefois, un agent du service client pourrait fournir des réponses plus utiles en utilisant un modèle basé sur le cloud qui a accès à une grande base de données de ressources.

Dans ce module, vous allez apprendre à :

• Comparez les compromis entre l'IA côté client et côté serveur.
• Choisissez une plate-forme adaptée à votre cas d'utilisation et aux capacités de votre équipe.
• Concevez des systèmes hybrides, qui offrent l'IA sur le client et le serveur, pour évoluer avec votre produit.

Examiner les options

Pour le déploiement, pensez aux plates-formes d'IA selon deux axes principaux. Vous avez plusieurs choix possibles :

• Où le modèle s'exécute-t-il ? S'exécute-t-il côté client ou côté serveur ?
• Personnalisation : dans quelle mesure pouvez-vous contrôler les connaissances et les capacités du modèle ? Si vous pouvez contrôler le modèle, c'est-à-dire modifier les pondérations du modèle, vous pouvez personnaliser son comportement pour répondre à vos exigences spécifiques.

IA côté client

L'IA côté client s'exécute dans le navigateur et les calculs sont effectués localement sur l'appareil de l'utilisateur. Vous n'avez pas besoin de fournir de ressources de calcul pour l'inférence, et les données restent sur la machine de l'utilisateur. Il est donc rapide, privé et adapté aux expériences interactives légères.

Toutefois, les modèles côté client sont généralement assez petits, ce qui peut limiter leurs capacités et leurs performances. Ils sont plus adaptés aux tâches très spécialisées, comme la détection de toxicité ou l'analyse des sentiments. Il s'agit souvent de tâches d'IA prédictive avec un espace de sortie limité.

Vous avez deux options principales :

• IA intégrée : les navigateurs, tels que Google Chrome et Microsoft Edge, intègrent des modèles d'IA. Elles sont accessibles via des appels JavaScript, sans configuration ni hébergement requis. Une fois le modèle téléchargé, il peut être appelé par tous les sites Web qui l'utilisent.
• Modèles personnalisés : vous pouvez utiliser des bibliothèques côté client, telles que Transformers.js et MediaPipe, pour intégrer des modèles à votre application. Cela signifie que vous pouvez contrôler les pondérations du modèle. Toutefois, cela signifie également que chaque utilisateur de votre site Web doit télécharger votre modèle personnalisé. Même les plus petits modèles d'IA sont volumineux dans le contexte d'un site Web.

IA côté serveur

Avec l'IA côté serveur, votre application Web appelle une API pour envoyer des entrées au modèle d'IA et recevoir ses sorties. Cette configuration est compatible avec des modèles plus volumineux et plus complexes, et est indépendante du matériel de l'utilisateur.

Il existe deux catégories d'IA côté serveur :

• Services gérés : il s'agit de modèles hébergés dans des centres de données par un tiers, comme Gemini 3 et GPT-5. Le propriétaire du modèle fournit une API pour y accéder. Cela signifie que vous pouvez utiliser des modèles de pointe avec une configuration minimale. Ils sont idéaux pour le prototypage rapide, les conversations ouvertes et le raisonnement à usage général. Toutefois, la mise à l'échelle sur un service géré peut être coûteuse.
• Modèles auto-hébergés : vous pouvez déployer des modèles Open Source, tels que Gemma ou Llama, sur votre propre infrastructure ou dans un conteneur géré, tel que Vertex AI ou Hugging Face Inference. Cette approche vous permet de bénéficier du pré-entraînement effectué par le créateur du modèle, tout en gardant le contrôle sur le modèle, les données d'affinage et les performances.

Choisir une plate-forme initiale

Examinez les caractéristiques architecturales des plates-formes d'IA et analysez les compromis pour décider de votre configuration initiale.

Définir vos exigences architecturales

Chaque décision implique des compromis. Examinez les principales caractéristiques qui définissent le coût et la valeur de votre plate-forme d'IA :

• Puissance du modèle : performances du modèle pour un large éventail d'utilisateurs et de tâches, sans réglage. Cela est souvent corrélé à la taille du modèle.
• Personnalisation : mesure dans laquelle vous pouvez affiner, modifier ou contrôler le comportement et l'architecture du modèle.
• Justesse : qualité et fiabilité globales des prédictions ou des générations du modèle.
• Confidentialité : degré de localisation des données utilisateur et de contrôle par l'utilisateur.
• Coût fixe : dépense récurrente nécessaire au fonctionnement du système d'IA, quelle que soit son utilisation, y compris le provisionnement et la maintenance de l'infrastructure.
• Coût par requête : coût supplémentaire de chaque requête entrante.
• Compatibilité : mesure de la compatibilité de l'approche avec les navigateurs, les appareils et les environnements sans logique de secours.
• Confort de l'utilisateur : indique si les utilisateurs doivent effectuer des étapes supplémentaires pour utiliser le système d'IA, comme télécharger un modèle.
• Facilité d'utilisation pour les développeurs : rapidité et facilité avec lesquelles la plupart des développeurs peuvent déployer, intégrer et gérer le modèle, sans expertise spécialisée en IA.

Le tableau suivant fournit un exemple d'estimations des performances de chaque plate-forme pour chaque critère, où 1 correspond à la valeur la plus faible et 5 à la valeur la plus élevée.

Analyser les compromis

Pour illustrer le processus de prise de décision, nous allons ajouter une autre fonctionnalité à Example Shoppe, une plate-forme d'e-commerce de taille moyenne. Vous souhaitez réduire les coûts du service client en dehors des heures d'ouverture. Vous décidez donc de créer un assistant optimisé par l'IA pour répondre aux questions des utilisateurs sur les commandes, les retours et les produits.

Analysez le scénario en utilisant deux angles : les exigences du cas d'utilisation et les contraintes de l'entreprise ou de l'équipe.

Maintenant que vous avez hiérarchisé vos critères, vous pouvez consulter le tableau d'estimation des compromis pour déterminer quelle plate-forme correspond à vos critères les plus importants :

Il ressort clairement de cette répartition que vous devez utiliser l'IA côté serveur, et probablement un service géré. Il s'agit d'un modèle polyvalent pour les questions complexes des clients. Il minimise les efforts de maintenance et de développement en déchargeant l'infrastructure, la qualité des modèles et le temps d'activité sur le fournisseur.

Bien que la personnalisation soit limitée, cela reste un compromis intéressant pour une équipe de développement Web ayant une expérience limitée en ingénierie de modèles.

Une configuration de génération augmentée par récupération (RAG) peut vous aider à fournir le contexte approprié au modèle au moment de l'inférence.

IA hybride

Les systèmes d'IA matures fonctionnent rarement sur une seule plate-forme ou avec un seul modèle. Elles distribuent plutôt les charges de travail d'IA pour optimiser les compromis.

Identifier les opportunités d'IA hybride

Une fois que vous avez lancé votre application, vous devez affiner vos exigences en fonction des données et des commentaires réels. Dans notre exemple, Example Shoppe, vous attendez quelques mois pour analyser les résultats et vous constatez ce qui suit :

• Environ 80 % des demandes sont répétitives ("Où est ma commande ?", "Comment renvoyer cet article ?"). L'envoi de ces requêtes à un service géré génère beaucoup de surcharge et de coûts.
• Seules 20 % des demandes nécessitent un raisonnement plus approfondi et une conversation interactive et ouverte.

Un modèle local léger pourrait classer les entrées utilisateur et répondre aux requêtes de routine, comme "Quelles sont vos conditions de retour ?" Vous pouvez acheminer les questions complexes, rares ou ambiguës vers le modèle côté serveur.

En implémentant l'IA côté serveur et côté client, vous pouvez réduire les coûts et la latence, tout en conservant l'accès à un raisonnement puissant lorsque cela est nécessaire.

Distribuer la charge de travail

Pour créer ce système hybride pour Example Shoppe, vous devez commencer par définir le système par défaut. Dans ce cas, il est préférable de commencer côté client. L'application doit être redirigée vers l'IA côté serveur dans deux cas :

• Solution de secours basée sur la compatibilité : si l'appareil ou le navigateur de l'utilisateur ne peuvent pas traiter la demande, ils doivent revenir au serveur.
• Escalade basée sur les capacités : si la requête est trop complexe ou trop ouverte pour le modèle côté client, selon des critères prédéterminés, elle doit être escaladée vers un modèle côté serveur plus grand. Vous pouvez utiliser un modèle pour classer la requête comme courante (et effectuer la tâche côté client) ou comme inhabituelle (et envoyer la requête au système côté serveur). Par exemple, si le modèle côté client détermine que la question est liée à un problème peu courant, comme l'obtention d'un remboursement dans une autre devise.

La flexibilité introduit plus de complexité

La répartition des charges de travail entre deux plates-formes vous offre plus de flexibilité, mais ajoute également de la complexité :

• Orchestration : deux environnements d'exécution impliquent plus de composants mobiles. Vous avez besoin d'une logique pour le routage, les nouvelles tentatives et les solutions de repli.
• Gestion des versions : si vous utilisez le même modèle sur plusieurs plates-formes, il doit rester compatible dans les deux environnements.
• Ingénierie des requêtes et ingénierie du contexte : si vous utilisez différents modèles sur chaque plate-forme, vous devez effectuer l'ingénierie des requêtes pour chacun d'eux.
• Surveillance : les journaux et les métriques sont divisés et nécessitent un effort supplémentaire pour être unifiés.
• Sécurité : vous gérez deux surfaces d'attaque. Les points de terminaison locaux et cloud doivent être renforcés.

Il s'agit d'un autre compromis à prendre en compte. Si votre équipe est petite ou si vous développez une fonctionnalité non essentielle, vous n'aurez peut-être pas envie d'ajouter cette complexité.

Vos points à retenir

Attendez-vous à ce que votre choix de plate-forme évolue. Commencez par le cas d'utilisation, alignez-vous sur l'expérience et les ressources de votre équipe, et itérez à mesure que votre produit et votre maturité en matière d'IA évoluent. Votre tâche consiste à trouver le bon équilibre entre vitesse, confidentialité et contrôle pour vos utilisateurs, puis à créer votre application avec une certaine flexibilité. Vous pouvez ainsi vous adapter aux exigences changeantes et bénéficier des futures mises à jour de la plate-forme et du modèle.

Ressources

• Le choix de la plate-forme et du modèle étant interdépendants, consultez Sélection de modèles pour en savoir plus.
• Découvrez comment aller au-delà du cloud avec l'IA hybride et côté client.

Vérifier que vous avez bien compris