Créer des expériences Web responsables avec l'IA générative

Publié le 16 septembre 2024

L'IA générative est partout, et les possibilités pour les développeurs de créer de nouveaux contenus et de nouvelles expériences sont infinies. Il est donc essentiel que nous concevions des produits en gardant à l'esprit l'éthique et que nous créions des expériences sécurisées pour nos utilisateurs. Nous avons l'intention de rendre l'IA utile pour tous, en améliorant l'écosystème Web et l'expérience utilisateur.

Google s'engage à mettre en place des pratiques d'IA responsables. Quelles que soient les décisions que vous prenez, veillez à documenter vos pratiques pour l'avenir. Consignez les résultats et les bonnes pratiques afin que vous et vos collègues puissiez continuer à gérer et à améliorer les applications existantes et futures.

Les sites, applications et extensions qui génèrent du contenu à l'aide de l'IA doivent prendre en compte les points suivants:

  • Tester rigoureusement les outils et les modèles d'IA
  • Utilisez les outils et paramètres de sécurité préexistants.
  • Permettez aux utilisateurs de signaler du contenu offensant, puis traitez ces signalements.
  • Faites la promotion de votre produit de manière responsable.

Tester rigoureusement les outils et modèles d'IA

Vous ou votre entreprise êtes responsable de l'expérience dans vos applications. Il est donc essentiel que vous compreniez les modèles et la technologie d'IA sous-jacents. Il est important de tester différents cas d'utilisation et de vous protéger contre les requêtes susceptibles de créer du contenu dangereux ou choquant.

Utiliser des mécanismes de sécurité préexistants

Certaines API, comme Vertex AI, disposent d'outils et d'options de configuration pour les filtres de sécurité. Les filtres de sécurité agissent comme une barrière pour empêcher la génération de résultats nuisibles, mais n'en modifient pas directement le comportement. Nous vous recommandons de vérifier et de définir ces filtres à un niveau que vous jugez approprié.

Activer les signalements de contenus choquants

Même avec des tests et des filtres de sécurité, il est possible que des contenus considérés comme choquants soient diffusés auprès des utilisateurs. Surveillez et priorisez les commentaires des utilisateurs sur les fonctionnalités d'IA générative pour vous assurer de proposer la meilleure expérience possible. Établir un processus pour traiter les signalements de contenus offensants.

Pour limiter les contenus potentiellement offensants, vous pouvez effectuer l'une ou plusieurs des actions suivantes:

  • Bloquer les entrées similaires qui ont entraîné le contenu offensant
  • Masquer la sortie du modèle
  • Affiner le modèle
  • Changer complètement le modèle

Si vous créez des extensions de navigateur, respectez toujours les règles applicables. Les développeurs d'extensions Chrome qui souhaitent publier leur extension sur le Chrome Web Store doivent respecter les Règles du Chrome Web Store. Si vous publiez des contenus générés par IA, essayez de créer des contenus utiles, fiables et axés sur l'humain.

Lorsque vous diffusez des annonces, il est important de le faire de manière sécurisée et respectueuse des utilisateurs. Examinez vos supports marketing pour vous assurer que vos annonces représentent fidèlement les fonctionnalités réelles de votre site ou de votre application.

Regarder vers l'avenir

Nous continuerons de fournir des bonnes pratiques et de partager des ressources, comme le guide People + AI, pour aider les développeurs à créer des applications innovantes et responsables.

Partagez vos commentaires avec nous sur @ChromiumDev sur X ou sur Chrome pour les développeurs sur LinkedIn, et explorez tous nos contenus sur l'IA.