Creare esperienze web responsabili con l'IA generativa

Data di pubblicazione: 16 settembre 2024

L'IA generativa è ovunque e le opportunità per gli sviluppatori di creare nuovi contenuti e nuove esperienze sono infinite. Di conseguenza, è fondamentale che sviluppiamo i nostri prodotti tenendo presente l'aspetto etico e creando esperienze sicure per i nostri utenti. Vogliamo rendere l'IA utile per tutti, migliorando l'ecosistema web e le esperienze degli utenti.

Google si impegna a seguire prassi di IA responsabile. Qualunque decisione tu prenda, assicurati di documentare le tue pratiche per il futuro. Tieni traccia dei risultati e delle best practice in modo che tu e i tuoi colleghi possiate continuare a gestire e migliorare le applicazioni esistenti e future.

I siti, le app e le estensioni che generano contenuti utilizzando l'IA devono tenere conto di quanto segue:

  • Testa rigorosamente gli strumenti e i modelli di IA.
  • Utilizza gli strumenti e le impostazioni di sicurezza preesistenti.
  • Offri agli utenti un modo per segnalare contenuti offensivi, poi rispondi a queste segnalazioni.
  • Pubblicizza il tuo prodotto in modo responsabile.

Testa rigorosamente gli strumenti e i modelli di IA

Tu o la tua azienda siete responsabili dell'esperienza nelle vostre app, pertanto è fondamentale comprendere i modelli e la tecnologia IA sottostanti. È importante testare una serie di casi d'uso e proteggersi dai prompt che potrebbero creare contenuti dannosi o offensivi.

Utilizzare meccanismi di sicurezza preesistenti

Alcune API, come Vertex AI, dispongono di strumenti e opzioni di configurazione per i filtri di sicurezza. I filtri di sicurezza fungono da barriera per impedire l'output dannoso, ma non modificano direttamente il comportamento del modello. Ti consigliamo di rivedere e impostare questi filtri a un livello che ritieni appropriato.

Attivare i report sui contenuti offensivi

Anche con i test e i filtri di sicurezza, è possibile che contenuti considerati offensivi possano essere visualizzati dagli utenti. Monitora e dai la priorità ai feedback degli utenti sulle funzionalità di IA generativa per assicurarti di sviluppare la migliore esperienza possibile. Stabilisci una procedura per gestire le segnalazioni di contenuti offensivi.

Per ridurre i potenziali contenuti offensivi, puoi eseguire una o più delle seguenti azioni:

  • Bloccare input simili che hanno portato ai contenuti offensivi
  • Oscurare l'output del modello
  • Ottimizza il modello
  • Cambiare completamente il modello

Se crei estensioni per browser, rispetta sempre le norme pertinenti. Gli sviluppatori di estensioni di Chrome che vogliono pubblicare la propria estensione sul Chrome Web Store devono rispettare le norme del Chrome Web Store. Se pubblichi contenuti generati con l'IA, cerca di creare contenuti utili, affidabili e pensati per le persone.

Quando fai pubblicità, è importante farlo in modo sicuro e rispettoso degli utenti. Esamina i materiali di marketing per assicurarti che gli annunci rappresentino con precisione le funzionalità effettive del tuo sito o della tua app.

Uno sguardo al futuro

Continueremo a fornire best practice e a condividere risorse, come la Guida Persone e IA, per supportare gli sviluppatori nella creazione di app innovative e responsabili.

Condividi il tuo feedback con noi all'indirizzo @ChromiumDev su X o Chrome per gli sviluppatori su LinkedIn, e scopri tutti i nostri contenuti sull'IA.