La fonte principale di riferimento per molti termini di machine learning (ML) è il glossario ML. Anziché duplicare il loro lavoro, includiamo solo parole e termini citati di frequente che non sono presenti nel glossario di machine learning.
Progetto del sistema di AI
Quando crei nuovi prodotti o funzionalità di AI, definisci il progetto del sistema di AI, mappando l'opportunità per l'AI al modo in cui creerai una soluzione. Devi definire:
- Perché stai creando? Quali casi d'uso dell'AI sono disponibili e quale valore apportano agli utenti?
- Come funzionerà la tua applicazione?
- Come puoi assicurarti che ogni parte del tuo sistema sia sviluppata in modo responsabile?
Scopri di più sul progetto nell'introduzione all'AI sul web.
Architettura di Compound AI
Architetture di AI composte, combinazioni di uno o più modelli e altri componenti come database, API e guardrail che funzionano insieme per fornire un comportamento solido e sensibile al contesto
Ingegneria del contesto
L'ingegneria del contesto è il processo di selezione dinamica delle informazioni (token) più pertinenti per una determinata richiesta al fine di massimizzare la probabilità di ricevere un risultato di valore.
Deviazione nei dati
Il data drift si verifica quando i dati di addestramento non sono più rappresentativi della realtà. Il comportamento degli utenti, la raccolta dei dati e l'ambiente dei dati possono cambiare in qualsiasi momento e ciò può comportare una riduzione del rendimento del modello.
Software deterministico
Dato un determinato input, il software deterministico segue sempre la stessa serie di passaggi per produrre un output identico. Questi sono i tipi di software più affidabili, in quanto sono prevedibili e vengono eseguiti in modo efficiente.
L'intelligenza artificiale non è deterministica. I percorsi e i risultati possono variare notevolmente, anche con prompt identici.
Sviluppo basato sulla valutazione (EDD)
Il framework di sviluppo basato sulla valutazione (EDD) offre un processo ripetibile e verificabile per migliorare gli output in piccoli e sicuri passaggi, rilevare le regressioni e allineare il comportamento del modello alle aspettative degli utenti e del prodotto nel tempo.
Consideralo come uno sviluppo basato sui test (TDD), adattato all'incertezza dell'AI. A differenza dei test delle unità deterministici, le valutazioni dell'AI non possono essere codificate in modo rigido perché gli output, sia quelli ben formati sia quelli non riusciti, possono assumere molte forme diverse che non puoi prevedere.
AI generativa
L'AI generativa è un sistema di machine learning in grado di creare contenuti. Ciò significa che il modello potrebbe scrivere testi, generare immagini, produrre codice o persino progettare intere interfacce utente.
Governance
Trattiamo tre dimensioni della governance dell'AI:
- Privacy: gestisci i dati in modo responsabile, spiega quali vengono raccolti e riduci al minimo quelli che escono dal browser.
- Equità: controlla che i tuoi modelli non presentino comportamenti discriminatori (bias) e crea cicli che consentano agli utenti di segnalare i problemi.
- Fiducia e trasparenza: progetta il tuo sistema in modo che sia trasparente e la fiducia sia calibrata, in modo che gli utenti continuino a trarne vantaggio nonostante l'incertezza e i potenziali errori.
L'ultima dimensione, la sicurezza, è una dimensione importante della governance dell'AI. Nei moduli futuri forniremo ulteriori informazioni sulla sicurezza.
Nel frattempo, ti consigliamo di leggere il Secure AI Framework (SAIF) di Google e il blog sulla sicurezza di Google.
Modello
I modelli sono la spina dorsale più importante di un sistema di AI. Un modello è un insieme di parametri e una struttura che supportano un sistema che fa previsioni. Il funzionamento del modello può variare in base allo stile di addestramento (supervisionato o non supervisionato) e allo scopo del modello (predittivo o generativo).
Scheda del modello
Le schede del modello sono panoramiche strutturate di come un modello è stato progettato e valutato. Servono come artefatti chiave a supporto dell'approccio di Google all'AI responsabile.
Pesi del modello
I pesi del modello sono valori numerici che determinano l'importanza di determinate informazioni. Questi valori vengono aggiornati continuamente durante l'addestramento del modello, finché non viene impostato un peso ideale. Puoi modificare i pesi dei modelli open, ad esempio Gemma.
Opportunità per l'AI
Esistono diverse categorie per inquadrare le soluzioni di AI:
- Approfondimenti: migliora il processo decisionale.
- Comodità: elimina gli ostacoli.
- Automazione: sostituisci il lavoro ripetitivo.
- Potenziamento: aiuta gli utenti con attività complesse o creative.
- Personalizzazione: adatta il prodotto alle esigenze e alle preferenze di un individuo.
Questo argomento è trattato in dettaglio nella sezione Esplorazione dei casi d'uso.
Piattaforme
L'AI lato client viene eseguita direttamente nel browser. Ciò significa che i dati possono rimanere privati, sul dispositivo dell'utente, e non c'è latenza di rete. Tuttavia, per funzionare bene, l'AI lato client ha bisogno di casi d'uso altamente specifici e ben definiti.
L'AI lato server include modelli ospitati ed esecuzione dell'inferenza nel cloud. Questa è altamente efficiente e scalabile, ma può essere più costosa e richiede una connessione di rete.
AI predittiva
L'AI predittiva (o analitica) è un insieme di algoritmi che ti aiutano a comprendere i dati esistenti e a prevedere cosa accadrà in futuro. In base ai pattern storici, i modelli di AI predittiva imparano a prevedere i risultati, a mostrare gli insight e a prendere decisioni più intelligenti.
Prompt engineering
Il prompt engineering è l'attività di scrivere e riscrivere prompt per produrre output in linea con le aspettative degli utenti. Un prompt ben scritto:
- Indica come l'LLM deve costruire la risposta.
- È composto da più componenti che possono essere sottoposti a controllo delle versioni, testati e migliorati nel tempo.
- Può fungere da artefatto condiviso per la collaborazione tra i team.
Esistono diverse tecniche che puoi utilizzare nel prompt engineering, che puoi leggere nel modulo Prompt engineering.
Tipi di prompt
Pensa a un tipo di prompt come al pubblico del prompt. Puoi scoprire di più su questo argomento nel modulo di ingegneria dei prompt.
Prompt di sistema
Il prompt di sistema è fornito dagli sviluppatori dell'applicazione e definisce il comportamento generale del modello. Può impostare il ruolo del modello ("Sei un assistente di scrittura"), il tono previsto, il formato di output (ad esempio uno schema JSON rigoroso) e qualsiasi vincolo globale. Questo prompt rimane stabile tra le richieste.
Prompt dell'utente
Il prompt utente contiene la richiesta immediata che porta a un output. L'utente fornisce alcune variabili di input (ad esempio una selezione di testo o uno stile previsto) e richiede un'attività specifica. Ad esempio, "Generate three titles for this post" (Genera tre titoli per questo post), "Continue this paragraph" (Continua questo paragrafo) o "Make this more formal" (Rendi questo testo più formale).