Die primäre Quelle für viele Begriffe im Bereich des maschinellen Lernens (ML) ist das ML-Glossar. Wir duplizieren ihre Arbeit nicht, sondern nehmen nur häufig zitierte Wörter und Begriffe auf, die nicht im ML-Glossar enthalten sind.
Blueprint für KI-Systeme
Wenn Sie neue KI-Funktionen oder ‑Produkte entwickeln, definieren Sie den Blueprint Ihres KI-Systems. Dabei wird die Möglichkeit für KI der Art und Weise zugeordnet, wie Sie eine Lösung entwickeln. Sie sollten Folgendes definieren:
- Warum entwickeln Sie? Welche KI-Anwendungsfälle sind verfügbar und welchen Nutzen haben sie für die Nutzer?
- Wie wird Ihre Anwendung funktionieren?
- Wie können Sie sicherstellen, dass jeder Teil Ihres Systems verantwortungsbewusst entwickelt wird?
Weitere Informationen zum Blueprint finden Sie in der Einführung in KI im Web.
Compound AI-Architektur
Zusammengesetzte KI-Architekturen, Kombinationen aus einem oder mehreren Modellen und anderen Komponenten wie Datenbanken, APIs und Schutzmaßnahmen, die zusammenarbeiten, um ein robustes, kontextbezogenes Verhalten zu ermöglichen
Context Engineering
Context Engineering ist der Prozess, bei dem dynamisch die relevantesten Informationen (Tokens) für eine bestimmte Anfrage ausgewählt werden, um die Wahrscheinlichkeit eines wertvollen Ergebnisses zu maximieren.
Data Drift
Ein Daten-Drift tritt auf, wenn die Trainingsdaten nicht mehr repräsentativ für die Realität sind. Nutzerverhalten, Datenerhebung und Datenumgebung können sich jederzeit ändern, was zu einer Verringerung der Modellleistung führen kann.
Deterministische Software
Bei einer bestimmten Eingabe folgt deterministische Software immer derselben Reihe von Schritten, um zu einer identischen Ausgabe zu führen. Diese Softwaretypen sind am zuverlässigsten, da sie vorhersehbar sind und effizient ausgeführt werden.
Künstliche Intelligenz ist nicht deterministisch. Die Wege und Ergebnisse können selbst bei identischen Prompts stark variieren.
Bewertungsgesteuerte Entwicklung (Evaluation-Driven Development, EDD)
Das Framework für die evaluierungsgesteuerte Entwicklung (Evaluation-Driven Development, EDD) bietet einen wiederholbaren, testbaren Prozess zur Verbesserung der Ausgaben in kleinen und sicheren Schritten, zum Erkennen von Regressionen und zur Anpassung des Modellverhaltens an die Erwartungen von Nutzern und Produkten im Laufe der Zeit.
Stellen Sie sich das als testgesteuerte Entwicklung (TDD) vor, die an die Unsicherheit von KI angepasst wurde. Im Gegensatz zu deterministischen Unittests können KI-Bewertungen nicht fest codiert werden, da Ausgaben – sowohl wohlgeformte als auch fehlerhafte – viele verschiedene Formen annehmen können, die Sie nicht vorhersehen können.
Generative KI
Generative KI ist ein System für maschinelles Lernen, das Inhalte erstellen kann. Das bedeutet, dass das Modell Text schreiben, Bilder generieren, Code erstellen oder sogar vollständige Benutzeroberflächen entwerfen kann.
Governance
Wir behandeln drei Dimensionen der KI-Governance:
- Datenschutz: Gehen Sie verantwortungsbewusst mit Daten um, erklären Sie, welche Daten erhoben werden, und minimieren Sie die Daten, die den Browser verlassen.
- Fairness: Prüfen Sie Ihre Modelle auf diskriminierendes Verhalten (Bias) und erstellen Sie Schleifen, mit denen Nutzer Probleme melden können.
- Vertrauen und Transparenz: Gestalten Sie Ihr System so, dass es Transparenz und kalibriertes Vertrauen fördert. So können Nutzer weiterhin davon profitieren, auch wenn Unsicherheit und potenzielle Fehler auftreten.
Die letzte Dimension, Sicherheit, ist ein wichtiger Aspekt der KI-Governance. Wir werden in zukünftigen Modulen mehr über Sicherheit berichten.
In der Zwischenzeit empfehlen wir Ihnen, das Secure AI Framework (SAIF) von Google und den Google Security Blog zu lesen.
Modell
Modelle sind das wichtigste Rückgrat eines KI-Systems. Im Grunde ist ein Modell eine Reihe von Parametern und eine Struktur, die es einem System ermöglichen, Vorhersagen zu treffen. Die Funktionsweise des Modells kann je nach Trainingsstil (überwacht oder unbeaufsichtigt) und Modellzweck (vorhersagend oder generativ) variieren.
Modellkarte
Modellkarten sind strukturierte Übersichten darüber, wie ein Modell entwickelt und bewertet wurde. Sie sind wichtige Artefakte, die den Ansatz von Google in Bezug auf verantwortungsbewusste KI unterstützen.
Modellgewichtungen
Modellgewichte sind numerische Werte, die die Wichtigkeit bestimmter Informationen bestimmen. Diese Werte werden beim Modelltraining kontinuierlich aktualisiert, bis ein ideales Gewicht festgelegt ist. Sie können die Gewichte offener Modelle wie Gemma anpassen.
Möglichkeiten für KI
Es gibt eine Reihe von Kategorien, um KI-Lösungen zu strukturieren:
- Statistiken: Entscheidungen besser treffen
- Komfort: Umständliche Abläufe vereinfachen.
- Automatisierung: Wiederholende Aufgaben ersetzen.
- Ergänzung: Nutzer bei komplexen oder kreativen Aufgaben unterstützen.
- Personalisierung: Das Produkt wird an die Bedürfnisse und Vorlieben einer Person angepasst.
Dies wird ausführlich unter Anwendungsfälle ansehen beschrieben.
Plattformen
Clientseitige KI wird direkt im Browser ausgeführt. Das bedeutet, dass Daten privat auf dem Gerät des Nutzers bleiben und es keine Netzwerklatenz gibt. Damit clientseitige KI gut funktioniert, sind jedoch sehr spezifische, genau definierte Anwendungsfälle erforderlich.
Serverseitige KI umfasst Modelle, die in der Cloud gehostet werden und Inferenz ausführen. Diese Methode ist sehr leistungsfähig und skalierbar, kann aber teurer sein und erfordert eine Netzwerkverbindung.
Prädiktive KI
Vorhersage-KI (oder analytische KI) ist eine Sammlung von Algorithmen, mit denen Sie vorhandene Daten analysieren und vorhersagen können, was als Nächstes wahrscheinlich passieren wird. Anhand historischer Muster lernen prädiktive KI-Modelle, Ergebnisse vorherzusagen, Erkenntnisse zu gewinnen und fundiertere Entscheidungen zu treffen.
Prompt Engineering
Prompt-Engineering ist das Schreiben und Umschreiben von Prompts, um Ausgaben zu generieren, die den Erwartungen Ihrer Nutzer entsprechen. Ein gut formulierter Prompt:
- Gibt an, wie das LLM seine Antwort formulieren soll.
- Besteht aus mehreren Komponenten, die im Laufe der Zeit versioniert, getestet und verbessert werden können.
- Kann als gemeinsames Artefakt für die teamübergreifende Zusammenarbeit dienen.
Es gibt eine Reihe von Techniken, die Sie beim Prompt Engineering anwenden können. Weitere Informationen finden Sie im Modul zu Prompt Engineering.
Prompt-Typen
Ein Prompt-Typ ist wie eine Zielgruppe für Prompts. Weitere Informationen
Systemaufforderung
Der Systemprompt wird von den Anwendungsentwicklern bereitgestellt und definiert das allgemeine Verhalten des Modells. Damit kann die Rolle des Modells („Du bist ein Schreibassistent“), der erwartete Ton, das Ausgabeformat (z. B. ein striktes JSON-Schema) und alle globalen Einschränkungen festgelegt werden. Dieser Prompt bleibt über Anfragen hinweg stabil.
Nutzer-Prompt
Der Nutzer-Prompt enthält die unmittelbare Anfrage, die zu einer Ausgabe führt. Der Nutzer stellt einige Eingabevariablen bereit, z. B. eine Textauswahl oder den erwarteten Stil, und fordert eine bestimmte Aufgabe an. Beispiele: „Generate three titles for this post“ (Erstelle drei Titel für diesen Beitrag), „Continue this paragraph“ (Führe diesen Absatz fort) oder „Make this more formal“ (Formuliere das formeller).