Veröffentlicht: 16. September 2024
Generative KI ist überall und die Möglichkeiten für Entwickler, neue Inhalte und neue Funktionen zu erstellen, sind endlos. Daher ist es wichtig, dass wir ethische Grundsätze berücksichtigen und eine sichere Umgebung für unsere Nutzer schaffen. Wir möchten KI für alle Menschen hilfreich machen und so das Web und die Nutzerfreundlichkeit verbessern.
Verantwortungsbewusste Websites, Webanwendungen und Erweiterungen erstellen
Google setzt auf verantwortungsbewusste KI-Praktiken. Welche Entscheidungen Sie auch treffen, dokumentieren Sie Ihre Praktiken für die Zukunft. Notieren Sie sich die Ergebnisse und Best Practices, damit Sie und Ihre Kollegen bestehende und zukünftige Anwendungen weiter pflegen und verbessern können.
Bei Websites, Apps und Erweiterungen, die Inhalte mithilfe von KI generieren, sollten die folgenden Aspekte berücksichtigt werden:
- KI-Tools und ‑Modelle streng testen
- Vorhandene Sicherheitstools und -einstellungen verwenden
- Bieten Sie Nutzern die Möglichkeit, anstößige Inhalte zu melden, und gehen Sie dann auf diese Meldungen ein.
- Werben Sie verantwortungsvoll für Ihr Produkt.
KI-Tools und ‑Modelle streng testen
Sie oder Ihr Unternehmen sind für die Nutzerfreundlichkeit Ihrer Apps verantwortlich. Daher ist es wichtig, dass Sie die zugrunde liegenden KI-Modelle und ‑Technologien verstehen. Es ist wichtig, eine Vielzahl von Anwendungsfällen zu testen und sich vor Prompts zu schützen, die schädliche oder anstößige Inhalte generieren könnten.
Vorhandene Sicherheitsmechanismen verwenden
Einige APIs wie Vertex AI bieten Tools und Konfigurationsoptionen für Sicherheitsfilter. Sicherheitsfilter dienen als Hürde und verhindern schädliche Ausgaben, beeinflussen aber nicht direkt das Verhalten des Modells. Wir empfehlen Ihnen, diese Filter zu prüfen und auf ein für Sie geeignetes Niveau einzustellen.
Melden anstößiger Inhalte aktivieren
Selbst mit Tests und Sicherheitsfiltern kann es vorkommen, dass anstößige Inhalte an Nutzer gesendet werden. Beobachten und priorisieren Sie das Feedback der Nutzer zu Funktionen mit generativer KI, damit Sie die bestmögliche Nutzererfahrung bieten können. Legen Sie ein Verfahren fest, um Meldungen zu anstößigen Inhalten zu bearbeiten.
Um potenziell anstößige Inhalte zu vermeiden, können Sie eine oder mehrere der folgenden Maßnahmen ergreifen:
- Ähnliche Eingaben blockieren, die zu anstößigen Inhalten geführt haben
- Modellausgabe entfernen
- Modell abstimmen
- Modell komplett wechseln
Beachten Sie bei der Entwicklung von Browsererweiterungen immer die entsprechenden Richtlinien. Chrome-Erweiterungsentwickler, die ihre Erweiterung im Chrome Web Store veröffentlichen möchten, müssen die Chrome Web Store-Richtlinien einhalten. Wenn Sie mit KI generierte Inhalte veröffentlichen, sollten diese hilfreich, zuverlässig und nutzerorientiert sein.
Verantwortungsbewusste Werbung
Werbung muss sicher sein und die Nutzer respektieren. Prüfen Sie Ihre Marketingmaterialien, damit Ihre Anzeigen die tatsächlichen Funktionen Ihrer Website oder App korrekt widerspiegeln.
Blick in die Zukunft
Wir werden weiterhin Best Practices und Ressourcen wie das Leitfaden für Menschen und KI veröffentlichen, um Entwickler bei der Entwicklung innovativer und verantwortungsbewusster Apps zu unterstützen.
Teilen Sie uns Ihr Feedback unter @ChromiumDev auf X oder Chrome für Entwickler auf LinkedIn mit und sehen Sie sich unsere KI-Inhalte an.