運用生成式 AI 打造負責任的網頁體驗

發布日期:2024 年 9 月 16 日

生成式 AI 無所不在,開發人員可以利用這項技術創造新內容和新體驗,機會無窮無盡。因此,我們在開發時務必顧及倫理,並為使用者打造安全的體驗。我們希望 AI 能造福所有人,改善網路生態系統和使用者體驗。

Google 致力於實踐負責任的 AI 技術做法。無論您做出什麼決定,都請記錄日後的做法。記錄結果和最佳做法,以便您和同事持續維護及改善現有和未來的應用程式。

使用 AI 產生內容的網站、應用程式和擴充功能應考量以下事項:

  • 嚴格測試 AI 工具和模型。
  • 使用現有的安全工具和設定。
  • 提供讓使用者回報/檢舉令人反感內容的管道,然後處理這些回報。
  • 以負責任的方式宣傳產品。

嚴格測試 AI 工具和模型

您或貴公司需為應用程式提供的體驗負責,因此必須清楚瞭解基礎 AI 模型和技術。因此,請務必測試各種用途,並防範可能產生有害或令人反感內容的提示。

使用現有的安全機制

有些 API (例如 Vertex AI) 提供安全篩選器的工具和設定選項。安全篩選器可做為防火牆,防止有害的輸出內容,但不會直接變更模型的行為。建議您查看並設定這些篩選條件,以便達到您認為適合的程度。

啟用不當內容檢舉功能

即使有測試和安全防護功能,仍有可能有令人反感的內容傳送給使用者。監控並優先處理使用者對生成式 AI 功能的意見回饋,確保您提供最佳體驗。建立處理不當內容檢舉案件的程序。

如要減少可能的冒犯性內容,您可以執行下列一或多項操作:

  • 封鎖導致不當內容的類似輸入內容
  • 遮蓋模型輸出內容
  • 微調模型
  • 完全切換模型

如果您建構瀏覽器擴充功能,請務必遵守相關政策。Chrome 擴充功能開發人員如要發布擴充功能至 Chrome 線上應用程式商店,應遵循 Chrome 線上應用程式商店政策。如果您發布 AI 產生的內容,請務必提供實用、可靠且以使用者為優先的內容

請務必以安全可靠且尊重使用者的方式宣傳。請檢查行銷素材資源,確保廣告準確呈現網站或應用程式的實際功能。

展望未來

我們會持續提供最佳做法和相關資源,例如「人類 + AI」手冊,協助開發人員打造創新且負責任的應用程式。

歡迎前往 X 上的@ChromiumDevLinkedIn 上的 Chrome 開發人員版,與我們分享意見,並探索我們提供的所有 AI 內容