생성형 AI로 책임감 있는 웹 환경 구축

게시일: 2024년 9월 16일

생성형 AI는 어디에나 있으며 개발자가 새로운 콘텐츠와 새로운 환경을 만들 수 있는 기회는 무궁무진합니다. 따라서 윤리를 염두에 두고 빌드하고 사용자에게 안전한 환경을 제공하는 것이 중요합니다. Google은 웹 생태계와 사용자 환경을 개선하여 AI가 모든 사용자에게 도움이 되도록 할 계획입니다.

Google은 책임감 있는 AI 관행을 준수하기 위해 노력하고 있습니다. 어떤 결정을 내리든 향후 참고할 수 있도록 문서화해야 합니다. 나와 동료가 기존 및 향후 애플리케이션을 계속 유지하고 개선할 수 있도록 결과와 권장사항을 기록합니다.

AI를 사용하여 콘텐츠를 생성하는 사이트, 앱, 확장 프로그램은 다음을 고려해야 합니다.

  • AI 도구 및 모델을 철저히 테스트합니다.
  • 기존의 안전 도구 및 설정을 사용합니다.
  • 사용자에게 불쾌감을 주는 콘텐츠를 신고하는 방법을 제공한 후 이러한 신고를 처리합니다.
  • 책임감 있게 제품을 광고하세요.

AI 도구 및 모델을 철저히 테스트

앱의 환경에 대한 책임은 개발자 또는 개발자의 회사에 있으므로 기본 AI 모델과 기술을 이해하는 것이 중요합니다. 다양한 사용 사례를 테스트하고 유해하거나 불쾌감을 주는 콘텐츠를 만들 수 있는 프롬프트로부터 보호하는 것이 중요합니다.

기존 안전 메커니즘 사용

Vertex AI와 같은 일부 API에는 안전 필터용 도구와 구성 옵션이 있습니다. 안전 필터는 유해한 출력을 방지하는 장벽 역할을 하지만 모델의 동작을 직접적으로 변경하지는 않습니다. 이러한 필터를 검토하고 적절하다고 생각하는 수준으로 설정하는 것이 좋습니다.

불쾌감을 주는 콘텐츠 신고 사용 설정

테스트 및 안전 필터를 사용해도 불쾌감을 주는 콘텐츠로 간주되는 콘텐츠가 사용자에게 전달될 수 있습니다. 생성형 AI 기능에 관한 사용자 의견을 모니터링하고 우선순위를 지정하여 최상의 환경을 조성하세요. 불쾌감을 주는 콘텐츠 신고를 처리하는 절차를 수립합니다.

불쾌감을 줄 수 있는 콘텐츠를 완화하려면 다음 작업 중 하나 이상을 수행할 수 있습니다.

  • 불쾌감을 주는 콘텐츠로 이어진 유사한 입력 차단
  • 모델 출력 삭제
  • 모델 미세 조정
  • 모델을 완전히 전환

브라우저 확장 프로그램을 빌드하는 경우 항상 관련 정책을 준수하세요. Chrome 웹 스토어에 확장 프로그램을 게시하려는 Chrome 확장 프로그램 개발자는 Chrome 웹 스토어 정책을 준수해야 합니다. AI로 생성된 콘텐츠를 게시하는 경우 유용하고 신뢰할 수 있으며 사용자 중심의 콘텐츠를 만드는 것을 목표로 하세요.

광고를 게재할 때는 안전하고 사용자를 존중하는 방식으로 광고를 게재하는 것이 중요합니다. 마케팅 자료를 검토하여 광고가 사이트 또는 앱의 실제 기능을 정확하게 나타내는지 확인하세요.

향후 계획

Google은 개발자가 혁신적이고 책임감 있는 앱을 빌드할 수 있도록 지원하기 위해 권장사항을 제공하고 People + AI 가이드북과 같은 리소스를 계속 공유할 예정입니다.

X의@ChromiumDev 또는 LinkedIn의 개발자용 Chrome에서 의견을 공유하고 모든 AI 콘텐츠를 살펴보세요.