Publicado em 16 de setembro de 2024
A IA generativa está em todos os lugares, e as oportunidades para os desenvolvedores criarem novos conteúdos e novas experiências são infinitas. Por isso, é fundamental que pensemos com a ética em mente e criemos experiências seguras para nossos usuários. Nosso objetivo é tornar a IA útil para todos, melhorando o ecossistema da Web e as experiências dos usuários.
Criar sites, apps da Web e extensões responsáveis
O Google tem o compromisso de práticas responsáveis de IA. Seja qual for a decisão, documente suas práticas para o futuro. Mantenha um registro dos resultados e das práticas recomendadas para que você e seus colegas possam continuar mantendo e melhorando as solicitações atuais e futuras.
Os sites, apps e extensões que geram conteúdo usando IA precisam considerar o seguinte:
- Teste ferramentas e modelos de IA de forma rigorosa.
- Use as ferramentas e configurações de segurança já existentes.
- Ofereça aos usuários uma maneira de denunciar ou sinalizar conteúdo ofensivo e resolva essas denúncias.
- Anuncie seu produto de forma responsável.
Teste ferramentas e modelos de IA de forma rigorosa
Você ou sua empresa são responsáveis pela experiência nos seus apps. Por isso, é essencial entender os modelos e a tecnologia de IA. É importante testar vários casos de uso e se proteger contra solicitações que possam criar conteúdo nocivo ou ofensivo.
Usar mecanismos de segurança preexistentes
Algumas APIs, como a Vertex AI, têm ferramentas e opções de configuração para filtros de segurança. Os filtros de segurança funcionam como uma barreira para evitar resultados nocivos, mas não mudam diretamente o comportamento do modelo. Recomendamos que você revise e defina esses filtros em um nível que considere adequado.
Ativar denúncias de conteúdo ofensivo
Mesmo com testes e filtros de segurança, é possível que conteúdo considerado ofensivo chegue aos usuários. Monitore e priorize o feedback dos usuários sobre os recursos de IA generativa para garantir que você esteja criando a melhor experiência possível. Estabeleça um processo para lidar com denúncias de conteúdo ofensivo.
Para reduzir o conteúdo ofensivo, você pode realizar uma ou mais das seguintes ações:
- Bloquear entradas semelhantes que levaram ao conteúdo ofensivo
- Retirar a confidencialidade da saída do modelo
- Ajustar o modelo
- Alternar o modelo completamente
Se você cria extensões de navegador, sempre siga as políticas relevantes. Os desenvolvedores de extensões do Chrome que querem publicar na Chrome Web Store precisam seguir as políticas da Chrome Web Store. Se você publicar conteúdo gerado por IA, tente criar conteúdo útil, confiável e que prioriza as pessoas.
Anunciar com responsabilidade
Ao anunciar, é importante fazer isso de maneira segura e com respeito pelos usuários. Revise seus materiais de marketing para garantir que os anúncios representem com precisão as capacidades reais do seu site ou app.
Para o futuro
Vamos continuar compartilhando recursos e práticas recomendadas, como o People + AI Guidebook, para ajudar os desenvolvedores a criar apps inovadores e responsáveis.
Compartilhe seu feedback com a gente em @ChromiumDev on X ou Chrome para desenvolvedores no LinkedIn e confira todo o nosso conteúdo de IA.