Fecha de publicación: 16 de septiembre de 2024
La IA generativa está en todas partes, y las oportunidades para que los desarrolladores creen contenido y experiencias nuevos son infinitas. Por lo tanto, es fundamental que tengamos en cuenta la ética y creemos experiencias seguras para nuestros usuarios. Queremos que la IA sea útil para todos, mejorando el ecosistema web y las experiencias del usuario.
Compila sitios web, apps y extensiones web de forma responsable
Google se compromete con las prácticas de IA responsable. Independientemente de las decisiones que tomes, asegúrate de documentar tus prácticas para el futuro. Mantén un registro de los resultados y las prácticas recomendadas para que tú y tus colegas puedan seguir manteniendo y mejorando las aplicaciones existentes y futuras.
Los sitios, las apps y las extensiones que generan contenido con IA deben tener en cuenta lo siguiente:
- Prueba rigurosamente las herramientas y los modelos de IA.
- Usa herramientas y parámetros de configuración de seguridad preexistentes.
- Brinda a los usuarios una forma de denunciar o marcar contenido ofensivo y, luego, responde esos informes.
- Anuncia tus productos de forma responsable.
Prueba rigurosamente las herramientas y los modelos de IA
Tú o tu empresa son responsables de la experiencia en tus apps, por lo que es fundamental que comprendas los modelos y la tecnología de IA subyacentes. Es importante probar una variedad de casos de uso y protegerse contra las indicaciones que podrían crear contenido dañino o ofensivo.
Usa mecanismos de seguridad preexistentes
Algunas APIs, como Vertex AI, tienen herramientas y opciones de configuración para los filtros de seguridad. Los filtros de seguridad actúan como una barrera para evitar resultados dañinos, pero no cambian directamente el comportamiento del modelo. Te recomendamos que revises estos filtros y los configures en un nivel que consideres apropiado.
Habilita los informes de contenido ofensivo
Incluso con las pruebas y los filtros de seguridad, es posible que el contenido que se considere ofensivo llegue a los usuarios. Supervisa y prioriza los comentarios de los usuarios sobre las funciones de IA generativa para asegurarte de crear la mejor experiencia posible. Establece un proceso para abordar las denuncias de contenido ofensivo.
Para mitigar el posible contenido ofensivo, puedes realizar una o más de las siguientes acciones:
- Bloquear entradas similares que generaron el contenido ofensivo
- Cómo ocultar los resultados del modelo
- Ajusta el modelo
- Cambia el modelo por completo
Si compilas extensiones de navegador, sigue siempre las políticas relevantes. Los desarrolladores de extensiones de Chrome que deseen publicar su extensión en Chrome Web Store deben seguir las políticas de Chrome Web Store. Si publicas contenido generado con IA, intenta crear contenido útil, confiable y dirigido a las personas.
Publica anuncios de forma responsable
Cuando publicas anuncios, es importante que lo hagas de una manera segura y respetuosa con los usuarios. Revisa tus materiales de marketing para asegurarte de que tus anuncios representen con precisión las funciones reales de tu sitio o aplicación.
Mirando hacia el futuro
Seguiremos proporcionando prácticas recomendadas y compartiendo recursos, como la guía sobre personas + IA, para ayudar a los desarrolladores a crear apps innovadoras y responsables.
Comparte tus comentarios con nosotros en @ChromiumDev en X o en Chrome para desarrolladores en LinkedIn, y explora todo nuestro contenido de IA.