IA y ética

Existen numerosas consideraciones éticas cuando se usan herramientas de IA y se genera contenido nuevo. ¿Quién es el propietario del resultado, en especial si está muy influenciado por material protegido por derechos de autor o se copia directamente de él? ¿Cómo pensamos en el sesgo humano en relación con los datos que analizan los modelos de lenguaje grandes (LLM)?

Como profesionales de la Web, es fundamental que desarrollemos nuevas tecnologías de forma reflexiva y responsable. Existen numerosos esfuerzos en todo el mundo para responder estas preguntas (y muchas más). No podemos abordar todas las inquietudes, pero podemos iniciar un diálogo sobre cómo piensas en la ética cuando usas la IA.

Estas son algunas áreas clave que debes tener en cuenta cuando uses herramientas de IA y crees contenido con ellas:

  • Propiedad y derechos de autor del contenido. Los derechos de autor son una protección legal para las obras de autoría original. La ley difiere de un país a otro, y muchos países están debatiendo qué sucede con el contenido generado por IA. Cada vez que publicas contenido, debes saber la respuesta a la siguiente pregunta: ¿Estás infringiendo el contenido protegido por derechos de autor de otra persona? Esto puede ser más difícil de lo que crees.
  • Sesgo y discriminación. Las computadoras y los algoritmos son creados por humanos, se entrenan con datos que pueden recopilar humanos y, por lo tanto, están sujetos a sesgos humanos y estereotipos dañinos. Esto afecta directamente el resultado.
  • Privacidad y seguridad. Esto es importante para todos los sitios web y las aplicaciones web, pero especialmente cuando hay información sensible o de identificación personal. Exponer los datos del usuario a más terceros con las APIs de la nube es un problema. Es importante que cualquier transmisión de datos sea segura y se supervise de forma continua.

Principios de la IA de Google

Nos comprometemos a desarrollar tecnología de manera responsable y establecer áreas específicas de la IA que no abordaremos. De hecho, Google se comprometió con varios principios de la IA, con un equipo central enfocado en la gobernanza y la implementación.

En resumen, nuestros objetivos para las aplicaciones de IA son los siguientes:

  1. Ser beneficiosa para la sociedad
  2. Evitar crear o reforzar sesgos injustos
  3. Ofrecer un diseño con una seguridad comprobada.
  4. Ser responsable ante la sociedad.
  5. Incorporar principios de diseño de privacidad.
  6. Mantener altos estándares de excelencia científica
  7. Estar disponible para usos que concuerden con estos principios.

Si bien es posible que, como desarrolladores web, no siempre seamos responsables de crear los modelos ni recopilar los conjuntos de datos que entrenan las herramientas de IA, sí lo somos de las herramientas que usamos y los productos finales que creamos con la IA.

Organizaciones de toda la Web que piensan en la ética

Hay varias organizaciones sin fines de lucro, organizaciones no gubernamentales (ONG) y otras empresas que centraron su trabajo y su investigación en la creación de IA ética.

Estos son solo algunos ejemplos.

Hay mucho más trabajo por hacer en este espacio y muchas más consideraciones por descubrir. Intentamos ser intencionales con las consideraciones éticas de cada elemento de contenido que generamos.