Una de las primeras respuestas técnicas ante la recolección masiva de imágenes para entrenar modelos generativos sin consentimiento explícito, se basa en añadir distorsiones sutiles e invisibles, conocidas como perturbaciones de envenenamiento.
Están diseñados para confundir a los modelos de inteligencia artificial (IA). Se trata de las herramientas Glaze y Nightshade, desarrolladas por investigadores de la Universidad de Chicago para ayudar a artistas y creadores en general a proteger sus obras.
"La gente está empezando a reconocer la diferencia entre las imágenes generadas por IA y el arte humano real", dice el profesor de informática Ben Zhao, creador de Glaze y Nightshade. "Muy pronto llegará el día en que la gente diga: 'No, no quiero esta basura de IA. ¡Quiero lo auténtico!'", sostuvo.
Modificando levemente una imagen antes de publicarla en internet, Glaze protege el estilo artístico de las personas casi de forma imperceptible para un ser humano, pero suficiente para confundir a los sistemas de IA, de manera que no logren aprender y mucho menos imitar los métodos de un artista.
El famoso 'veneno' ocurre con Nightshade, que altera la imagen de tal manera que termina arrojando resultados engañosos para la IA. Como con Glaze el ojo humano no nota diferencia, pero el modelo de IA sí, dado que puede interpretar la imagen de diversas formas.
Zhao fue nombrado por la revista TIME una de las 100 personas más influyentes en IA en 2024. En este sector ya es reconocido por desarrollar herramientas que combaten el abuso tecnológico y ha declarado su incógnita por las implicaciones de la inteligencia artificial en el futuro de la creatividad humana.
No obstante, el objetivo no es destruir los modelos, sino incentivar la obtención de licencias legítimas. A Zhao le preocupa que sin un flujo constante de arte original creado por humanos, "estos sistemas de IA se estanquen y tengamos que soportar el mismo contenido repetido una y otra vez".
Entretanto, Glaze ha sido descargado más de 8,5 millones de veces y Nightshade más de 2,5 millones de veces, de acuerdo con la Universidad de Chicago.
