La recolección masiva de imágenes para entrenar modelos de inteligencia artificial generativa sin consentimiento explícito de sus autores dejó de ser un debate abstracto para transformarse en un problema cotidiano para miles de artistas. Ante ese escenario, una de las primeras respuestas técnicas surgió desde el ámbito académico: añadir distorsiones sutiles e invisibles, conocidas como perturbaciones de envenenamiento, capaces de confundir a los sistemas que aprenden de esas obras.
Se trata de Glaze y Nightshade, dos herramientas desarrolladas por investigadores de la Universidad de Chicago con el propósito de ayudar a artistas y creadores en general a proteger sus trabajos. La lógica es sencilla de enunciar y compleja de ejecutar: modificar la imagen lo suficiente como para desorientar a un modelo de IA, pero sin alterar lo que percibe una persona.
Leé tambiénTecnologíaGoogle renueva su buscador con Gemini 4 Hydrogen y promete resultados más precisos
- Glaze modifica levemente una imagen antes de publicarla en internet y protege el estilo artístico de quien la creó. El cambio es casi imperceptible para un ser humano, pero suficiente para confundir a los sistemas de IA, de manera que no logren aprender y mucho menos imitar los métodos de un artista.
- Nightshade lleva la estrategia un paso más allá: altera la imagen de tal manera que termina arrojando resultados engañosos para la IA. Con Glaze el ojo humano no nota diferencia, pero el modelo sí, dado que puede interpretar la imagen de diversas formas.
Detrás de ambos desarrollos está el profesor de informática Ben Zhao, creador de las herramientas, quien sostiene que el cambio cultural ya comenzó a notarse en el público.
"La gente está empezando a reconocer la diferencia entre las imágenes generadas por IA y el arte humano real", afirma Zhao. "Muy pronto llegará el día en que la gente diga: 'No, no quiero esta basura de IA. ¡Quiero lo auténtico!'", plantea.
El investigador fue nombrado por la revista TIME una de las 100 personas más influyentes en inteligencia artificial en 2024. En el sector ya es reconocido por desarrollar herramientas que combaten el abuso tecnológico, y ha expresado su inquietud por las implicaciones de la IA en el futuro de la creatividad humana.