Mastodon

Glaze y Nightshade, las herramientas que buscan 'envenenar' a la IA para proteger el arte humano

Desarrolladas por investigadores de la Universidad de Chicago, ambas aplicaciones añaden perturbaciones invisibles al ojo humano para confundir a los modelos generativos. Glaze ya superó los 8,5 millones de descargas y su creador sostiene que el objetivo no es destruir la tecnología, sino forzar licencias legítimas.

Glaze Nightshade Ben Zhao inteligencia artificial arte humano
Foto de José Schenone
Por José Schenone
14 Nov, 2026 a las 07:30 hs Tecnología
Imagen principal

La recolección masiva de imágenes para entrenar modelos de inteligencia artificial generativa sin consentimiento explícito de sus autores dejó de ser un debate abstracto para transformarse en un problema cotidiano para miles de artistas. Ante ese escenario, una de las primeras respuestas técnicas surgió desde el ámbito académico: añadir distorsiones sutiles e invisibles, conocidas como perturbaciones de envenenamiento, capaces de confundir a los sistemas que aprenden de esas obras.

Se trata de Glaze y Nightshade, dos herramientas desarrolladas por investigadores de la Universidad de Chicago con el propósito de ayudar a artistas y creadores en general a proteger sus trabajos. La lógica es sencilla de enunciar y compleja de ejecutar: modificar la imagen lo suficiente como para desorientar a un modelo de IA, pero sin alterar lo que percibe una persona.

Leé tambiénTecnologíaGoogle renueva su buscador con Gemini 4 Hydrogen y promete resultados más precisos
  • Glaze modifica levemente una imagen antes de publicarla en internet y protege el estilo artístico de quien la creó. El cambio es casi imperceptible para un ser humano, pero suficiente para confundir a los sistemas de IA, de manera que no logren aprender y mucho menos imitar los métodos de un artista.
  • Nightshade lleva la estrategia un paso más allá: altera la imagen de tal manera que termina arrojando resultados engañosos para la IA. Con Glaze el ojo humano no nota diferencia, pero el modelo sí, dado que puede interpretar la imagen de diversas formas.

Detrás de ambos desarrollos está el profesor de informática Ben Zhao, creador de las herramientas, quien sostiene que el cambio cultural ya comenzó a notarse en el público.

"La gente está empezando a reconocer la diferencia entre las imágenes generadas por IA y el arte humano real", afirma Zhao. "Muy pronto llegará el día en que la gente diga: 'No, no quiero esta basura de IA. ¡Quiero lo auténtico!'", plantea.

El investigador fue nombrado por la revista TIME una de las 100 personas más influyentes en inteligencia artificial en 2024. En el sector ya es reconocido por desarrollar herramientas que combaten el abuso tecnológico, y ha expresado su inquietud por las implicaciones de la IA en el futuro de la creatividad humana.

Sin embargo, el objetivo declarado no es destruir los modelos, sino incentivar la obtención de licencias legítimas. A Zhao le preocupa que, sin un flujo constante de arte original creado por humanos, estos sistemas se estanquen y la sociedad termine condenada a soportar el mismo contenido repetido una y otra vez.

La dimensión del fenómeno se mide, en parte, por la respuesta de los usuarios. De acuerdo con la Universidad de Chicago, Glaze ha sido descargado más de 8,5 millones de veces y Nightshade más de 2,5 millones de veces. Son cifras que hablan de una comunidad de creadores que busca alternativas concretas frente a la apropiación de sus obras.

El debate, de todos modos, excede a las herramientas. La pregunta de fondo es cómo se reparte el valor cuando una máquina aprende de años de trabajo ajeno, y qué mecanismos existen para que ese aprendizaje tenga un consentimiento y una retribución. Mientras esa discusión continúa, Glaze y Nightshade se consolidan como un primer escudo técnico, imperfecto y perfectible, pero disponible para cualquiera que quiera publicar su arte sin entregarlo entero a los algoritmos.

Información gentileza de Universidad de Chicago

Foto de José Schenone

Más información sobre José Schenone