“Nightshade”: la nueva herramienta que usan los artistas para persuadiar a las IA
Con este software, los artistas podrán “envenenar” a los generadores de imágenes para que así no utilicen su trabajo para realizar nuevas creaciones con inteligencia artificial sin su autorización.
Esta herramienta, que fue creada en la Universidad de Chicago, tiene como objetivo obligar a la empresas generadoras de imágenes con inteligencia artificial, solicitar a los artistas su permiso para utilizar sus obras como referencias, para crear sus propias ilustraciones, fotografías, entre otros, y sin eliminar del panorama al autor original de la pieza.
(Le recomendamos: La huella de Santander me persigue)
“Nightshade” corrompe sutilmente los píxeles de las obras de arte y ‘confunde’ a las tecnologías de inteligencia artificial, haciendo que identifique objetos de forma errónea. Su uso masivo, de acuerdo con Hyperallergic, podría afectar la precisión de los resultados de la IA, lo que llevaría a la necesidad de obtener el consentimiento de los artistas para usar sus trabajos en proyectos de este tipo.
Algunas empresas, como Midjourney, Stable Diffusion y DALL-E 3, están entrenados para utilizar la mayor cantidad de datos extraídos de la web para crear lo que le es solicitado por un usuario, incluyendo imágenes que cuentan con derechos de autor.
El profesor Ben Zhao, de la Universidad de Chicago, junto a Wenxin Ding, Josephine Passananti, Shawn Shan, y Haitao Zheng, creadores de este software, aseguraron al medio citado que “no serán necesarios muchos usuarios de ‘Nightshade’ para tener un impacto en los generadores de imágenes”, pues han encontrado que usando palabras como ‘dragón’, ‘perro’ y ‘sol’, con “50 0 60 imágenes ‘envenenadas’, pueden interrumpir el resultado del generador”.
(Le puede interesar: María Isabel Rueda: ‘El arte está centralizado’)
Por otro lado, la profesora Marian Mazzone, quien trabaja en el Laboratorio de Arte e Inteligencia Artificial de la Universidad de Rutgers (Nueva Jersey, Estados Unidos), aseguró que “Nightshade” puede funcionar como una solución a corto plazo ante la adversidad que enfrentan miles de artistas en el mundo, pero, enfatizó que, “incluso con esta tecnología disponible, los creadores deberían seguir presionando para que se tomen medidas legislativas sobre las empresas de IA”, o, por el contrario, herramientas como esta quedarían obsoletas ante la rápida evolución de las tecnologías.
Esta herramienta, que fue creada en la Universidad de Chicago, tiene como objetivo obligar a la empresas generadoras de imágenes con inteligencia artificial, solicitar a los artistas su permiso para utilizar sus obras como referencias, para crear sus propias ilustraciones, fotografías, entre otros, y sin eliminar del panorama al autor original de la pieza.
(Le recomendamos: La huella de Santander me persigue)
“Nightshade” corrompe sutilmente los píxeles de las obras de arte y ‘confunde’ a las tecnologías de inteligencia artificial, haciendo que identifique objetos de forma errónea. Su uso masivo, de acuerdo con Hyperallergic, podría afectar la precisión de los resultados de la IA, lo que llevaría a la necesidad de obtener el consentimiento de los artistas para usar sus trabajos en proyectos de este tipo.
Algunas empresas, como Midjourney, Stable Diffusion y DALL-E 3, están entrenados para utilizar la mayor cantidad de datos extraídos de la web para crear lo que le es solicitado por un usuario, incluyendo imágenes que cuentan con derechos de autor.
El profesor Ben Zhao, de la Universidad de Chicago, junto a Wenxin Ding, Josephine Passananti, Shawn Shan, y Haitao Zheng, creadores de este software, aseguraron al medio citado que “no serán necesarios muchos usuarios de ‘Nightshade’ para tener un impacto en los generadores de imágenes”, pues han encontrado que usando palabras como ‘dragón’, ‘perro’ y ‘sol’, con “50 0 60 imágenes ‘envenenadas’, pueden interrumpir el resultado del generador”.
(Le puede interesar: María Isabel Rueda: ‘El arte está centralizado’)
Por otro lado, la profesora Marian Mazzone, quien trabaja en el Laboratorio de Arte e Inteligencia Artificial de la Universidad de Rutgers (Nueva Jersey, Estados Unidos), aseguró que “Nightshade” puede funcionar como una solución a corto plazo ante la adversidad que enfrentan miles de artistas en el mundo, pero, enfatizó que, “incluso con esta tecnología disponible, los creadores deberían seguir presionando para que se tomen medidas legislativas sobre las empresas de IA”, o, por el contrario, herramientas como esta quedarían obsoletas ante la rápida evolución de las tecnologías.