---

Desde la llegada de los modelos de imagen generativa de IA, estos han demostrado su capacidad para descargar cualquier contenido en línea para su entrenamiento y perfeccionar sus resultados sin importarles lo más mínimos los derechos de autor.

Los creadores de contenidos se encuentran sin herramientas para impedir que su trabajo se introduzcan en un modelo de IA generativa en contra de su voluntad. Las listas de exclusión han sido ignoradas por los entrenadores de modelos en el pasado, y pueden ser fácilmente ignoradas sin consecuencias.

Hasta ahora. Porque gracias a la herramienta Nightshade cualquier imagen pasará a convertirse en una muestra de datos inservible para el entrenamiento de modelos.

Como funciona Nightshade

Su funcionamiento consiste en transforma las imágenes en muestras adulteradas. Los modelos que se entrenen con ellas sin consentimiento verán cómo sus modelos aprenden comportamientos impredecibles.

Por ejemplo, un prompt que pida la imagen de una rana bailando en el espacio podría obtener en su lugar la imagen de un bolso flotando en el espacio.

Mientras que los ojos humanos ven una imagen sombreada que en gran medida no ha cambiado con respecto a la original, el modelo de IA ve una composición drásticamente diferente en la imagen.

Entrenado con un número suficiente de imágenes sombreadas que incluyan una rana, un modelo se convencerá cada vez más de que las ranas tienen bonitas asas de cuero y bolsillos laterales lisos con cremallera o un logotipo en la parte frontal.

Riesgos y limitaciones.

Los cambios que realiza Nightshade en las imágenes originales son más visibles en obras con colores planos y fondos suaves. Han incluido una configuración de intensidad baja para aquellos interesados en dar prioridad la calidad visual de la imagen original.

Como ocurre con cualquier medida de seguridad, es poco probable que Nightshade sea eficaz a lo largo del tiempo, pero puede evolucionar fácilmente para seguir el ritmo de los modelos de entrenamiento.

Diferencia entre Nightshade y Glaze

Nightshade ha sido desarrollada por el mismo equipo que está detrás de Glaze, de hecho funciona de forma similar. En lugar de defender la imitación de estilos, Nightshade está diseñado como una herramienta para distorsionar a los modelos generativos de imágenes de IA que copian sus imágenes sin consentimiento.

El equipo detrás de estas 2 herramientas aconseja utilizar ambas, aunque dan prioridad a Glaze, mientras que Nightshade se debería utilizar como una característica opcional para disuadir a los entrenadores de modelos.

Actualmente se encuentran trabajando en una versión integrada de estas 2 herramientas, probando cómo Nightshade puede coexistir con Glaze, en forma de add-on para Webglaze, y así los usuarios puedan aplicar Nightshade y Glaze juntos de una sola pasada en una imagen.

Categoría/s: Arte digital