En la anterior publicación se concluía que, la Inteligencia Artificial (IA), para autenticar obras de arte debería ser considerada más como una ayuda para los expertos que como una nueva herramienta en la materia, todo ello siempre con el fin último de proteger todavía mejor a compradores, vendedores y expertos.

Pero ¿qué pasa con la protección de los artistas? Los cuales ven como la IA llega a la web, descarga su contenido sin permiso, aprende todo lo que puede sobre las imágenes del creador y se va sin dar las gracias ni pagar nada a cambio. En definitiva, una despedida a la francesa en toda regla con vulneración de derechos de autor incluidos.

No en vano, los desarrolladores de modelos de IA están en el ojo del huracán por su forma de entrenarlos: oscura, invasiva y sin mostrar ninguna consideración ni respeto por los autores originales de las obras de arte que se utilizan durante el proceso.

De hecho, estamos en un momento de auge de denuncias y procesos judiciales, contra empresas como OpenAI o Stable Diffusion, demandando una compensación a quien utilice su creación para entrenar modelos de IA, puesto que estas empresas no se toman en serio ni la molestia de atribuir la autoría de las creaciones o informar de la fuente donde la han extraído.

Sin embargo, el problema legal deviene, cuanto menos, doble, por cuanto es tan reciente que la ley no prevé todavía estos casos y los jueces y juristas todavía tenemos muchas dudas sobre cuál es la legislación que tendría que proteger las obras de los creadores.

Ante esta situación intrusiva, por primera vez, el sector de los artistas ha pasado al ataque con dos herramientas para protegerse contra la IA generativa con capacidad para descargar cualquier contenido en línea para el entrenamiento de modelos.

La primera, es Nightshade, proyecto liderado por el profesor Ben Zhao de la Universidad de Chicago, desarrollado por investigadores de la citada universidad y en colaboración con cientos de artistas. El funcionamiento de esta herramienta es “envenenar” las imágenes de los creadores para que los modelos de la IA, que las utilizan sin permiso para entrenarse, salgan afectados.

En definitiva, Nightshade hace cambios sutiles en los píxeles de la imagen, de forma que son imperceptibles al ojo humano, pero engañan a los modelos para que la IA piense que la imagen representa una cosa diferente de la que es en realidad.

Su objetivo es aumentar el coste del entrenamiento que hagan los desarrolladores de modelos de IA con datos para los cuales no han pagado o solicitado licencia y, de esta forma, quieran pagar a los creadores por su uso, ya que esta opción será una alternativa totalmente viable.

Los mismos responsables habían desarrollado Glaze, una herramienta defensiva que impide que un modelo de aprendizaje automático imite el estilo de un artista en concreto. En la actualidad, ya se está desarrollando una herramienta conjunta que une las capacidades de Glaze y de Nightshade.

La segunda herramienta es Kin.art, la cual opta por dos manipulaciones, también invisibles al ojo de las personas. Por una parte, segmenta las imágenes y, por otra, cambia los metadatos, de manera que partes de la imagen pasan desapercibidas o son etiquetadas erróneamente.

No cabe duda de que son dos herramientas muy útiles para los artistas, pero no debemos perder el foco de que lo importante radica en una correcta regulación normativa consensuada por los diferentes países con la finalidad de que, por un lado, no se imponga la mala praxis que están diseñando y validando interesadamente las empresas de modelos IA y que, por otro lado, ningún artista se tenga que proteger o defender de estas.

Y ello pasa forzosamente por obligar a los sistemas de inteligencia artificia generativa a cumplir criterios de transparencia como especificar, por ejemplo, si una fotografía se ha generado a través de la IA y garantizar que los datos que se han empleado para entrenar a los sistemas respeten los derechos de autor con todas las garantías.