exibart.ar

Imaginemos a una ilustradora que encuentra en internet una imagen generada con un trazo muy parecido al suyo y pide a quienes han desarrollado el modelo que demuestren que sus dibujos no tienen nada que ver con ella. Un estudio publicado en agosto en Nature Communications sugiere que, a partir de cierta escala, nadie será capaz de responder, ni ella ni la empresa. Para quienes trabajan en el mundo del arte, la consecuencia es práctica: la cuestión del entrenamiento de la inteligencia artificial se juega cada vez menos en la imagen final y cada vez más en lo que se introduce en el modelo de antemano.

Qué han medido en el MIT

Zheng Dai y David K. Gifford, del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, firman el artículo Outputs of generative diffusion models are often unattributable, publicado el 18 de agosto de 2026. La pregunta es sencilla de formular y difícil de verificar: si se elimina de los datos de entrenamiento una sola imagen, o todas las imágenes de un mismo autor, ¿el modelo produce algo diferente? Para responder sin tener que volver a entrenar el modelo desde cero cada vez, los dos investigadores desarrollaron un método que elimina ejemplos de un modelo ya entrenado. Lo aplicaron a 24 conjuntos de modelos de difusión, la familia actualmente dominante en la generación de imágenes. Los conjuntos de datos públicos utilizados son siete, con entre 256 y 162.770 imágenes, entre ellos ArtBench y MetFaces, creados a partir de reproducciones de obras de arte.

El resultado tiene un nombre: los autores hablan de una disminución de la atribuibilidad. Cuantos más datos se utilizan, menos depende cada resultado individual, de manera mensurable, de una obra concreta o de un creador determinado. La relación sigue una ley de potencia inversa y, cuando los archivos son suficientemente grandes, es posible omitir una muestra o un autor sin que la imagen generada cambie.

Exibart ya informó sobre el estudio el 25 de agosto, destacando el aspecto que más a menudo se pierde en el debate. La investigación no afirma que los modelos ignoren los datos con los que han sido entrenados. Afirma que, a partir de cierto volumen, resulta imposible remontarse desde un resultado concreto hasta una fuente específica.

 

Por qué se debilita la prueba basada en la imagen final

Los propios autores relacionan este resultado con los derechos de autor. En los litigios por infracción, uno de los elementos que debe demostrar el artista es que el autor de la obra cuestionada tuvo acceso a la suya. Un modelo cuyos resultados permanecen idénticos con independencia de que esa obra esté presente o no ofrece, escriben Dai y Gifford, un argumento aparente para negar dicho acceso, incluso cuando el material protegido se ha utilizado realmente. Es una paradoja que el mundo creativo conoce bien: cuanto mayor es el archivo, más capaz es el sistema y menos visible resulta la contribución de cada individuo.

El estudio añade también un dato de signo contrario. Las imágenes de personas generadas por modelos entrenados con grandes volúmenes de datos suelen ser causalmente independientes de las personas retratadas en esos datos, lo que produce un efecto protector sobre su privacidad. La misma propiedad que complica las cosas a la ilustradora protege el rostro de una persona desconocida. Por eso los investigadores presentan esta cuestión como un problema de gobernanza y no como un veredicto.

Persiste, además, un problema metodológico que también afecta a críticos y peritos. Según el estudio, los métodos de atribución basados en la semejanza visual generan una elevada proporción de atribuciones falsas cuando los modelos se entrenan a gran escala. Decir «Esta imagen recuerda demasiado a ese pintor» puede ser un juicio crítico legítimo. Como prueba técnica de procedencia, tiene escaso valor.

 

Las normas sobre el entrenamiento de la inteligencia artificial

De hecho, la normativa europea e italiana se centra sobre todo en esta fase, es decir, en la adquisición y el uso de los datos. El artículo 53, apartado 1, del Reglamento (UE) 2024/1689, la Ley de IA (AI Act), exige a los proveedores de modelos de inteligencia artificial de uso general dos medidas relevantes para los artistas. La letra c) impone una política para respetar los derechos de autor de la Unión y, en particular, para identificar y respetar, también mediante tecnologías de última generación, la reserva de derechos expresada de conformidad con el artículo 4, apartado 3, de la Directiva (UE) 2019/790. La letra d) exige elaborar y hacer público un resumen suficientemente detallado de los contenidos utilizados para el entrenamiento, siguiendo un modelo proporcionado por la Oficina de IA de la Comisión Europea.

En Italia, la Ley n.º 132, de 23 de septiembre de 2025, modificó en su artículo 25 la legislación sobre derechos de autor en dos aspectos. Precisó, en el artículo 1 de la Ley 633/1941, que las obras de creación intelectual humana están protegidas incluso cuando se crean con ayuda de herramientas de inteligencia artificial, siempre que sean el resultado del trabajo intelectual del autor. Asimismo, introdujo el artículo 70-septies, que permite realizar reproducciones y extracciones de obras y materiales disponibles en internet o en bases de datos para la extracción de textos y datos mediante sistemas de IA, respetando las excepciones ya previstas en los artículos 70-ter y 70-quater, entre las que se encuentra la facultad de los titulares de reservarse sus derechos.

Leído junto con el estudio del MIT, el panorama apunta a una conclusión precisa. La herramienta más sólida que tiene a su disposición un autor o un archivo es la reserva de derechos expresada de antemano, en un formato legible por las máquinas. Junto a ella, también importa la posibilidad de contrastarla con lo que los proveedores declaran haber utilizado. La reconstrucción a posteriori, partiendo de una imagen sospechosa, corre el riesgo de no conducir a ninguna parte.

 

Qué pueden hacer artistas, galerías e instituciones

El primer paso es más organizativo que jurídico. Quienes publican imágenes de obras deben saber si han expresado la reserva prevista por la directiva y cómo lo han hecho, así como con qué herramientas técnicas. Esto se aplica tanto al artista que tiene su propia página web como a la galería con su catálogo en línea o a la fundación con su archivo digital. Una cláusula en las condiciones de uso que ningún sistema automático puede leer constituye una protección débil. Conviene comprobar con quienes gestionan la web qué señales legibles por las máquinas están activas y llevar un registro de la fecha en que se introdujeron.

El segundo aspecto se refiere a los contratos. Catálogos, campañas fotográficas y digitalizaciones encargadas a terceros: todo acuerdo que ponga en circulación reproducciones debería especificar qué usos están permitidos para esas imágenes en relación con el entrenamiento de modelos. Lo mismo se aplica a las licencias concedidas a plataformas y bancos de imágenes.

El tercero consiste en leer los resúmenes publicados por los proveedores de modelos. Saber interpretarlos, comprender qué revelan y qué aspectos dejan sin concretar se convierte en una competencia útil también para los departamentos de prensa, los comisarios y los responsables de las colecciones.

 

Dónde se encuentran el mundo del arte y los profesionales de la IA

Exibart lleva años acercando el arte contemporáneo a un público de artistas, comisarios, galeristas y coleccionistas y, en los últimos meses, ha seguido la inteligencia artificial desde distintas perspectivas: exposiciones y proyectos que la utilizan, festivales, libros e investigaciones sobre derechos de autor. Es un público que no necesita que le expliquen qué es una imagen, pero que a menudo tiene que trabajar con sistemas técnicos y documentos normativos concebidos para otros destinatarios.

Aquí entra en juego el trabajo de los profesionales que diseñan y gestionan estos sistemas. La Asociación Italiana de Profesionales de la Inteligencia Artificial (AIPIA), entidad sin ánimo de lucro con sede en Roma, reúne a desarrolladores, científicos de datos, investigadores y consultores, y trabaja para que las normas sobre IA también sean comprensibles para quienes no las redactan. Para quienes necesitan orientarse entre las obligaciones de los proveedores, la reserva de derechos y la transparencia sobre los datos, la asociación ha publicado una guía sobre la Ley de IA. Es un punto de partida útil para comprender qué se puede exigir a quienes entrenan un modelo.

Es fácil imaginar un ámbito de trabajo común. Por ejemplo, encuentros en los que un técnico muestre a galeristas y archiveros cómo se expresa concretamente una reserva de derechos y cómo se lee el resumen de los datos de un modelo, o fichas prácticas diseñadas para quienes gestionan un catálogo en línea.

 

La pregunta que hay que hacerse primero

El estudio de Dai y Gifford cambia el orden de las preguntas. Preguntarse, ante una imagen generada, qué artista hay detrás de ella conducirá cada vez más a menudo a una respuesta indeterminada. Preguntarse hoy qué obras de un archivo son accesibles para los sistemas de entrenamiento, con qué reserva de derechos y con qué documentación, sí tiene respuesta, y es posible obtenerla en una tarde.

Para una galería o una fundación, vale la pena intentarlo antes de la próxima digitalización.

Raffaele Patron, presidente del Comité Técnico-Científico de AIPIA.

Este artículo fue publicado originalmente en exibart.com