La pregunta de mil millones de dólares que la IA no puede responder
Una vorágine legal envuelve a la IA generativa. Artistas y grandes corporaciones alegan una infracción generalizada de derechos de autor, afirmando que las empresas de IA explotan vastos tesoros de sus obras protegidas para entrenar modelos potentes, desde generadores de imágenes hasta procesadores de texto. La pregunta central: ¿pueden los demandantes probar que su arte protegido por derechos de autor influyó directamente en el resultado de una IA?
Probar dicha infracción se enfrenta a un desafío intratable. El método intuitivo (eliminar una sola imagen protegida por derechos de autor de un conjunto de datos de entrenamiento y volver a entrenar completamente un modelo de miles de millones de parámetros desde cero) es astronómicamente costoso. Este proceso cuesta millones de dólares y miles de horas de GPU, lo que lo hace prohibitivo incluso para un solo caso, y mucho menos para miles.
Ahora, una investigación innovadora del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT lanza una bomba. El estudio, destacado por Better Stack, sugiere que este método no solo es poco práctico; podría ser fundamentalmente inútil. Podría ser matemáticamente imposible probar definitivamente que un modelo de IA "robó" o fue influenciado por cualquier pieza de arte individual dentro de su colosal conjunto de entrenamiento.
A medida que los conjuntos de datos de entrenamiento se escalan a miles de millones de parámetros, el impacto individual de cualquier imagen se reduce a un susurro incuantificable. Este fenómeno, que los investigadores describen como decadencia de atribución (attribution decay), significa que rastrear una influencia específica se vuelve como encontrar una sola gota de agua en un océano, borrando el concepto mismo de derivación directa para la prueba legal.
Cómo los 'diffusion ensembles' resolvieron el caso
Para abordar la monumental tarea de rastrear la influencia de imágenes individuales, los investigadores del MIT desarrollaron una solución inteligente: diffusion ensembles. Los métodos convencionales requieren un reentrenamiento completo del modelo, prohibitivamente costoso, para evaluar el impacto de eliminar una sola imagen.
En su lugar, construyeron una arquitectura de componentes más pequeños y superpuestos, cada uno entrenado en una porción diferente de datos. Esto permitió a los investigadores 'apagar' eficientemente los componentes que vieron una foto específica, aislando su impacto sin el inmenso costo de reentrenar un modelo completo y masivo.
Medir la influencia potencial máxima de una imagen se hizo posible con el radio contrafactual (counterfactual radius). Esta métrica cuantificó cuánto se desviaba el resultado de una IA del original cuando se desactivaban los componentes que encontraron una imagen de entrenamiento en particular. Esencialmente, calculó la máxima responsabilidad posible de cualquier imagen individual.
A través de 24 diffusion ensembles, entrenados en conjuntos de datos que van desde 256 imágenes hasta más de 160,000, surgió una curva matemática consistente. A medida que los conjuntos de datos de entrenamiento se expandieron, el radio contrafactual se redujo de manera predecible, lo que demuestra que la influencia de las imágenes de entrenamiento individuales disminuye significativamente a escala. Esto hace que la atribución artística específica sea matemáticamente esquiva.
El dilema de la 'decadencia de atribución'
La investigación del MIT revela un fenómeno denominado decadencia de atribución, donde el vínculo demostrable entre el resultado de una IA generativa y sus entradas de entrenamiento específicas disminuye más allá de una cierta escala. Los investigadores cuantificaron esto utilizando un "radio contrafactual", midiendo cuánto cambia un resultado cuando se elimina una sola imagen de entrenamiento. Observaron que este radio se reducía constantemente a medida que los conjuntos de datos de entrenamiento crecían de 256 imágenes a más de 160,000, revelando una curva matemática de influencia decreciente.
Lo más sorprendente es que este deterioro se extiende más allá de las imágenes individuales. Incluso cuando los investigadores eliminaron toda la obra de un artista de los grandes conjuntos de entrenamiento, los resultados posteriores de los modelos permanecieron prácticamente inalterados. Esto significa que, más allá de una escala crítica, una imagen generada por IA deja de ser "de cualquier lugar" en un sentido matemáticamente identificable.
Esta falta de trazabilidad plantea un desafío profundo a la ley de derechos de autor establecida, particularmente al concepto de obra derivada. Si una imagen de IA no puede rastrearse de manera demostrable hasta ningún material de origen específico, ¿puede calificar legalmente como "derivada" de una entrada protegida por derechos de autor? Los expertos legales sugieren que los tribunales podrían necesitar nuevos marcos, ya que la capacidad de identificar un linaje directo se evapora. Para obtener más información sobre estos hallazgos, consulte When AI art has no author: Study finds generated images often can't be traced to training data | MIT News.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
Las nuevas reglas de los derechos de autor en la IA
La innovadora investigación del MIT ofrece una defensa poderosa para los desarrolladores de IA que enfrentan demandas por derechos de autor, alterando fundamentalmente el campo de batalla legal. El hallazgo de que la decadencia de atribución hace matemáticamente imposible rastrear entradas específicas hasta las salidas, especialmente en grandes modelos de difusión, desafía las reclamaciones de infracción basadas únicamente en la inclusión de datos de entrenamiento. Esto obliga a los artistas y titulares de derechos de autor a cambiar estratégicamente sus argumentos legales lejos del rastreo directo de entradas.
Los sistemas legales ya se están adaptando a esta compleja realidad, con tribunales que examinan cada vez más las reclamaciones. Los demandantes ahora enfrentan la carga de probar una similitud sustancial entre una salida específica generada por IA y su obra original protegida por derechos de autor, yendo más allá de la mera inclusión en un vasto conjunto de datos de entrenamiento. Esto eleva significativamente el listón probatorio, desplazando el enfoque del proceso de entrenamiento del modelo a la semejanza directa de la salida generada.
El panorama en evolución requiere tanto contramedidas lideradas por artistas como nuevos marcos regulatorios. Proyectos como 'Nightshade' ofrecen a los artistas una defensa proactiva, corrompiendo sutilmente las imágenes en línea para interrumpir el entrenamiento futuro de modelos de IA. Simultáneamente, crecen las llamadas para sistemas de exclusión (opt-out) implementados universalmente, que brinden a los creadores un control explícito sobre la inclusión de su trabajo en conjuntos de datos de IA y recalibren los derechos de los creadores en la era de la IA generativa.
Preguntas frecuentes
¿Qué es la 'decadencia de atribución' en los modelos de IA?
La decadencia de atribución es un fenómeno identificado por investigadores del MIT donde, cuanto más datos se utilizan para entrenar un modelo de IA generativa, menor es la influencia que cualquier ejemplo de entrenamiento individual tiene en cualquier salida particular, lo que lo hace matemáticamente difícil de rastrear.
¿Cómo probaron los investigadores del MIT la influencia del arte de la IA sin reentrenar los modelos?
Desarrollaron un método llamado 'conjuntos de difusión' (diffusion ensembles), entrenando muchos componentes de modelos más pequeños en fragmentos de datos superpuestos. Para probar la influencia de una imagen, simplemente 'apagaron' los componentes que vieron la imagen, un proceso mucho más eficiente que reentrenar todo el modelo.
¿Qué significa este estudio del MIT para las demandas sobre arte generado por IA?
Complica significativamente las reclamaciones que dependen de probar que una salida de IA fue copiada de una imagen de entrenamiento específica. Es probable que los tribunales ahora se centren más en si una salida de IA específica es 'sustancialmente similar' a una obra protegida por derechos de autor, en lugar de solo en el contenido de los datos de entrenamiento.
¿Puede el arte generado por IA tener derechos de autor?
Bajo la ley actual de los EE. UU., las obras generadas únicamente por IA sin aportación creativa humana no pueden tener derechos de autor. Sin embargo, las obras creadas con la IA como herramienta pueden tener derechos de autor si un autor humano contribuyó con suficiente expresión creativa.