Le MIT prouve que le vol d'art par l'IA est intraçable

Un tourbillon juridique engloutit l'IA générative. Des artistes et de grandes entreprises allèguent une violation généralisée du droit d'auteur, affirmant que les entreprises d'IA exploitent de vastes trésors de leurs œuvres protégées pour entraîner des modèles puissants, des générateurs d'images aux processeurs de texte. La question centrale : les plaignants peuvent-ils prouver que leur art protégé par le droit d'auteur a directement influencé la sortie d'une IA ?

Prouver une telle infraction fait face à un défi insoluble. La méthode intuitive — supprimer une seule image protégée par le droit d'auteur d'un ensemble de données d'entraînement et réentraîner complètement un modèle à plusieurs milliards de paramètres à partir de zéro — est astronomiquement coûteuse. Ce processus coûte des millions de dollars et des milliers d'heures de GPU, ce qui le rend prohibitif pour un seul cas, et encore moins pour des milliers.

Désormais, des recherches révolutionnaires du Computer Science and Artificial Intelligence Laboratory (CSAIL) du MIT lancent une bombe. L'étude, mise en avant par Better Stack, suggère que cette méthode n'est pas seulement impraticable ; elle pourrait être fondamentalement futile. Il pourrait être mathématiquement impossible de prouver de manière définitive qu'un modèle d'IA a « volé » ou a été influencé par une seule œuvre d'art au sein de son colossal ensemble d'entraînement.

À mesure que les ensembles de données d'entraînement atteignent des milliards de paramètres, l'impact individuel de n'importe quelle image diminue jusqu'à devenir un murmure inquantifiable. Ce phénomène, que les chercheurs décrivent comme une dégradation de l'attribution (attribution decay), signifie que retracer une influence spécifique devient comme trouver une seule goutte d'eau dans un océan, effaçant le concept même de dérivation directe pour la preuve juridique.

Pour s'attaquer à la tâche monumentale consistant à retracer l'influence d'une image individuelle, les chercheurs du MIT ont développé une solution ingénieuse : les diffusion ensembles. Les méthodes conventionnelles nécessitent un réentraînement complet du modèle, prohibitif en termes de coûts, pour évaluer l'impact de la suppression d'une seule image.

Au lieu de cela, ils ont construit une architecture de composants plus petits et qui se chevauchent, chacun entraîné sur une tranche différente de données. Cela a permis aux chercheurs de « désactiver » efficacement les composants ayant vu une photo spécifique, isolant son impact sans le coût immense du réentraînement d'un modèle entier et massif.

Mesurer l'influence potentielle maximale d'une image est devenu possible grâce au rayon contrefactuel (counterfactual radius). Cette mesure a quantifié à quel point la sortie d'une IA s'écartait de l'original lorsque les composants ayant rencontré une image d'entraînement particulière étaient désactivés. Cela a essentiellement calculé la responsabilité maximale possible de n'importe quelle image unique.

À travers 24 diffusion ensembles, entraînés sur des ensembles de données allant de 256 images à plus de 160 000, une courbe mathématique cohérente a émergé. À mesure que les ensembles de données d'entraînement se sont élargis, le rayon contrefactuel a diminué de manière prévisible, prouvant que l'influence des images d'entraînement individuelles diminue considérablement à grande échelle. Cela rend l'attribution artistique spécifique mathématiquement insaisissable.

Les recherches du MIT dévoilent un phénomène appelé dégradation de l'attribution (attribution decay), où le lien démontrable entre la sortie d'une IA générative et ses entrées d'entraînement spécifiques diminue au-delà d'une certaine échelle. Les chercheurs ont quantifié cela en utilisant un « rayon contrefactuel », mesurant à quel point une sortie change lorsqu'une seule image d'entraînement est supprimée. Ils ont observé ce rayon diminuer systématiquement à mesure que les ensembles de données d'entraînement passaient de 256 images à plus de 160 000, révélant une courbe mathématique d'influence décroissante.

Plus surprenant encore, cette dégradation s'étend au-delà des images individuelles. Même lorsque les chercheurs ont supprimé l'ensemble de l'œuvre d'un artiste de vastes ensembles d'entraînement, les résultats produits par les modèles sont restés largement inchangés. Cela signifie qu'au-delà d'une échelle critique, une image générée par IA cesse effectivement de provenir « de quelque part » dans un sens mathématiquement identifiable.

Cette impossibilité de traçabilité pose un défi majeur au droit d'auteur établi, en particulier au concept d'œuvre dérivée. Si une image générée par IA ne peut être démontrablement reliée à aucun matériel source spécifique, peut-elle être légalement qualifiée de « dérivée » d'une entrée protégée par le droit d'auteur ? Les experts juridiques suggèrent que les tribunaux pourraient avoir besoin de nouveaux cadres, car la capacité d'identifier une lignée directe s'évapore. Pour un aperçu plus approfondi de ces conclusions, consultez When AI art has no author: Study finds generated images often can't be traced to training data | MIT News.

La recherche révolutionnaire du MIT offre une défense puissante aux développeurs d'IA confrontés à des poursuites pour violation du droit d'auteur, modifiant fondamentalement le terrain juridique. La découverte selon laquelle la dégradation de l'attribution rend mathématiquement impossible le traçage d'entrées spécifiques vers des sorties, en particulier dans les grands modèles de diffusion, remet en question les plaintes pour contrefaçon basées uniquement sur l'inclusion dans les données d'entraînement. Cela force les artistes et les détenteurs de droits d'auteur à réorienter stratégiquement leurs arguments juridiques loin du traçage direct des entrées.

Les systèmes juridiques s'adaptent déjà à cette réalité complexe, les tribunaux examinant de plus en plus les plaintes. Les plaignants ont désormais la charge de prouver une similarité substantielle entre une sortie spécifique générée par IA et leur œuvre originale protégée, allant au-delà de la simple inclusion dans un vaste ensemble de données d'entraînement. Cela relève considérablement la barre probatoire, déplaçant l'attention du processus d'entraînement du modèle vers la ressemblance directe de la sortie générée.

Ce paysage en évolution nécessite à la fois des contre-mesures menées par les artistes et de nouveaux cadres réglementaires. Des projets comme 'Nightshade' offrent aux artistes une défense proactive, corrompant subtilement les images en ligne pour perturber l'entraînement futur des modèles d'IA. Parallèlement, les appels se multiplient pour la mise en œuvre universelle de systèmes de retrait (opt-out), offrant aux créateurs un contrôle explicite sur l'inclusion de leur travail dans les jeux de données d'IA et recalibrant les droits des créateurs à l'ère de l'IA générative.

Qu'est-ce que la « dégradation de l'attribution » dans les modèles d'IA ?

La dégradation de l'attribution est un phénomène identifié par les chercheurs du MIT selon lequel plus un modèle d'IA générative est entraîné sur des données, moins un exemple d'entraînement individuel a d'influence sur une sortie particulière, ce qui le rend mathématiquement difficile à tracer.

Comment les chercheurs du MIT ont-ils testé l'influence de l'art par IA sans réentraîner les modèles ?

Ils ont développé une méthode appelée 'diffusion ensembles', entraînant de nombreux composants de modèles plus petits sur des tranches de données qui se chevauchent. Pour tester l'influence d'une image, ils ont simplement « désactivé » les composants qui avaient vu l'image, un processus beaucoup plus efficace que le réentraînement complet du modèle.

Que signifie cette étude du MIT pour les procès sur l'art généré par IA ?

Elle complique considérablement les plaintes qui reposent sur la preuve qu'une sortie d'IA a été copiée à partir d'une image d'entraînement spécifique. Les tribunaux sont désormais susceptibles de se concentrer davantage sur la question de savoir si une sortie d'IA spécifique est « substantiellement similaire » à une œuvre protégée par le droit d'auteur, plutôt que sur le simple contenu des données d'entraînement.

L'art généré par IA peut-il être protégé par le droit d'auteur ?

Selon la loi américaine actuelle, les œuvres générées uniquement par l'IA sans apport créatif humain ne peuvent pas être protégées par le droit d'auteur. Cependant, les œuvres créées avec l'IA comme outil peuvent être protégées si un auteur humain a contribué à une expression créative suffisante.