MIT, AI 예술 도용 추적 불가능 입증

생성형 AI를 둘러싼 법적 소용돌이가 거세지고 있습니다. 예술가들과 주요 기업들은 AI 기업들이 이미지 생성기부터 텍스트 처리기에 이르기까지 강력한 모델을 학습시키기 위해 자신들의 보호받는 저작물을 대량으로 도용했다고 주장하며 저작권 침해 문제를 제기하고 있습니다. 핵심 질문은 원고가 자신의 저작권이 있는 예술 작품이 AI의 결과물에 직접적인 영향을 미쳤음을 증명할 수 있는가 하는 점입니다.

이러한 침해를 증명하는 것은 해결하기 어려운 과제에 직면해 있습니다. 학습 데이터셋에서 저작권이 있는 이미지 하나를 제거하고 수십억 개의 매개변수를 가진 모델을 처음부터 완전히 재학습(retraining)하는 직관적인 방법은 천문학적인 비용이 듭니다. 이 과정에는 수백만 달러의 비용과 수천 시간의 GPU 시간이 소요되므로, 수천 건은커녕 단 한 건의 사례를 증명하는 것조차 불가능합니다.

이제 MIT 컴퓨터 과학 및 인공지능 연구소(CSAIL)의 획기적인 연구가 충격적인 결과를 내놓았습니다. Better Stack이 강조한 이 연구는 이 방법이 단순히 비실용적인 것을 넘어 근본적으로 무의미할 수 있음을 시사합니다. AI 모델이 거대한 학습 데이터셋 내의 특정 예술 작품을 '훔쳤거나' 그 영향을 받았다는 것을 확실하게 증명하는 것은 수학적으로 불가능할 수 있습니다.

학습 데이터셋이 수십억 개의 매개변수로 확장됨에 따라, 단일 이미지가 미치는 개별적인 영향력은 정량화할 수 없는 수준으로 줄어듭니다. 연구진이 귀속 감쇠(attribution decay)라고 명명한 이 현상은 특정 영향력을 추적하는 것이 마치 바다에서 물 한 방울을 찾는 것과 같아져, 법적 증명을 위한 직접적인 파생 개념 자체가 사라짐을 의미합니다.

개별 이미지의 영향력을 추적하는 거대한 과제를 해결하기 위해 MIT 연구진은 diffusion ensembles라는 영리한 해결책을 개발했습니다. 기존 방식은 단일 이미지 제거의 영향을 평가하기 위해 엄청난 비용이 드는 전체 모델 재학습이 필요했습니다.

대신 연구진은 각각 다른 데이터 조각으로 학습된 더 작고 중첩된 구성 요소들의 아키텍처를 구축했습니다. 이를 통해 연구진은 전체 거대 모델을 재학습하는 막대한 비용 없이도 특정 사진을 본 구성 요소를 효율적으로 '끄고' 그 영향을 격리할 수 있었습니다.

이미지의 최대 잠재적 영향력을 측정하는 것은 반사실적 반경(counterfactual radius)을 통해 가능해졌습니다. 이 지표는 특정 학습 이미지를 접한 구성 요소가 비활성화되었을 때 AI의 결과물이 원본에서 얼마나 벗어나는지를 정량화했습니다. 이는 본질적으로 단일 이미지가 가질 수 있는 최대 책임 범위를 계산한 것입니다.

256개에서 16만 개 이상의 이미지로 구성된 데이터셋으로 학습된 24개의 diffusion ensembles 전반에서 일관된 수학적 곡선이 나타났습니다. 학습 데이터셋이 확장됨에 따라 반사실적 반경은 예측대로 줄어들었으며, 이는 규모가 커질수록 개별 학습 이미지가 미치는 영향력이 현저히 감소함을 증명합니다. 이로 인해 특정 예술적 귀속을 증명하는 것은 수학적으로 더욱 모호해집니다.

MIT의 연구는 생성형 AI의 결과물과 특정 학습 입력 사이의 입증 가능한 연결 고리가 일정 규모를 넘어서면 희미해지는 귀속 감쇠(attribution decay) 현상을 밝혀냈습니다. 연구진은 단일 학습 이미지를 제거했을 때 결과물이 얼마나 변하는지를 측정하는 '반사실적 반경'을 사용하여 이를 정량화했습니다. 그들은 학습 데이터셋이 256개에서 16만 개 이상으로 커짐에 따라 이 반경이 일관되게 줄어드는 것을 관찰했으며, 이는 영향력이 감소하는 수학적 곡선을 보여줍니다.

더 놀라운 점은 이러한 붕괴가 개별 이미지를 넘어선다는 것입니다. 연구진이 대규모 학습 앙상블에서 특정 아티스트의 전체 작품을 제거했을 때조차 모델의 결과물은 거의 변하지 않았습니다. 이는 임계 규모를 넘어서면 AI 생성 이미지는 수학적으로 식별 가능한 의미에서 사실상 "어디서도 오지 않은" 상태가 됨을 의미합니다.

이러한 추적 불가능성은 기존 저작권법, 특히 2차적 저작물(derivative work)의 개념에 심각한 도전을 제기합니다. 만약 AI 이미지를 특정 원본 자료로 추적할 수 없다면, 이를 법적으로 저작권이 있는 입력물에서 "파생된" 것으로 볼 수 있을까요? 법학자들은 직접적인 계보를 찾아내는 능력이 사라짐에 따라 법원이 새로운 프레임워크를 마련해야 할 수도 있다고 제안합니다. 이 연구 결과에 대한 더 자세한 내용은 When AI art has no author: Study finds generated images often can't be traced to training data | MIT News에서 확인하십시오.

MIT의 획기적인 연구는 저작권 소송에 직면한 AI 개발자들에게 강력한 방어 논리를 제공하며 법적 전장을 근본적으로 변화시키고 있습니다. 귀속 붕괴(attribution decay)로 인해 특정 입력값을 출력값으로 추적하는 것이 수학적으로 불가능하다는 발견은, 특히 대규모 확산 모델에서 학습 데이터 포함 여부만을 근거로 한 침해 주장에 의문을 제기합니다. 이는 아티스트와 저작권자들이 직접적인 입력 추적에서 벗어나 법적 주장을 전략적으로 전환하도록 강요하고 있습니다.

법 체계는 이미 이러한 복잡한 현실에 적응하고 있으며, 법원은 청구 내용을 점점 더 면밀히 검토하고 있습니다. 원고들은 이제 단순히 방대한 학습 데이터셋에 포함되었다는 사실을 넘어, 특정 AI 생성 출력물과 자신의 원본 저작물 사이에 실질적 유사성(substantial similarity)이 있음을 입증해야 하는 부담을 안게 되었습니다. 이는 증거의 기준을 크게 높여, 모델의 학습 과정이 아닌 생성된 출력물의 직접적인 유사성에 초점을 맞추게 합니다.

변화하는 환경은 아티스트 주도의 대응책과 새로운 규제 프레임워크를 모두 필요로 합니다. 'Nightshade'와 같은 프로젝트는 온라인 이미지를 미묘하게 손상시켜 향후 AI 모델 학습을 방해함으로써 아티스트들에게 선제적인 방어 수단을 제공합니다. 동시에, 창작자들에게 자신의 작품이 AI 데이터셋에 포함되는지에 대한 명시적 통제권을 부여하고 생성형 AI 시대의 창작자 권리를 재조정하기 위해 보편적인 옵트아웃(opt-out) 시스템 도입을 요구하는 목소리가 커지고 있습니다.

AI 모델에서 '귀속 붕괴(attribution decay)'란 무엇인가요?

귀속 붕괴는 MIT 연구진이 확인한 현상으로, 생성형 AI 모델이 학습하는 데이터가 많아질수록 단일 학습 예제가 특정 출력물에 미치는 영향력이 줄어들어 수학적으로 추적이 어려워지는 현상을 말합니다.

MIT 연구진은 모델을 재학습시키지 않고 어떻게 AI 예술의 영향력을 테스트했나요?

그들은 '확산 앙상블(diffusion ensembles)'이라는 방법을 개발하여, 중첩된 데이터 조각으로 많은 소규모 모델 구성 요소를 학습시켰습니다. 이미지의 영향력을 테스트하기 위해, 그들은 전체 모델을 재학습시키는 것보다 훨씬 효율적인 방식인 해당 이미지를 학습한 구성 요소들을 단순히 '끄는(switched off)' 방식을 사용했습니다.

이 MIT 연구가 AI 예술 소송에 어떤 의미를 갖나요?

AI 출력물이 특정 학습 이미지로부터 복제되었다는 것을 입증해야 하는 소송에 큰 어려움을 줍니다. 법원은 이제 단순히 학습 데이터의 내용보다는 특정 AI 출력물이 저작물과 '실질적으로 유사한지' 여부에 더 집중할 가능성이 높습니다.

AI가 생성한 예술 작품도 저작권을 인정받을 수 있나요?

현행 미국법상 인간의 창의적 개입 없이 AI가 단독으로 생성한 작품은 저작권을 인정받을 수 없습니다. 그러나 인간 저자가 충분한 창의적 표현을 기여했다면 AI를 도구로 사용하여 만든 작품은 저작권 보호를 받을 수 있습니다.