overview
Nightshade란 무엇인가요?
Nightshade는 시카고 대학교 연구원들이 개발한 AI 데이터 포이즈닝 도구로, 예술가와 콘텐츠 제작자가 무단 AI 모델 학습으로부터 지적 재산을 보호할 수 있도록 합니다. 이 도구는 사람의 눈에는 거의 감지되지 않지만 AI 모델에는 매우 방해가 되는 방식으로 이미지 픽셀을 미묘하게 변경하여, '오염된' 데이터로 학습할 때 모델이 잘못된 연관성을 학습하고 왜곡된 결과물을 생성하게 합니다. 이 도구는 AI 기업이 동의 없이 저작권이 있는 예술 작품으로 이미지 생성 모델을 학습시키는 것을 막아, 무허가 데이터로 학습하는 비용을 증가시키고 효율성을 감소시키는 것을 목표로 합니다. Nightshade는 이미지에 '독'을 삽입하는 방식으로 작동하며, 이 이미지가 스크랩되어 AI 모델 학습에 사용될 때 모델이 시각적 특징과 해당 텍스트 설명을 잘못 해석하게 만듭니다. 예를 들어, Nightshade 처리된 데이터로 학습한 후에는 개의 이미지가 AI 모델에 의해 고양이로 인식되거나, 소가 가죽 지갑으로 인식될 수 있습니다. 이 도구는 2024년 1월에 공개되었으며, 출시 5일 만에 25만 다운로드를 기록하며 빠르게 큰 주목을 받았습니다.
