Обзор Nightshade

Nightshade — это инструмент для отравления данных ИИ, разработанный исследователями из Чикагского университета, который позволяет художникам и создателям контента защищать свою интеллектуальную собственность от несанкционированного обучения моделей ИИ. Он незаметно изменяет пиксели изображений таким образом, что это незаметно для человеческого глаза, но крайне разрушительно для моделей ИИ, заставляя их изучать неверные ассоциации и производить искаженные результаты при обучении на «отравленных» данных. Этот инструмент призван отговорить компании, занимающиеся ИИ, от обучения своих моделей генерации изображений на защищенных авторским правом произведениях искусства без согласия, тем самым увеличивая стоимость и снижая эффективность обучения на нелицензированных данных. Nightshade работает путем внедрения «яда» в изображения, который, при сборе и использовании для обучения модели ИИ, приводит к неправильной интерпретации моделью визуальных особенностей и соответствующих им текстовых описаний. Например, изображение собаки может быть воспринято моделью ИИ как кошка, или коровы как кожаная сумка, после обучения на данных, обработанных Nightshade. Инструмент был публично выпущен в январе 2024 года и быстро привлек значительное внимание, набрав 250 000 загрузок в течение пяти дней после запуска.

Nightshade предоставляет художникам набор функций, предназначенных для защиты их цифровых произведений искусства от несанкционированного обучения моделей ИИ. Его основная функциональность сосредоточена на отравлении данных, что делает его проактивным механизмом защиты от генеративных моделей ИИ.

Nightshade в первую очередь предназначен для частных лиц и организаций, стремящихся защитить свою визуальную интеллектуальную собственность от несанкционированного использования моделями ИИ. Его возможности особенно актуальны для тех, чьи работы подвержены веб-скреппингу для данных обучения ИИ.

Nightshade предназначен для применения к цифровым изображениям до их публикации в Интернете, внедряя незаметные изменения, которые становятся разрушительными для моделей ИИ во время обучения. Пользователи могут загрузить приложение для своих соответствующих операционных систем и следовать предоставленным инструкциям.

Nightshade работает по модели freemium, предлагая бесплатный уровень для пользователей для доступа к его основным функциям. Конкретные детали относительно потенциальных платных уровней или расширенных функций, требующих оплаты, не уточняются в публичных релизах, но наличие бесплатного уровня делает инструмент доступным для широкого круга художников и создателей контента.