overview
Nightshadeとは?
Nightshadeは、シカゴ大学の研究者によって開発されたAIデータポイズニングツールで、アーティストやコンテンツクリエイターが、無許可のAIモデルトレーニングから知的財産を保護できるようにします。人間の目には知覚できない方法で画像のピクセルを微妙に改変しますが、AIモデルにとっては非常に破壊的であり、「ポイズニングされた」データでトレーニングされると、AIモデルは誤った関連性を学習し、歪んだ出力を生成します。このツールは、AI企業が同意なしに著作権のあるアートワークで画像生成モデルをトレーニングすることを阻止し、それによってライセンスのないデータでのトレーニングのコストを増加させ、有効性を低下させることを目的としています。Nightshadeは、画像に「ポイズン」を埋め込むことで機能します。これは、スクレイピングされてAIモデルのトレーニングに使用されると、モデルが視覚的特徴とその対応するテキスト記述を誤解釈する原因となります。例えば、Nightshadeで処理されたデータでトレーニングした後、犬の画像がAIモデルによって猫として認識されたり、牛が革製の財布として認識されたりする可能性があります。このツールは2024年1月に一般公開され、発売から5日以内に25万ダウンロードを達成し、すぐに大きな注目を集めました。
