拡散された漫画には、非常にリアルな署名が入っていた
8月、ChatGPTで生成されたある漫画が拡散されました。そこには、Dolly PartonとTim Curryが天国の門に到着する様子が描かれていました。プロンプトは「The New Yorkerスタイルの漫画」という単純なものでしたが、これは単なる一般的な模倣ではありませんでした。画像には、漫画家Brendan Loperの署名と見紛うようなサインが隅に記されていたのです。
ファンやBrendan Loperの双子の兄弟までもが、彼が描いたものかどうかを本人に問い合わせました。答えは明確に「ノー」でした。これはBrendan Loperの作品ではないにもかかわらず、彼の識別可能なサインである「B. Brendan Loper Loper」が付け加えられていたのです。
ここでの区別は極めて重要です。生成AIは以前から芸術的なスタイルを模倣してきましたが、今回の事例は一線を越えていました。ChatGPTは単にThe New Yorkerの広範なスタイルで絵を描いていたのではなく、特定の現役アーティストの名前を、本人が作成していない作品に付与していたのです。
これは単発的な事件ではありませんでした。Nieman Labによる調査で、ChatGPTがSaul Steinbergのような故人を含む、15人以上のThe New Yorkerの漫画家の本物の署名を使用していたことが確認されました。かつては判読不能な走り書きしか生成できなかったモデルが、スタイルプロンプトから直接、読み取り可能なサインを再現するように進化したのです。これは単なるスタイルの模倣ではなく、デジタルなアイデンティティの盗用です。
これは一人のアーティストの問題でも、無害な不具合でもない
これは一人のアーティストの問題でも、無害な不具合でもありません。
あの拡散された画像は孤立した事件ではありませんでした。Nieman Labは、ChatGPTが生成した漫画に、Emily Flake、Joe Dator、さらには1999年に亡くなったSaul Steinbergを含む15人以上のThe New Yorkerの漫画家の署名が含まれていたと報じました。以前の画像モデルは判読不能なマークを生成することが多かったのですが、新しい出力は明確で識別可能な名前を生成し、偽の漫画を実在のアーティストと直接結びつけていたのです。
帰属先は重要であり、アーティストたちは憤慨しています。Emily Flakeは、この経験を自分の発言を捏造されることに例え、自身の創造的アイデンティティに対する直接的な攻撃だと述べました。20年以上The New Yorkerに寄稿しているJoe Datorは、より辛辣にこう語りました。「クレジットカードをハッキングされたことはあるが、今回の件の方がはるかに侵害されていると感じる。なぜなら、カードをハッキングした犯人は私のふりまではしなかったからだ。」
事態は深刻です。これは単なるスタイルの模倣ではなく、デジタルななりすましであり、職業的アイデンティティの盗用です。AIが説得力を持って署名を偽造し、その出力を存命または故人のアーティストに帰属させることができるようになれば、インスピレーションと権利侵害の境界線は消滅し、混乱と怒りが残るだけです。
ライセンス契約ではデータの問題は解決されなかった
OpenAIとThe New Yorkerの親会社であるCondé Nastがコンテンツライセンス契約を発表したことで、事態はさらに複雑化しました。しかし、この合意にはThe New Yorkerの漫画を用いた学習や、そのアートワークを画像生成に使用することを許可する内容は明示的に含まれていませんでした。これは重要な区別であり、OpenAIはまだ明確な説明を行っていません。
漫画家は通常、自身の作品に対する個別の著作権を保持しており、これは業界標準の慣行です。そのため、AIによる署名の模倣はさらに悪質と言えます。OpenAIは、自社のモデルがどのようにしてこれらの特定の署名を再現することを学習したのかについて沈黙を続けており、学習データの透明性に大きな欠落が生じています。
これは単なるスタイルの問題ではなく、帰属と知的財産の問題です。たとえ報道が特定の署名の正確なソースを特定していなかったとしても、この出力はOpenAIのトレーニングデータの出所について深刻な疑問を投げかけています。このデジタルアイデンティティの盗用に関する詳細は、ChatGPT is adding real cartoonists' signatures to fake The New Yorker cartoons - Nieman Labをご覧ください。
この状況は重大な乖離を浮き彫りにしています。広範なライセンス契約があるからといって、個々のクリエイターの固有の識別子を悪用する白紙委任状が自動的に与えられるわけではありません。これは無害な不具合ではなく、芸術的所有権とパーソナルブランドという概念そのものに対する直接的な挑戦です。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
ガードレールはプロンプトをブロックできても、評判を修復することはできない
署名スキャンダルに対するOpenAIの報告された対応はどのようなものでしょうか？現在、「The New Yorker風の漫画」というプロンプトを入力すると、サードパーティのコンテンツとの類似性に関する警告が表示されるようになっています。名目上のガードレールがあることは何もないよりはマシですが、ジャーナリストたちはこの挙動が一貫していないことを発見しており、評判の低下に対する堅牢な防御策とは言い難い状況です。
ここでのリスクは、それ自体が著作権の境界線上にあるスタイルの模倣をはるかに超えています。認識可能な署名は、作者、推奨、アイデンティティに関する混乱を生じさせます。これは、パブリシティ権の侵害や誤認惹起の可能性など、単純なコンテンツ警告では解決できない明確な法的問題を提起しています。
画像の生成元メタデータにはその画像がOpenAIから発信されたことは示されても、指名されたアーティストがそれを承認したかどうかは示されません。実在のアーティストの名前を冠した偽の漫画が拡散されるとき、説明責任を果たすにはデジタル透かし以上のものが必要です。クリエイターのアイデンティティが盗用され、彼らの評判が危機にさらされたとき、どのような具体的な救済策や保護措置が彼らを守るのでしょうか？
よくある質問
Brendan LoperはバイラルになったChatGPTの漫画を描きましたか？
いいえ。その漫画はChatGPTによって生成されましたが、Loperのものに似た署名が含まれていました。
何人のThe New Yorkerの漫画家の署名が報告されましたか？
Nieman Labは、生成された漫画に名前が登場した15人以上の漫画家を記録しています。
OpenAIとCondé Nastの契約は、漫画でのトレーニングを許可していましたか？
The New Yorkerは、その契約は漫画でのトレーニングや画像生成へのアートワークの使用を許可するものではなかったと述べています。
AIが生成した署名は、誰が画像を作成したかを証明できますか？
いいえ。目に見える署名は捏造される可能性があり、出所メタデータは指名されたアーティストがそれを承認したことを証明するものではありません。