BANの理由はチャットボット以上のものだった
OpenAIは、PewDiePieとして知られるFelix Kjellberg氏のアカウントを停止し、異議申し立て後にアクセスを復旧させましたが、その後再びBANしました。停止の理由は「蒸留（distillation）」であり、これはOpenAIが競合モデルの構築を目的とした利用規約で禁止しているプロセスです。Kjellberg氏の異議申し立てには「蒸留はしていない、誓う」と記されていたと報じられています。
蒸留とは、より大きく強力なモデルの応答を使用して、より小さなモデルをトレーニングすることを指します。OpenAIの規約では、同社のサービスと競合するモデルを開発するために、その出力を利用することを制限しています。具体的には、OpenAI利用規約の第2c条において、モデルの出力を他のモデルのトレーニングに使用することを禁止しています。
Kjellberg氏のプロジェクト「Ajax」は、ローカル環境での動作を目的としたQwen 3.5 9Bのファインチューニングモデルです。彼はこのモデルから検閲を取り除くことを目指していたと報じられています。トレーニングデータを生成するために、Kjellberg氏はOpenAIのモデル出力を蒸留しようとしました。OpenAIはモデルの推論プロセス（「chain-of-thought (CoT)」トークンと呼ばれることが多い）を暗号化しているとされています。
彼は、OpenAI自身のAPIを使用してこの推論を復号する方法を示した研究を見つけたと報じられています。Kjellberg氏は、この手法が「機能した」と述べましたが、OpenAIは蒸留を理由に彼をBANしました。異議申し立てによりアカウントは解除されましたが、その後の活動により2度目のBANに至りました。OpenAIは最近、Moonshot AIのKimiに関連する開発者によるものを含む、同様の大規模な蒸留キャンペーンを標的にしています。
AjaxがAIを家庭にもたらす
PewDiePieとして知られるFelix Kjellberg氏は、AjaxというローカルAIプロジェクトを開発したと報じられています。このシステムはAlibabaのQwen 3.5 9Bモデルをファインチューニングしたもので、外部のクラウドサービスへの依存を減らし、個人のコンピュータで動作するように設計されています。
90億パラメータのモデルをローカルで実行することで、ユーザーは制御性を高め、サブスクリプション費用を削減できる可能性があります。しかし、このようなモデルは、最先端のホスト型システムが持つ能力、速度、信頼性に自動的に匹敵するわけではありません。ローカル環境への展開には、計算能力やクラウドベースのAIによく見られる高度な機能セットとのトレードオフが伴います。
Kjellberg氏は、表現編集技術を用いて拒絶反応を取り除くことで、「検閲のない」モデルを作成する取り組みについて説明しました。こうしたセーフガードを弱めることは、有害または偏った出力の生成を増加させる可能性があります。このような修正は、モデルの推論能力や全体的なタスクパフォーマンスを本質的に向上させるものではありません。
推論トークンを巡るいたちごっこ
PewDiePieの動画では、トレーニングデータを生成するための彼の手法が概説されています。彼は、OpenAIのモデルから有用な応答や「推論の痕跡（reasoning traces）」を取得するために、APIベースの手法を模索し、それを「良いもの（the good stuff）」と呼びました。このアプローチは、自身のローカルAIであるAjaxをファインチューニングするための例を取得することを目的としていました。
OpenAIのような研究所は通常、内部のchain-of-thoughtプロセスを暗号化または隠蔽しています。アクセス制御とサービス監視は、特に独自のモデルアーキテクチャやトレーニングデータに関して、プロバイダーの技術的および商業的利益を保護します。高品質な合成データ、特に高度なモデルから派生したデータは、小さなモデルのパフォーマンスを大幅に向上させることができます。
OpenAIの利用規約は、競合モデルのトレーニングに同社のモデル出力を使用することを禁止しています。PewDiePieのアカウントは、これらの推論トークンを抽出しようとした後、「蒸留」を理由にBANされたと報じられています。彼は、OpenAI自身のAPIを使用してそのような痕跡を復号する方法を詳述した研究を見つけ、それが「機能した」と述べています。
OpenAIは、組織的な蒸留（distillation）キャンペーンを阻止するための取り組みについて公に言及しています。PewDiePieの活動は個人のアカウントによるものでしたが、Moonshot AIのような企業に起因する大規模な運用でも同様の手法が用いられています。OpenAIは最近、広範な推論の漏洩をブロックするためにサーバーサイドのパッチを実装しました。より広範な取り組みについては、Disrupting a Coordinated Model-Distillation Campaign - OpenAI を参照してください。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
誰が誰のデータから学習する権利を持つのか？
モデル出力の再利用に関する制限をめぐる議論は、AI業界内の倫理的な緊張関係を浮き彫りにしています。批判者は、AI企業がオープンウェブ上の膨大なデータ（著作権で保護された素材を含む）で基盤モデルをトレーニングしておきながら、ユーザーが自社の独自システムからの出力を利用する方法に厳格な契約上の制限を課すことは偽善的であると主張しています。対照的に企業側は、そのような規約はモデル開発とインフラへの多額の投資を保護するために必要であると主張しています。
法的には、これらの問題は明確に区別されます。著者やアーティストが関与するような初期のトレーニングデータに関する著作権紛争は、APIプロバイダーとのユーザーの契約上の義務とは異なります。ある文脈でのフェアユース（公正利用）の主張が、APIにアクセスする際にユーザーが同意するサービスプロバイダーの明示的な利用規約を自動的に上書きすることはありません。
PewDiePieの Ajax プロジェクトは、高性能でローカル制御が可能なAIモデルへの関心の高まりを象徴しており、ユーザーにより大きな自律性とクラウドサービスへの依存度の低減を提供しています。しかし、繰り返されるBANは、主要なモデルプロバイダーのアクセスルールや利用規約が、この道をいかに制約し得るかを浮き彫りにしています。この継続的なダイナミクスにより、モデル開発者の確立された権利やルールと、相互利用の可能性を天秤にかけることが求められています。
よくある質問
なぜPewDiePieはOpenAIからBANされたのですか？
OpenAIは、蒸留（distillation）、つまり同社のモデル出力を利用して競合モデルをトレーニングすることを理由に挙げたと報じられています。これは同社の利用規約で禁止されています。
PewDiePieのAjax AIとは何ですか？
Ajaxは、AlibabaのQwen 3.5 9Bをベースにファインチューニングされたローカルモデルであり、コンシューマー向けハードウェアで動作するように設計されています。
AIモデルの蒸留（distillation）とはどういう意味ですか？
蒸留とは、より大きなモデルの出力を利用して小さなモデルをトレーニングし、その能力の一部をよりコンパクトなシステムに転送する手法です。
OpenAIは蒸留を理由にユーザーをBANできますか？
OpenAIの利用規約では、同社のサービスや出力を利用して競合モデルを開発することを制限しており、同社はアクセスを停止することでこれらの規約を執行する場合があります。