L'interdiction concernait bien plus qu'un simple chatbot
OpenAI a suspendu le compte de Felix Kjellberg, connu sous le nom de PewDiePie, puis a rétabli l'accès après un appel, avant de le bannir à nouveau par la suite. La raison invoquée pour ces suspensions était la distillation, un processus qu'OpenAI interdit dans ses Conditions d'utilisation pour la création de modèles concurrents. L'appel de Kjellberg aurait déclaré : « Je n'ai pas fait de distillation, je le jure. »
La distillation consiste à entraîner un modèle plus petit en utilisant les réponses d'un modèle plus grand et plus puissant. Les conditions d'OpenAI interdisent aux utilisateurs d'employer ses résultats pour développer des modèles qui concurrencent leurs services. Plus précisément, la section 2c des Conditions d'utilisation d'OpenAI interdit l'utilisation des résultats de leurs modèles pour entraîner d'autres modèles.
Le projet de Kjellberg, baptisé Ajax, est un modèle Qwen 3.5 9B affiné (fine-tuned) conçu pour fonctionner localement. Il aurait cherché à supprimer la censure du modèle. Pour générer des données d'entraînement, Kjellberg avait l'intention de distiller les résultats du modèle d'OpenAI. OpenAI crypterait le raisonnement du modèle, souvent appelé jetons de « chaîne de pensée » (CoT).
Il aurait localisé une étude démontrant le décryptage de ce raisonnement en utilisant les propres API d'OpenAI. Kjellberg a déclaré que cette méthode « fonctionnait », mais OpenAI l'a banni pour distillation. Son compte a été débloqué après un appel, mais une activité ultérieure a conduit à un second bannissement. OpenAI a récemment ciblé des campagnes de distillation à grande échelle similaires, y compris celles attribuées à des développeurs associés à Kimi de Moonshot AI.
Ajax ramène l'IA à la maison
Felix Kjellberg, connu sous le nom de PewDiePie, aurait développé un projet d'IA local nommé Ajax. Le système est un affinement du modèle Qwen 3.5 9B d'Alibaba, conçu pour fonctionner sur un ordinateur personnel, réduisant ainsi la dépendance aux services cloud externes.
Faire fonctionner un modèle de 9 milliards de paramètres localement offre aux utilisateurs un contrôle accru et peut éliminer les coûts d'abonnement. Cependant, un tel modèle n'égale pas automatiquement les capacités, la vitesse ou la fiabilité des systèmes hébergés de pointe. Les déploiements locaux impliquent des compromis en termes de puissance de calcul et de fonctionnalités sophistiquées souvent présentes dans l'IA basée sur le cloud.
Kjellberg a décrit ses efforts pour créer un modèle « non censuré » en supprimant les comportements de refus, en utilisant des techniques d'édition de représentation. L'affaiblissement de ces garde-fous peut augmenter la génération de résultats nuisibles ou biaisés. De telles modifications n'améliorent pas intrinsèquement les capacités de raisonnement du modèle ou ses performances globales.
Le jeu du chat et de la souris autour des jetons de raisonnement
La vidéo de PewDiePie décrit sa méthode présumée pour générer des données d'entraînement. Il aurait exploré des techniques basées sur l'API pour obtenir des réponses utiles du modèle ou des traces de raisonnement provenant des modèles d'OpenAI, qu'il a qualifiées de « bonnes choses ». Cette approche visait à acquérir des exemples pour affiner son IA locale, Ajax.
Des laboratoires comme OpenAI cryptent ou masquent généralement les processus internes de chaîne de pensée. Les contrôles d'accès et la surveillance des services protègent les intérêts techniques et commerciaux d'un fournisseur, en particulier concernant l'architecture propriétaire du modèle et les données d'entraînement. Des données synthétiques de haute qualité, surtout lorsqu'elles sont dérivées de modèles avancés, peuvent améliorer considérablement les performances des modèles plus petits.
Les conditions d'utilisation d'OpenAI interdisent l'utilisation des résultats de ses modèles pour entraîner des modèles concurrents. Le compte de PewDiePie aurait été banni pour « Distillation » après qu'il a cherché à extraire ces jetons de raisonnement. Il a trouvé une étude détaillant comment décrypter ces traces en utilisant les propres API d'OpenAI, ce qui, selon lui, « fonctionnait ».
OpenAI a publiquement abordé les efforts visant à perturber les campagnes de distillation coordonnées. Bien que l'activité de PewDiePie ait impliqué un compte individuel, des opérations plus vastes, telles que celles attribuées à des entreprises comme Moonshot AI, ont employé des méthodes similaires. OpenAI a récemment mis en œuvre des correctifs côté serveur pour bloquer la fuite généralisée de raisonnement. Pour plus d'informations sur les efforts plus larges, consultez Disrupting a Coordinated Model-Distillation Campaign - OpenAI.
Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.
un e-mail par jour · désinscription en deux clics · aucun traqueur tiers
Qui a le droit d'apprendre à partir des données de qui ?
Le débat sur les restrictions concernant la réutilisation des sorties de modèles met en lumière une tension éthique au sein de l'industrie de l'IA. Les critiques soutiennent que les entreprises d'IA, après avoir entraîné des modèles fondamentaux sur de vastes quantités de données provenant du Web ouvert, y compris du matériel protégé par le droit d'auteur, agissent de manière hypocrite en imposant ensuite des limites contractuelles strictes sur la façon dont les utilisateurs peuvent exploiter les sorties de leurs systèmes propriétaires. Les entreprises, à l'inverse, soutiennent que ces conditions protègent leurs investissements substantiels dans le développement de modèles et l'infrastructure.
Sur le plan juridique, ces questions restent distinctes. Les litiges en matière de droit d'auteur concernant les données d'entraînement initiales, tels que ceux impliquant des auteurs ou des artistes, diffèrent des obligations contractuelles d'un utilisateur envers un fournisseur d'API. Un argument en faveur de l'usage loyal (fair use) dans un contexte ne prévaut pas automatiquement sur les conditions d'utilisation explicites d'un fournisseur de services, auxquelles les utilisateurs consentent lors de l'accès à une API.
Le projet Ajax de PewDiePie illustre l'attrait croissant pour des modèles d'IA performants et contrôlés localement, offrant aux utilisateurs une plus grande autonomie et une dépendance réduite vis-à-vis des services cloud. Les interdictions répétées soulignent cependant comment les règles d'accès et les conditions d'utilisation des principaux fournisseurs de modèles peuvent entraver cette voie. Cette dynamique continue impose une réflexion sur la réciprocité face aux droits et règles établis des développeurs de modèles.
Foire aux questions
Pourquoi PewDiePie a-t-il été banni par OpenAI ?
OpenAI aurait invoqué la distillation : l'utilisation des sorties de son modèle pour entraîner un modèle concurrent, ce que ses conditions interdisent.
Qu'est-ce que l'IA Ajax de PewDiePie ?
Ajax est décrit comme un modèle local affiné à partir du Qwen 3.5 9B d'Alibaba, destiné à fonctionner sur du matériel grand public.
Que signifie la distillation de modèle d'IA ?
La distillation entraîne un modèle plus petit en utilisant les sorties d'un modèle plus grand, transférant certaines de ses capacités dans un système plus compact.
OpenAI peut-il bannir des utilisateurs pour distillation ?
Les conditions d'utilisation d'OpenAI restreignent l'utilisation de ses services ou de ses sorties pour développer des modèles concurrents, et l'entreprise peut faire respecter ces conditions en suspendant l'accès.