O banimento foi além de um chatbot
A OpenAI suspendeu a conta de Felix Kjellberg, conhecido como PewDiePie, restaurou o acesso após um recurso e, posteriormente, baniu-o novamente. O motivo declarado para as suspensões foi distillation, um processo que a OpenAI proíbe em seus Termos de Uso para a criação de modelos concorrentes. O recurso de Kjellberg teria afirmado: "Eu não fiz destilação, eu juro".
A destilação envolve treinar um modelo menor usando respostas de um modelo maior e mais poderoso. Os termos da OpenAI restringem os usuários de empregar suas saídas para desenvolver modelos que compitam com seus serviços. Especificamente, a Seção 2c dos Termos de Uso da OpenAI proíbe o uso de saídas de seus modelos para treinar outros modelos.
O projeto de Kjellberg, apelidado de Ajax, é um modelo Qwen 3.5 9B ajustado (fine-tuned) projetado para operação local. Ele teria buscado remover a censura do modelo. Para gerar dados de treinamento, Kjellberg pretendia destilar as saídas do modelo da OpenAI. A OpenAI supostamente criptografa o raciocínio do modelo, frequentemente referido como tokens de "chain-of-thought" (CoT).
Ele teria localizado um estudo demonstrando a descriptografia desse raciocínio usando as próprias APIs da OpenAI. Kjellberg afirmou que este método "funcionou", mas a OpenAI o baniu por destilação. Sua conta foi desbloqueada após um recurso, mas atividades posteriores levaram a um segundo banimento. A OpenAI tem visado recentemente campanhas de destilação em larga escala semelhantes, incluindo aquelas atribuídas a desenvolvedores associados ao Kimi da Moonshot AI.
Ajax traz a IA para casa
Felix Kjellberg, conhecido como PewDiePie, teria desenvolvido um projeto de IA local chamado Ajax. O sistema é um ajuste fino do modelo Qwen 3.5 9B da Alibaba, projetado para operar em um computador pessoal, reduzindo a dependência de serviços de nuvem externos.
Executar um modelo de 9 bilhões de parâmetros localmente oferece aos usuários maior controle e pode eliminar custos de assinatura. No entanto, tal modelo não iguala automaticamente as capacidades, velocidade ou confiabilidade de sistemas de fronteira hospedados. Implantações locais envolvem compensações em poder computacional e conjuntos de recursos sofisticados frequentemente encontrados em IAs baseadas em nuvem.
Kjellberg descreveu esforços para criar um modelo "sem censura" removendo comportamentos de recusa, utilizando técnicas de edição de representação. Enfraquecer essas salvaguardas pode aumentar a geração de saídas prejudiciais ou tendenciosas. Tais modificações não melhoram inerentemente as habilidades de raciocínio ou o desempenho geral das tarefas do modelo.
O jogo de gato e rato dos tokens de raciocínio
O vídeo de PewDiePie descreve seu suposto método para gerar dados de treinamento. Ele teria explorado técnicas baseadas em API para obter respostas úteis do modelo ou reasoning traces dos modelos da OpenAI, que ele chamou de "o material bom". Essa abordagem visava adquirir exemplos para o ajuste fino de sua IA local, Ajax.
Laboratórios como a OpenAI normalmente criptografam ou obscurecem processos internos de cadeia de pensamento (chain-of-thought). Controles de acesso e monitoramento de serviço protegem os interesses técnicos e comerciais de um provedor, particularmente no que diz respeito à arquitetura de modelo proprietária e dados de treinamento. Dados sintéticos de alta qualidade, especialmente derivados de modelos avançados, podem melhorar significativamente o desempenho de modelos menores.
Os termos de serviço da OpenAI proíbem o uso das saídas de seus modelos para treinar modelos concorrentes. A conta de PewDiePie foi supostamente banida por "Destilação" após ele tentar extrair esses tokens de raciocínio. Ele encontrou um estudo detalhando como descriptografar tais rastros usando as próprias APIs da OpenAI, o que ele afirma que "funcionou".
A OpenAI abordou publicamente os esforços para interromper campanhas coordenadas de destilação. Embora a atividade de PewDiePie envolvesse uma conta individual, operações maiores, como as atribuídas a empresas como a Moonshot AI, empregaram métodos semelhantes. A OpenAI implementou recentemente patches no lado do servidor para bloquear o vazamento generalizado de raciocínio. Para mais informações sobre esforços mais amplos, veja Disrupting a Coordinated Model-Distillation Campaign - OpenAI.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
Quem pode aprender com os dados de quem?
O debate sobre as restrições ao reuso de saídas de modelos destaca uma tensão ética dentro da indústria de IA. Críticos argumentam que as empresas de IA, tendo treinado modelos fundamentais em vastas quantidades de dados da web aberta, incluindo material protegido por direitos autorais, agem de forma hipócrita ao impor limites contratuais rígidos sobre como os usuários podem aproveitar as saídas de seus sistemas proprietários. As empresas, por outro lado, argumentam que tais termos protegem seus investimentos substanciais no desenvolvimento de modelos e infraestrutura.
Legalmente, essas questões permanecem distintas. Disputas de direitos autorais relacionadas aos dados de treinamento iniciais, como aquelas envolvendo autores ou artistas, diferem das obrigações contratuais de um usuário com um provedor de API. Um argumento de uso aceitável (fair use) em um contexto não substitui automaticamente os termos de serviço explícitos de um provedor, com os quais os usuários concordam ao acessar uma API.
O projeto Ajax de PewDiePie exemplifica o crescente apelo de modelos de IA capazes e controlados localmente, oferecendo aos usuários maior autonomia e menor dependência de serviços em nuvem. Os banimentos repetidos, no entanto, ressaltam como as regras de acesso e os termos de serviço dos principais provedores de modelos podem restringir esse caminho. Essa dinâmica contínua força uma consideração sobre a reciprocidade em relação aos direitos e regras estabelecidos pelos desenvolvedores de modelos.
Perguntas Frequentes
Por que PewDiePie foi banido pela OpenAI?
A OpenAI supostamente citou destilação: usar as saídas de seu modelo para treinar um modelo concorrente, o que seus termos proíbem.
O que é a Ajax AI de PewDiePie?
Ajax é descrito como um modelo local ajustado (fine-tuned) a partir do Qwen 3.5 9B da Alibaba, destinado a rodar em hardware de consumo.
O que significa destilação de modelo de IA?
A destilação treina um modelo menor usando saídas de um modelo maior, transferindo algumas de suas capacidades para um sistema mais compacto.
A OpenAI pode banir usuários por destilação?
Os Termos de Uso da OpenAI restringem o uso de seus serviços ou saídas para desenvolver modelos concorrentes, e a empresa pode aplicar esses termos suspendendo o acesso.