17.253 números, um palpite surpreendentemente específico
Um modelo de fronteira da OpenAI, o GPT-6 Astra, recebeu 17.253 números de ponto flutuante brutos como texto simples. Sem rótulos de jogo, ferramentas de execução ou opções de múltipla escolha, o Astra identificou a rede neural subjacente como uma treinada para jogar Breakout, com 99% de confiança. Isso representou uma demonstração significativa da capacidade de um modelo de linguagem de grande porte de interpretar parâmetros brutos de redes neurais.
Segundo relatos, o Astra inferiu o jogo observando padrões espaciais nos dados numéricos. Ele observou que os pesos da primeira camada do canal do agente jogador se concentravam na parte inferior da representação espacial do jogo, lembrando uma raquete horizontal. Ao mesmo tempo, os pesos de saída pareciam distinguir principalmente os movimentos para a esquerda e para a direita, reforçando a hipótese de Breakout.
Este experimento oferece evidências convincentes de que um modelo pode, em alguns casos, inferir o comportamento de uma rede pequena diretamente a partir de seus parâmetros. No entanto, não prova que o Astra compreende redes neurais arbitrárias ou seus mecanismos internos complexos de forma universal. Os pesquisadores replicaram com sucesso essa interpretação de parâmetros em várias políticas com a mesma arquitetura, incluindo:
- Breakout
- Pong
- Pac-Man
- Freeway/Frogger
O modelo não apenas leu os pesos: ele os escreveu
O artigo por trás deste resultado, "Sparks of Weight-Space Programming", propõe um paradigma em que modelos de linguagem de grande porte interpretam e manipulam diretamente os parâmetros brutos de redes neurais. Essa "programação no espaço de pesos" deixa de depender exclusivamente do gradiente descendente e de ciclos de treinamento, usando LLMs para diagnosticar e editar comportamentos de redes.
Uma demonstração marcante envolveu o Astra sintetizar, em um único turno, uma política para jogar Breakout a partir de uma base com todos os valores zerados. Essa geração zero-shot obteve 517,4 pontos, superando de forma expressiva um agente padrão de Proximal Policy Optimization (PPO). A linha de base PPO alcançou apenas 25,3 pontos, apesar de 100 milhões a 500 milhões de passos de treinamento no ambiente.
Essa comparação destaca a capacidade emergente do Astra de construir políticas funcionais apenas a partir da lógica de alto nível do jogo. Embora seja uma conquista significativa nesta configuração específica, não sugere que a geração de pesos por prompt substitua amplamente o aprendizado por reforço nem que seja aplicável de forma universal a todas as tarefas. Em vez disso, revela um novo caminho para a criação de redes e a intervenção nelas.
Uma pequena edição, um salto muito maior no benchmark
Além da simples identificação, o Astra teria demonstrado a edição direta de redes neurais. Os pesquisadores instruíram o Astra a modificar 131.072 pesos, minúsculos 0,016% do total de parâmetros de um modelo Qwen3.5-0.8B, concentrados nas camadas 15 e 19.
Essa intervenção cirúrgica teve como alvo uma direção interna considerada responsável por loops de raciocínio repetitivos, um modo de falha em que o modelo Qwen frequentemente atingia os limites de tokens de saída. A edição não foi um processo de fine-tuning; não houve gradiente descendente nem etapas de treinamento.
O impacto foi substancial: a pontuação do Qwen no benchmark MATH-500 subiu drasticamente de 7,9% para 48,1%. Da mesma forma, sua pontuação no IFEval (seguimento de instruções) saltou de 21% para 62,3%. Essas melhorias decorreram da remoção de um modo de falha supressor, e não de o Astra injetar diretamente capacidade matemática.
É fundamental notar que essa abordagem trouxe melhoria mínima em modelos como o Gemma 3 270M, que não apresentavam o mesmo problema interno de loop. Para um aprofundamento nesses métodos, consulte o pré-print: Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights. Isso demonstra uma aplicação matizada da programação no espaço de pesos, em que edições diretas tratam patologias comportamentais específicas e identificáveis.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
Um experimento promissor, não telepatia de redes neurais
Surgiram críticas metodológicas ao trabalho com o Qwen. Os críticos observaram que a programação no espaço de pesos relatada envolveu sandboxing em Python e problemas de prática, um fluxo de trabalho mais parecido com um engenheiro humano conduzindo recursos do que com uma IA editando sem esforço a partir de texto bruto. Essa distinção é crucial para entender o alcance do experimento.
Os otimizadores convencionais atualizam os parâmetros numericamente, refinando iterativamente o desempenho de um modelo. A programação no espaço de pesos, porém, sugere que os modelos podem contribuir com hipóteses semânticas sobre o que parâmetros específicos fazem. Essa possibilidade de um LLM discernir o significado dos pesos, e não apenas seus valores numéricos, exige replicação e avaliação cuidadosas para separar a capacidade demonstrada da interpretação especulativa.
Capacidades de inspeção e edição direta podem auxiliar significativamente a depuração de redes neurais complexas, oferecendo um nível granular de controle atualmente indisponível. No entanto, isso também levanta questões críticas sobre confiabilidade e segurança. Os testes relatados não demonstram que uma IA possa desativar salvaguardas de forma independente; em vez disso, ressaltam por que o controle sobre futuras ferramentas de edição de pesos merece exame rigoroso à medida que a área avança.
Perguntas frequentes
Como o Astra identificou Breakout?
Recebeu 17.253 parâmetros do modelo em formato de texto e, segundo relatos, inferiu Breakout a partir de padrões associados à raquete e às ações de esquerda ou direita.
O que é programação no espaço de pesos (weight-space programming)?
É uma abordagem em que um modelo de IA interpreta ou edita diretamente os parâmetros de uma rede neural, em vez de depender apenas das atualizações convencionais de treinamento.
O Astra treinou a rede de Breakout?
No experimento relatado, o Astra gerou os pesos da rede a partir de um prompt, e a política resultante obteve 517,4 pontos. Trata-se de um resultado específico de benchmark, não de prova de aprendizado autônomo geral.
Editar pesos dá a um modelo novas habilidades de raciocínio?
Não necessariamente. A edição relatada no Qwen parece ter reduzido um modo de falha de repetição em loop; os pesquisadores alertaram que remover um obstáculo não equivale a adicionar nova capacidade de raciocínio.
A edição direta de pesos pode contornar as salvaguardas de IA?
Levanta uma possível preocupação de uso duplo, mas os experimentos descritos não demonstram que os modelos possam remover proteções de segurança de forma autônoma.