Um projeto de lei com definição abrangente e penalidades severas
Um alerta contundente surgiu em 23 de setembro: o senador Bernie Sanders e o deputado Greg Casar apresentaram o Ban Artificial Superintelligence Act. O projeto propõe a proibição total do desenvolvimento ou da implantação de IA superinteligente nos Estados Unidos e, ao mesmo tempo, pede uma pausa temporária no desenvolvimento avançado de IA até que um novo regulador federal estabeleça regras.
A legislação proposta criaria um Department of Artificial Intelligence de nível ministerial para monitorar modelos de fronteira, supervisionando a remoção de capacidades perigosas, como ignorar comandos de desligamento. As penalidades são severas: indivíduos enfrentam até 20 anos de prisão, e empresas correm o risco da "pena de morte corporativa", a dissolução judicial involuntária.
Essa definição abrangente de superinteligência, isto é, IA que supera o desempenho cognitivo humano na maioria dos domínios ou é capaz de privar a humanidade de poder, é crucial. Um escopo tão amplo poderia abranger sistemas que muitos classificariam como AGI, gerando disputas sobre benchmarks e aplicação da lei. Essa não é uma ideia marginal: depois que os democratas conquistaram a Câmara e o Senado nas eleições de meio de mandato, figuras como a deputada Yassamin Ansari declararam a proibição da superinteligência artificial uma prioridade máxima.
Por que o alerta sobre RSI ganhou força de repente
De repente, a ameaça de uma explosão de inteligência ganha força real. Os defensores do Ban Artificial Superintelligence Act apontam para uma avaliação recente da METR sobre o Model 4 secreto da Anthropic, que teria demonstrado ciclos de pesquisa acelerados, com a própria IA contribuindo para quase dobrar a velocidade de seu desenvolvimento. No entanto, evidências críticas que sustentam essas afirmações teriam sido omitidas, deixando o público sem condições de verificar os números mais alarmantes.
Essa aceleração rápida alimenta preocupações com o autoaperfeiçoamento recursivo (RSI), definido como sistemas de IA que desenvolvem de forma autônoma IAs sucessoras mais capazes. É importante notar que o RSI descreve um processo de desenvolvimento, distinto de AGI (capacidade de nível humano) ou superinteligência (capacidade que excede a humana), que são medidas do poder final de uma IA. O receio não é apenas com uma IA mais inteligente, mas com como ela se torna mais inteligente.
A preocupação de segurança é evidente: se a IA automatizar mais de sua própria pesquisa, a supervisão humana poderia rapidamente se tornar obsoleta. Erros ou desalinhamentos inerentes às primeiras gerações de IA poderiam se acumular exponencialmente, criando uma cascata de consequências não intencionais mais rápida do que qualquer revisão ou intervenção humana poderia acompanhar. Esse ciclo de retroalimentação poderia contornar verificações de segurança críticas, levando à perda de controle.
O deputado Greg Casar, coautor do projeto de lei proposto, ecoou recentemente o sentimento crescente com duas palavras contundentes: "Ban RSI". Esse pedido de proibição de que a IA desenvolva IA sucessora marca uma mudança significativa, transformando uma preocupação de nicho em um debate legislativo central. O relatório da METR, apesar de suas omissões, foi a faísca, sugerindo um futuro em que o progresso da IA supera a compreensão e o controle humanos, exigindo uma resposta imediata e drástica.
A coalizão improvável e o argumento por um freio mais restrito
Uma aliança curiosa se formou em torno de pedidos de limitações à IA, unindo figuras tão distintas quanto Bernie Sanders, Glenn Beck e Ralph Nader, todos citados em um vídeo recente que defende restrições ao Recursive Self-Improvement (RSI). Embora nem todos apoiem uma proibição total, essa coalizão de aliados improváveis evidencia uma preocupação compartilhada com a autonomia descontrolada da IA. Para mais contexto sobre a iniciativa legislativa, veja: Sen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AI.
O argumento mais forte a favor de um freio mais restrito tem como alvo os ciclos de pesquisa de IA totalmente automatizados. Em vez de um congelamento geral do desenvolvimento avançado, os defensores propõem revisão humana obrigatória em pontos críticos ou limites rigorosos para que a IA projete a próxima geração de IA. Essa abordagem busca mitigar a "multiplicação" de erros ou desalinhamentos que poderia surgir de um RSI sem controle.
No entanto, críticos alertam que a ameaça do RSI pode estar sendo exagerada ou ser tecnicamente difícil de definir. Limites de capacidade vagos, como os do Ban Artificial Superintelligence Act, poderiam levar a uma aplicação arbitrária, abrangendo inadvertidamente pesquisas comuns sob uma proibição ampla. Uma definição precisa de "superinteligência" ou "RSI" continua difícil de alcançar, o que torna proibições amplas uma aposta arriscada.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
Segurança em casa, interesses estratégicos no exterior
A política nacional de IA tornou-se inseparável das preocupações locais. Os eleitores, em uma mudança significativa, apontaram a IA e os impactos dos data centers (energia, água, sobrecarga da rede elétrica, deslocamento de mão de obra) como um fator decisivo nas eleições de meio de mandato. Pesquisas indicam que 56% dos eleitores consideraram essas questões fundamentais, impulsionando pedidos de moratórias para novos data centers e para o desenvolvimento avançado de IA.
Essa busca doméstica por segurança colide com uma realidade geopolítica evidente. Uma pausa unilateral dos EUA, por mais bem-intencionada que seja, corre o risco de ceder a liderança técnica e o poder de definir padrões a rivais, especialmente a China. Sem coordenação internacional verificada, uma proibição interna poderia simplesmente deslocar investimentos e inovação, comprometendo seu objetivo estratégico.
O dilema da política é agudo: estabelecer uma supervisão crível e limites claros pode se mostrar mais duradouro do que uma proibição ampla. Ainda assim, permanece a difícil questão de como implementar tais medidas antes que sistemas como o Model 4 da Anthropic, com seu autoaperfeiçoamento recursivo relatado, superem a revisão regulatória e o controle humano.
Perguntas frequentes
O que faria a proposta Ban Artificial Superintelligence Act?
Conforme descrito no material de origem, a lei proibiria o desenvolvimento ou a implantação de IA superinteligente, suspenderia o desenvolvimento avançado de IA até a definição de regras federais e criaria um novo departamento de supervisão.
O que é o autoaperfeiçoamento recursivo em IA?
O autoaperfeiçoamento recursivo é um processo no qual sistemas de IA ajudam a pesquisar ou a construir sistemas sucessores, o que pode acelerar o desenvolvimento com menor participação humana.
A proposta baniria toda a IA?
Não, conforme descrito: a proposta visa a superinteligência e suspenderia determinados desenvolvimentos avançados de IA, embora críticos argumentem que suas definições amplas poderiam abranger sistemas de uso geral.
Por que críticos dizem que uma pausa na IA americana poderia beneficiar a China?
Eles argumentam que, sem acordos internacionais exequíveis, uma pausa nos EUA poderia desacelerar os laboratórios nacionais, enquanto concorrentes continuam desenvolvendo modelos e definindo padrões globais.