Esta IA treina a si mesma no seu laptop

A maioria dos grandes modelos de linguagem (LLMs) chega congelada no tempo, com seu conhecimento limitado ao momento de seu treinamento massivo em datacenters. Pergunte a eles sobre eventos recentes e você frequentemente receberá respostas desatualizadas; eles pararam de aprender no dia em que foram lançados. Esse paradigma dita que apenas hiperescaladores podem realmente construir essas IAs sofisticadas.

Uma nova classe de IA, apelidada de mini-AGI, muda fundamentalmente esse modelo. Projetada para aprendizado contínuo, ela treina diretamente em hardware de consumo — um MacBook Pro, por exemplo — nunca cessando sua evolução. Ela começa do zero absoluto, literalmente uma coleção de números aleatórios, desprovida de qualquer conhecimento prévio.

Isso não é fine-tuning; é aprendizado do zero. O modelo processa dados byte a byte, absorvendo informações de um fluxo contínuo sem uma linha de chegada definida. Ele dá pequenos passos de aprendizado após cada bloco, acumulando compreensão incrementalmente, assim como uma pessoa lendo um livro ao longo do tempo.

Tradicionalmente, treinar até mesmo modelos pequenos exigia uma memória significativa — cerca de três a quatro vezes mais do que apenas executar um — tornando-o um domínio exclusivo de grandes datacenters. A mini-AGI democratiza esse processo, colocando o poder do desenvolvimento contínuo de IA nas mãos de indivíduos, diretamente em seus computadores pessoais.

O esquecimento catastrófico representa um desafio significativo para IAs de aprendizado contínuo. Esse fenômeno descreve a tendência de um modelo de IA de sobrescrever conhecimentos existentes, como a fluência em inglês, quando ajustado (fine-tuned) em um novo assunto restrito, como xadrez. Um modelo padrão pode perder metade de seu conhecimento geral após se especializar.

A mini-AGI aborda isso com uma arquitetura especializada de Mixture-of-Experts (MoE). O modelo compreende dois componentes distintos: um núcleo compartilhado e múltiplos especialistas. Ao aprender novas informações, os especialistas têm permissão para se adaptar rapidamente, mas o núcleo compartilhado é atualizado a uma taxa dez vezes mais lenta. Esse mecanismo garante que o novo conhecimento resida principalmente nos especialistas, preservando a compreensão fundamental mantida pelo núcleo, assim como reformar cômodos sem perturbar a fundação de um edifício. A mini-AGI reteve 99,84% de seu conhecimento anterior mesmo após um treinamento intensivo e restrito.

Este design também produz uma eficiência de memória notável. Cada especialista existe como um arquivo separado no disco. Ao processar um bloco de texto, o sistema carrega na VRAM apenas os especialistas específicos necessários. Isso permite que a mini-AGI escale muito além das limitações de memória física de uma GPU de consumo, suportando o aprendizado contínuo em hardware pessoal como um MacBook.

Um modelo em branco começou sua jornada, uma coleção de números aleatórios sem conhecer nenhum idioma. Os pesquisadores primeiro ensinaram a ele o inglês básico usando o TinyStories dataset, um corpus de contos infantis curtos. Em duas horas, o modelo progrediu de frases sem sentido como "tousind wared therlound" para frases coerentes como "Está tudo bem", disse Lily, estabelecendo a proficiência fundamental em inglês.

Em seguida, o experimento mudou para imbuir o modelo com o estilo distinto de Quentin Tarantino. Os pesquisadores o alimentaram com roteiros, incluindo Pulp Fiction, Jackie Brown e Django Unchained. Inicialmente, a mini-AGI rapidamente compreendeu a formatação de roteiros, produzindo nomes de personagens como Ordell e Louis em letras maiúsculas com a indentação correta em poucos minutos.

No entanto, surgiram desafios. O modelo começou a misturar sua estrutura de roteiro recém-adquirida com seu conhecimento de histórias infantis. Personagens de Tarantino começaram a pedir desculpas "como crianças do jardim de infância" ("Stephen, sinto muito"), e sua proficiência em inglês degradou-se rapidamente, transformando até mesmo "Era uma vez" em fragmentos de roteiro. Isso indicou uma tendência a memorizar roteiros específicos em vez de generalizar o estilo, e um potencial para esquecimento catastrófico.

Crucialmente, quando os pesquisadores retreinaram o modelo em histórias, ele recuperou a proficiência em inglês em meros minutos, não horas. Essa recuperação rápida demonstrou que seu conhecimento original de idioma não foi apagado, mas preservado, provavelmente dentro de sua arquitetura de mixture of experts baseada em disco. Esse mecanismo, onde um núcleo compartilhado muda mais lentamente do que especialistas especializados, permite que o mini-AGI retenha o aprendizado anterior. Para mais detalhes técnicos sobre seu design, veja GitHub - volotat/mini-AGI: Continual learning model trained from scratch on 8GB VRAM laptop with batch-1 stream of data..

O experimento produziu um resultado peculiar: um modelo Frankenstein, adepto em imitar o formato de roteiro de Tarantino com recuos precisos e nomes de personagens em letras maiúsculas como Ordell, Louis e Schultz de filmes como Pulp Fiction e Jackie Brown. No entanto, seu diálogo foi uma fusão bizarra, misturando desculpas infantis ("Stephen, sinto muito.") com a estética crua do diretor. A proficiência em inglês degradou-se, reduzindo até mesmo "Era uma vez" a pistas de roteiro fragmentadas.

Essa saída "Frankenstein", no entanto, obscurece o verdadeiro triunfo do projeto. O mini-AGI demonstrou continual learning em hardware de consumo — especificamente um MacBook Pro M2 Max com 32 gigabytes de RAM. Crucialmente, ele evitou amplamente o catastrophic forgetting. Após aprender oito assuntos diversos como histórias, código e matemática, e então ser exposto a meio milhão de caracteres de xadrez, o modelo reteve 99,84% de seu conhecimento anterior, um contraste gritante com modelos típicos que perdem metade.

Essa resiliência deriva de sua arquitetura: um núcleo compartilhado que muda 10 vezes mais lentamente do que seus especialistas especializados, que são carregados eficientemente conforme necessário a partir do disco, permitindo que o modelo seja maior do que a memória da GPU. Embora o mini-AGI permaneça um 'brinquedo' e não uma AGI verdadeira, ele oferece uma visão convincente. Ele prova a viabilidade de modelos de IA personalizados e em constante evolução, capazes de aprender conosco sem exigir recursos em escala de datacenter ou esquecer seu passado.

O que é o mini-AGI?

O mini-AGI é um modelo de linguagem em escala de brinquedo projetado para aprendizado contínuo em hardware de consumo. Ele pode ser treinado do zero e é arquitetado para aprender novas informações sem sobrescrever ou esquecer conhecimentos anteriores.

Como o mini-AGI evita o 'catastrophic forgetting'?

Ele usa uma estrutura de duas partes: um núcleo compartilhado que aprende 10x mais devagar para preservar o conhecimento fundamental, e modelos 'especialistas' que aprendem novas informações rapidamente. Isso isola o novo aprendizado sem interromper as habilidades principais do modelo.

O que é um modelo Mixture-of-Experts (MoE)?

Um modelo MoE é composto por múltiplas redes neurais menores e especializadas (especialistas) e um mecanismo de gating que roteia a entrada para o especialista mais relevante. Isso os torna altamente eficientes, já que apenas uma fração do modelo está ativa a qualquer momento.

Posso usar o mini-AGI para o meu negócio?

Não. O autor do projeto o chama explicitamente de 'modelo em escala de brinquedo' que não é adequado para produção. É um projeto de pesquisa e prova de conceito que demonstra uma nova abordagem para o treinamento de IA.