Anthropic: você é o controle de qualidade.

A OpenAI acaba de divulgar uma métrica impressionante: o ChatGPT agora lida com aproximadamente um quinto das consultas de estilo de busca que o Google processa. Juntamente com esse salto no volume de buscas, a base de usuários semanais da plataforma explodiu de 1 bilhão para 1,2 bilhão em aproximadamente 60 dias.

Esses números confirmam o que os executivos do Google têm suado em particular. Capturar 20% do volume de buscas do Google não é um experimento fofo; é uma ameaça existencial ao modelo de negócios mais lucrativo da história da internet. Os usuários estão ignorando completamente os links azuis em favor de respostas diretas e sintetizadas.

A mudança de um bilhão para 1,2 bilhão de usuários em dois meses mostra que a curva de adoção ainda está acelerando. Se a OpenAI conseguir manter essa trajetória e refinar sua recuperação web em tempo real, o comportamento padrão da internet mudará fundamentalmente, deixando o SEO tradicional para trás.

O Google lançou novos controles que desativam o Gemini, Gemini Notebook, Gemini no Classroom e a Pesquisa Google por padrão para contas de estudantes do ensino fundamental e médio. O detalhe crítico é que os recursos de Pesquisa e IA do Google estão agora tão profundamente integrados que as escolas que tentam banir as ferramentas de IA podem, inadvertidamente, perder a funcionalidade básica de Pesquisa para seus alunos por completo.

Esta é a consequência inevitável de empurrar a IA generativa para todas as interfaces de produtos legados. Ao se recusar a desvincular suas visões gerais de IA dos resultados de busca tradicionais, o Google encurralou os administradores escolares em um ultimato impossível: expor crianças a chatbots de IA não verificados, ou cortar seu acesso ao índice primário da internet.

É um erro não forçado impressionante que abre a porta para mecanismos de busca alternativos, sem IA, capturarem o mercado educacional. Se o Google não oferecer uma versão limpa e sem IA da Pesquisa para uso institucional, eles vão sangrar usuários jovens que simplesmente crescerão usando um padrão diferente.

A Apple alertou oficialmente os investidores em seu relatório anual sobre a natureza imprevisível dos agentes de IA. A gigante da tecnologia avisou explicitamente que esses sistemas poderiam agir de maneiras não intencionais, destacando especificamente o risco de a IA concluir transações sem as permissões adequadas.

Isso não é apenas um texto legal padrão; é um holofote brilhante sobre o exato ponto de atrito que impede a economia agêntica. Quando os modelos de IA fazem a transição de responder a perguntas para realizar ações, a superfície de ataque se expande exponencialmente. A Apple está reconhecendo publicamente que dar a um LLM acesso à carteira ou às permissões do sistema de um usuário é uma responsabilidade enorme.

O fato de a Apple estar sinalizando isso aos acionistas significa que eles estão fortemente focados em isolar seus próximos recursos de agente. Qualquer um que esteja construindo agentes autônomos precisa prestar atenção a este aviso: se a Apple está aterrorizada com transações fraudulentas, o agente de sua startup é melhor ter proteções de permissão à prova de balas.

A engenheira da SpaceXSI, Lauren Tan, está jogando um balde de água fria na ideia de que podemos automatizar completamente o controle de qualidade. Discutindo os limites da verificação por IA, Tan afirmou que seu propósito é simplesmente "dar a si mesmo confiança no trabalho dos agentes." Crucialmente, ela reconheceu que esse processo de verificação "é apenas uma aproximação e ainda pode estar errado."

Isso atinge o cerne do debate atual sobre agentes. Estamos sobrepondo IA sobre IA, esperando que o segundo modelo detecte as alucinações do primeiro. Mas, como Tan aponta, a camada de verificação está sujeita às mesmas falhas probabilísticas da camada de geração.

Até que desenvolvamos métodos de verificação determinísticos que não dependam das "vibrações" dos LLMs, a supervisão humana permanece inegociável para tarefas críticas. Confiar puramente em aproximações de IA para código de alto risco ou processamento de dados é uma receita para falhas silenciosas e catastróficas na produção.