O fantasma gerado por IA na máquina
A IA agora está forjando vulnerabilidades críticas, e as implicações são assustadoras. O cenário digital enfrenta uma nova e insidiosa ameaça: um fantasma gerado por IA na máquina, projetado para enganar e interromper.
A equipe de segurança da JFrog descobriu recentemente uma tendência perturbadora: 54 vulnerabilidades SQLite fabricadas provenientes de uma única conta nova no GitHub. Uma auditoria de 55 avisos desta fonte revelou apenas um bug legítimo; os outros eram pura ficção. Curiosamente, a análise do GPTZero sinalizou esses avisos como conteúdo inequivocamente gerado por IA.
Examine a anatomia de um desses fantasmas, CVE-2026-51302. O aviso alegava uma vulnerabilidade de heap use-after-free na função exprComputeOperands dentro do SQLite 3.41. No entanto, a investigação da JFrog confirmou que exprComputeOperands não existia nessa versão, mas apenas apareceu em meados de 2025. Este não foi um incidente isolado; em seis avisos, a JFrog encontrou padrões consistentes de funções citadas que não existem, números de linha excedendo os limites do arquivo e patches que nunca ocorreram.
Surpreendentemente, essa fabricação descarada ainda recebeu uma pontuação de severidade inicial 9.8 'Crítica' da Red Hat. Essa classificação de alto risco disparou alertas no mundo real em todas as organizações, demonstrando como um fantasma sofisticado gerado por IA pode passar facilmente pelos guardiões iniciais. O incidente ressalta uma nova fronteira perigosa onde a IA pode transformar informações em armas, criando ameaças com aparência credível que exigem atenção imediata, mas que acaba sendo desperdiçada.
Como as falsificações se infiltram em bancos de dados oficiais
O calcanhar de Aquiles do sistema agora está exposto, escancarado para exploração. Desde fevereiro de 2024, o NVD do NIST (National Vulnerability Database) interrompeu a análise profunda de submissões, sobrecarregado por um acúmulo impressionante. Essa falha crítica significa que mais de 27.000 vulnerabilidades não processadas são esperadas até o final de 2025, um aumento drástico em relação às 13.000 de fevereiro de 2024, com o próprio programa de enriquecimento da CISA também se afogando em suas próprias filas.
Agravando essa falha sistêmica, o próprio processo de submissão de CVE não oferece praticamente nenhum controle. Não requer verificação de identidade nem qualquer prova de conceito para aceitar uma vulnerabilidade. Essa política de portas abertas oferece um caminho sem atrito para qualquer pessoa—ou qualquer coisa—injetar alegações diretamente na infraestrutura de segurança global, sem perguntas.
Isso cria uma tempestade perfeita, um alinhamento catastrófico de vulnerabilidades sistêmicas. Um enorme acúmulo de análise no banco de dados oficial, juntamente com um portal de submissão que exige zero escrutínio, significa que "slop" gerado por IA de baixo esforço agora desliza sem esforço para os mesmos bancos de dados dos quais as ferramentas de segurança em todo o mundo dependem. As defesas automatizadas agora estão encarregadas de filtrar o ruído sintético, potencialmente procurando por funções inexistentes ou tentando corrigir códigos que nunca foram quebrados.
Seu agente de segurança de IA está sendo enganado
As organizações que dependem de agentes de segurança de IA para triagem automatizada de vulnerabilidades agora enfrentam uma nova ameaça insidiosa. Essas ferramentas sofisticadas, projetadas para identificar e corrigir fraquezas proativamente, estão sendo enganadas pela própria IA que gera CVEs falsos. Em vez de proteger os sistemas, seus agentes podem ser transformados em armas contra si mesmos, desperdiçando recursos em ameaças fantasmas.
Imagine um agente autônomo tentando corrigir a CVE-2026-51302, uma vulnerabilidade fabricada no SQLite inicialmente classificada como crítica pela Red Hat. Ele esgotaria ciclos de computação tentando localizar a função inexistente exprComputeOperands no SQLite 3.41, ou tentando consertar um código que nunca esteve quebrado. Este não é apenas um problema teórico; a auditoria da JFrog revelou 54 avisos fabricados de um total de 55 de uma única conta do GitHub, todos projetados para enviar agentes nessas buscas inúteis.
A assimetria deste problema é impressionante. Criar uma CVE falsa convincente gerada por IA é praticamente gratuito, custando alguns centavos de computação. No entanto, verificar e desmentir isso exige um esforço humano especializado significativo — revisão de código minuciosa, referências cruzadas e análise independente. Isso cria um fardo insustentável para as equipes de segurança, afogando-as em um mar de ruído gerado por IA. Para insights mais profundos sobre este fenômeno, leia SQLite Critical CVEs or LLM Slop? - JFrog Security Research.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
As Novas Regras de Triagem de Vulnerabilidades
A era da confiança implícita em feeds públicos de vulnerabilidades acabou. As equipes de segurança agora devem operar sob um novo princípio fundamental: nunca confie, sempre verifique. Antes de mobilizar qualquer resposta a uma CVE crítica, faça uma referência cruzada imediata com a página de segurança oficial do fornecedor. Este passo crucial separa ameaças legítimas de fantasmas gerados por IA.
Isso não é uma mera sugestão; é um mandato nascido de falhas sistêmicas. O acúmulo no NIST NVD, que no final de 2025 aumentou para mais de 27.000 vulnerabilidades não processadas, criou um ambiente propício para o engano. Um sistema de submissão que carece de verificação de identidade ou prova de conceito permite que avisos fabricados passem direto.
O consenso da indústria agora se afasta drasticamente de AI agents totalmente automatizados para triagem de vulnerabilidades. O futuro exige modelos híbridos, onde especialistas humanos validam ameaças detectadas por IA, atuando como o filtro crítico contra o engano digital sofisticado que pode atribuir uma pontuação crítica de 9.8 a um código inexistente.
O 'lixo' gerado por IA degradará cada vez mais a relação sinal-ruído nos feeds públicos, forçando as organizações a adaptarem sua postura de segurança. Assuma que cada novo relatório é potencialmente falso até que se prove o contrário, e priorize ameaças confirmadas pelo fornecedor acima de tudo. Suas operações de segurança devem se tornar inerentemente céticas, investindo na experiência humana que pode diferenciar ameaças genuínas de fantasmas fabricados por IA. O custo da verificação agora empalidece em comparação com o custo operacional de ser enganado.
Perguntas Frequentes
O que são CVEs falsas geradas por IA?
São relatórios de vulnerabilidade fabricados criados por IA para imitar falhas de segurança reais. Essas falsificações geralmente contêm detalhes técnicos que parecem plausíveis, mas são inteiramente falsos, projetados para serem aceitos em bancos de dados oficiais.
Como uma CVE falsa obteve uma pontuação crítica de 9.8?
O aviso falso foi submetido ao programa oficial de CVE. Devido a um enorme acúmulo, o NVD do NIST está realizando menos análises profundas, permitindo que relatórios não verificados sejam processados. Fornecedores downstream, como a Red Hat, atribuíram então uma pontuação inicial baseada nos dados falhos.
Por que as CVEs falsas são uma grande ameaça à segurança?
Elas enganam ferramentas de segurança automatizadas e equipes humanas, desperdiçando recursos críticos em ameaças inexistentes. Este cenário de 'o menino que gritou lobo' corrói a confiança e pode fazer com que as equipes percam vulnerabilidades reais.
Como você pode proteger sua organização contra CVEs falsas?
Sempre verifique CVEs críticas na página de aviso de segurança oficial do fornecedor antes de tomar qualquer medida. Implemente um processo de "human-in-the-loop" para validar alertas de sistemas automatizados e nunca confie cegamente em uma CVE.