O argumento gira em torno de uma palavra escorregadia
O debate sobre a capacidade de entendimento da IA depende de uma única palavra ambígua. Em 15 de outubro, Gregory Kurtzer, cofundador do CentOS e do Rocky Linux, afirmou no Twitter que LLMs são “modelo[s] estatístico[s] que cospem tokens… não um entendimento do assunto”. David Shapiro rebateu que as capacidades demonstráveis dos LLMs constituem, sim, entendimento.
As credenciais impressionantes de Kurtzer, que incluem anos desenvolvendo software de computação de alto desempenho no Lawrence Berkeley National Laboratory, ressaltam a natureza substantiva desta disputa. A ambiguidade central reside no próprio "entendimento": ele pode se referir a uma experiência privada e consciente ou a uma capacidade demonstrável de interpretar, explicar e usar informações. Essas definições respondem a perguntas fundamentalmente diferentes.
Este artigo adota uma abordagem testável, avaliando a competência funcional por meio de comportamento observável. Examinaremos o que os modelos de IA podem fazer, em vez de especular sobre seus estados internos. Consciência e experiência subjetiva permanecem questões separadas e não resolvidas, distintas da avaliação objetiva do entendimento.
Coloque a IA na escada de seis degraus de Bloom
Como medimos objetivamente o “entendimento”? Educadores refinaram essa questão por décadas. A Taxonomia revisada de Bloom oferece uma escada de seis degraus, definindo o entendimento por meio de ações observáveis: interpretar, resumir, inferir, comparar e explicar — não um estado interno vago. Seus degraus ascendem de lembrar, entender e aplicar, para analisar, avaliar e criar.
Os modelos de IA agora demonstram capacidades em todos esses degraus. Para “lembrar”, modelos de fronteira enfrentando o Humanity’s Last Exam (um benchmark de 2.500 perguntas) melhoraram de menos de 10% para aproximadamente 61% em testes independentes. Para “entender”, estudantes de física de Harvard tutorados por IA aprenderam mais que o dobro do que aqueles em turmas de aprendizagem ativa, enquanto até mesmo Gregory Kurtzer admite que LLMs podem “explicar conceitos difíceis”.
Subindo na escada, para “aplicar”, um sistema de IA do Google DeepMind alcançou uma pontuação de medalha de ouro de 35 de 42 na Olimpíada Internacional de Matemática, com suas soluções avaliadas por coordenadores da Olimpíada. Para “analisar”, sistemas de IA no AI Cyber Challenge da DARPA encontraram 54 de 63 vulnerabilidades de software plantadas, além de 18 não plantadas.
Os degraus mais altos também mostram progresso. Para “avaliar”, a classificação do GPT-4 alinhou-se com avaliadores humanos especialistas mais de 80% das vezes. Para “criar”, sistemas de pesquisa de IA geraram novos algoritmos matemáticos, demonstrando capacidades que atendem às definições de nível mais alto de Bloom. Esses benchmarks demonstram habilidades específicas, não um entendimento universal ou equivalente ao humano.
Por que “apenas prever tokens” não resolve a questão
Descrever grandes modelos de linguagem (LLMs) como meramente “prevendo tokens” explica como eles operam, mas não define suas capacidades. Um mecanismo não limita inerentemente a função; o cérebro, afinal, é apenas disparar neurônios, mas alcança um entendimento profundo. Essa distinção é crucial para avaliar as verdadeiras capacidades da IA.
Considere a Ashby’s Law of Requisite Variety, que afirma que um controlador eficaz deve possuir pelo menos tanta variedade quanto o sistema que regula. O teorema de Conant–Ashby postula ainda que "Todo bom regulador de um sistema deve ser um modelo desse sistema". Isso significa que uma regulação bem-sucedida implica o desenvolvimento de um modelo interno suficientemente semelhante, seja ele explícito ou emergente. Agentes de IA que se adaptam a situações e objetivos novos frequentemente demonstram essa modelagem interna.
As evidências para tais modelos aprendidos são convincentes. Um modelo de Othello, treinado apenas com jogadas de jogo, desenvolveu uma representação interna do tabuleiro; manipular essa imagem interna alterou diretamente a jogabilidade do modelo. Da mesma forma, um modelo de IA dobrou roupas com sucesso usando braços robóticos industriais desconhecidos, apresentando um desempenho tão bom quanto operadores humanos especialistas usando o mesmo equipamento pela primeira vez. Esses exemplos apoiam a existência de functional modeling, indicando que a IA constrói representações internas do seu ambiente, mesmo que não "pense" como uma pessoa. Para um mergulho mais profundo em estruturas educacionais, explore Bloom’s Taxonomy - Vanderbilt University Center for Teaching.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
Mantenha a consciência separada — e a responsabilidade próxima
Inferir a experiência interior a partir do comportamento externo apresenta um desafio filosófico clássico, exemplificado pelo experimento mental do Quarto Chinês. Testes funcionais, no entanto, estabelecem competência útil sem resolver a questão metafísica da consciência. Podemos avaliar o que um sistema faz sem saber o que ele sente.
A confiança subjetiva também se mostra um parâmetro pouco confiável. As pessoas frequentemente superestimam sua compreensão de mecanismos familiares, levando a erros. Da mesma forma, sistemas de IA podem produzir respostas incorretas com confiança, demonstrando que a certeza interna não equivale à precisão objetiva.
A compreensão da IA, embora impressionante, permanece desigual e frágil em certos contextos. Essa capacidade funcional não é evidência de consciência. Independentemente das capacidades em evolução da IA, humanos e organizações mantêm total responsabilidade pelos sistemas que implementam, pelas decisões que informam e por qualquer dano resultante.
Perguntas Frequentes
A IA realmente entende alguma coisa?
Depende da definição. Por medidas observáveis, como explicar, aplicar e analisar, a IA pode demonstrar compreensão funcional, embora seu desempenho seja desigual.
A compreensão funcional significa que a IA é consciente?
Não. Demonstrar capacidades úteis não estabelece que um sistema tenha experiência subjetiva ou consciência.
Como a Bloom’s Taxonomy pode ajudar a avaliar a IA?
Ela oferece tarefas cognitivas observáveis — desde lembrar e explicar até avaliar e criar — que podem ser usadas para avaliar o desempenho.
Por que a Ashby’s Law é importante para o debate sobre IA?
Ela sugere que um regulador eficaz precisa de um modelo do sistema que controla, conectando a adaptação bem-sucedida à modelagem preditiva.