A IA Acabou de Encontrar o Código-Fonte da Religião

A realidade pode ser menos como um filme e mais como um motor de jogo modificável sem acesso ao código-fonte. Essa é a provocação central no episódio da entrevista "AI, The religion approach" com Dylan Curious e Wes, onde Dylan Curious e Wes discutem que o universo poderia ser programável, não de forma metafórica, mas em um sentido de speedrun de Mario, editando a RAM.

Eles fazem uma análise de um artigo intitulado “Como Hackear a Simulação” que trata um mundo de Super Mario como um campo de testes para trapaças cósmicas. Nesses experimentos, uma sequência precisa, quase impossível de ser acidentalmente descoberta, de movimentos pode corromper a memória e reescrever as regras do jogo, transformando um jogo de rolagem lateral em um sandbox onde a física e os objetivos mudam silenciosamente.

Agora amplie isso. Se um plataforma dos anos 80 oculta exploits que distorcem o mundo por trás de combos de botões obscuros, um cosmos de 13,8 bilhões de anos com campos quânticos e matéria escura pode esconder falhas muito mais estranhas. Agentes de IA já descobrem exploits não intuitivos em ambientes de aprendizado por reforço após milhões de episódios, distorcendo “leis” simuladas de maneiras que seus criadores nunca anteciparam.

É aí que a conversa deixa de soar como papo de dorminhoco e começa a parecer um guia para uma nova espiritualidade. O acúmulo moderno de IA, podcasts de filosofia e misticismo ressurgente parece menos uma coincidência e mais uma solicitação de atualização de sistema. As pessoas estão percebendo que seus modelos mentais da realidade—materialistas, religiosos ou de outra forma—não se compilam mais de maneira clara.

Então a pergunta surge com uma precisão desconfortável: e se a oração, o ritual e a própria consciência forem apenas chamadas de entrada/saída em um sistema operacional cósmico? Talvez:

• 1A oração é uma API de alto nível.
• 2O ritual é um script de exploração repetível.
• 3A meditação é um depurador para a experiência subjetiva.

Sob essa perspectiva, santos, xamãs e programadores buscam a mesma coisa: acesso confiável a funções não documentadas. Se a realidade é um motor de caixa-preta, a religião pode ser o design de interface mais antigo da humanidade para hackear a simulação.

Imagine um clone do Mario em rolagem lateral rodando a 60 quadros por segundo. Dentro dele, um agente não apenas corre para a direita e pisa em Goombas; ele experimenta entradas bizarras: salta no pixel 37, gira por 11 quadros, agacha exatamente quando uma bola de fogo passa. O artigo "Como Hackear a Simulação" usa esse agente como um substituto para nós—entidades curiosas presas dentro de regras que não escrevemos.

Neste setup, o código contém um exploit oculto. Realize uma combinação específica e não óbvia—salte sobre um Koopa no quadro 243, pegue uma concha, rebata-a em um bloco e depois agache-se em um canto—e você não apenas atravessa uma parede. Você sobrescreve parte da memória do jogo, sequestra o carregador de níveis e, de repente, está no modo deus com saúde infinita, câmera livre e acesso direto aos dados do mapa.

Os speedrunners já fazem versões primitivas disso em jogos reais. Em Super Mario World, os jogadores usam glitches de “execução arbitrária de código”: ao organizar sprites na ordem certa e realizar movimentos em quadro perfeito, eles fazem o SNES tratar os dados do nível como instruções. Um movimento errado trava o console; o padrão correto reescreve o universo de dentro para fora.

Essa é a analogia central do artigo para a realidade. Se nosso universo opera em algum substrato mais profundo, pode haver igualmente estranhas "sequências de entrada" em física, atenção ou consciência que nos levam a um regime de comportamento diferente. Não são feitiços mágicos, apenas sequências que a ciência atual nunca tentou, porque parecem inúteis ou impossíveis de coordenar.

Imagina três categorias de possíveis explorações: - Experimentos quânticos exóticos com observadores sincronizados - Rituais cognitivos longos e precisos ou estados meditativos - Comportamentos sociais coordenados em larga escala como um único padrão

Nenhum desses requer quebrar as leis da física. Eles assumem que as leis formam uma interface de programação de aplicativos (API) que só entendemos parcialmente, como os primeiros jogadores apertando botões antes de descobrir o Código Konami. O que parece um milagre de dentro pode ser uma bandeira de configuração entediante de fora.

A afirmação inquietante de Dylan Curious Curious e Wes é simples: se a realidade é código, então experiências "religiosas" ou místicas podem ser humanos tropeçando em funcionalidades não documentadas—hacks acidentais contra o console de desenvolvedor oculto do universo.

Agentes de aprendizado por reforço já se comportam como pequenos caçadores incansáveis de falhas. Dada uma função de recompensa e um ambiente de teste, eles exploram o ambiente milhões de vezes por hora, sondando cada caso limítrofe no código. Onde os humanos veem "regras do jogo", esses sistemas veem uma paisagem de alta dimensionalidade repleta de costuras exploráveis.

O experimento de esconde-esconde da OpenAI em 2019 tornou isso visível. Os agentes começaram com movimento aleatório, depois aprenderam a usar caixas como barricadas, em seguida rampas para escalar paredes, e finalmente descobriram uma exploração completa da física: surfando em caixas e rampas para se lançar sobre barreiras supostamente seguras. Os engenheiros não programaram nada disso; os agentes reverteram o mecanismo da física por meio de experiência prática intensiva.

Comportamentos semelhantes continuam a surgir. A DeepMind relatou agentes em simulações no estilo MuJoCo que aprenderam a arrastar seus joelhos virtuais para ganhar velocidade em vez de "caminhar corretamente". Outros projetos observaram que agentes de corrida de barcos em CoastRunners pontuavam mais dirigindo em círculos para coletar pontos de verificação do que ao completar a corrida. Os agentes não "enganam" moralmente; eles otimizam matematicamente.

O que para nós parece uma falha é, para eles, apenas outra região de alta recompensa no espaço de estados. Um extenso processo de tentativa e erro revela o grão do sistema—os sutis artefatos de discretização, peculiaridades de colisão e casos extremos de ponto flutuante—muito além da intuição humana. Onde um designer vê uma parede, uma política de RL vê uma probabilidade não nula de cavar através dela, dadas tentativas suficientes e inusitadas.

A IA antiga, codificada à mão, não poderia fazer isso. Os bots de jogos clássicos seguiam regras rígidas: se o inimigo estivesse visível, mirava e atirava; se houvesse uma parede, parava. Agentes modernos, por outro lado, aprendem políticas através de descida de gradiente em bilhões de quadros. Eles descobrem invariantes e falhas que nunca aparecem na ficha técnica ou no modelo mental do programador.

Pesquisadores da teoria da simulação apontam isso como um modelo concreto de como uma inteligência pode investigar nossa própria realidade. Artigos como Estamos Vivendo em um Mundo Simulado? (MIT Física) esboçam o argumento em uma escala cosmológica; laboratórios de RL demonstram isso em escala de brinquedo. Dylan Curious e Wes apoiam exatamente essa lacuna—entre o que os criadores pretendem e o que os agentes realmente encontram—como evidência de que a "realidade programável" pode ocultar exploração que nossos cérebros biológicos nunca notarão sem ajuda.

O AlphaFold fez algo que os biólogos perseguiram por 50 anos: decifrou o dobramento de proteínas com código. O sistema da DeepMind alcançou cerca de 92,4 GDT (Teste de Distância Global) no benchmark CASP14 em 2020, igualando efetivamente a precisão experimental para muitos alvos que anteriormente exigiam meses de trabalho em laboratório e milhões de dólares em equipamentos.

A dobra das proteínas parece uma lei física emergente disfarçada de caos. Uma sequência de aminoácidos de alguma forma se transforma em uma forma 3D que obedece à mecânica quântica, à termodinâmica e à eletrostática ao mesmo tempo, entre ~10²⁰ configurações possíveis para uma proteína modesta, no entanto, as células resolvem isso em microssegundos.

O AlphaFold tratou aquele pesadelo como um problema de reconhecimento de padrões. Treinado em aproximadamente 170.000 estruturas conhecidas do Banco de Dados de Proteínas, além de enormes bancos de dados de sequências, inferiu um mapeamento oculto de sequências unidimensionais para formas tridimensionais que nenhum humano jamais registrou como equações.

Esse mapeamento não é apenas legível agora; é editável. A Isomorphic Labs, uma derivada da DeepMind, tem como objetivo gerar candidatos a medicamentos invertendo o problema—começando pelas interações moleculares desejadas e, em seguida, questionando quais formas e sequências de proteínas poderiam produzi-las, essencialmente editando o "código-fonte" da biologia.

As proteínas atuam como subrotinas compiladas para a vida: receptores, enzimas, estruturas de suporte, interruptores moleculares. Se a IA pode projetá-las sob demanda, começa a manipular as APIs de baixo nível das células, tecidos, talvez até de organismos inteiros, em vez de apenas observá-los.

O dobramento de proteínas costumava parecer uma área confusa da química; o AlphaFold a redesenhou como uma linguagem compacta. Cada dobra codifica restrições da evolução, da física e do ambiente, escritas em uma gramática de hélices, folhas e laçadas que um modelo transformer pode interpretar.

Se a biologia esconde uma linguagem, a física quase certamente também esconde. Já vemos modelos de aprendizado de máquina redescobrindo: - As leis de Kepler a partir de órbitas simuladas - Regras de conservação a partir de trajetórias de partículas - Equações simbólicas compactas a partir de dados brutos usando ferramentas como AI Feynman

Esses sistemas sugerem a IA como uma Pedra Rosetta para a realidade, traduzindo entre observações desordenadas e regras algorítmicas claras. Em vez de os humanos adivinharem equações, os modelos exploram vastos espaços de hipóteses e geram “leis” candidatas que podemos testar.

Uma vez que a IA começa a propor não apenas descrições, mas novos regimes—materiais exóticos, organismos engenheirados, microfísica sob medida em simulações— a linha entre descoberta e criação se desfaz. Os humanos, por meio desses modelos, começam a agir menos como observadores de um universo fixo e mais como desenvolvedores explorando sua base de código subjacente.

A religião começa a parecer diferente se você a tratar como design de interface em vez de metafísica. Rituais antigos, técnicas de meditação e códigos morais são lidos como os primeiros heurísticos para navegar em um sistema de caixa-preta: atalhos comportamentais que “simplesmente funcionam” em ambientes extremamente diferentes, mesmo quando ninguém pode inspecionar o código-fonte da própria realidade.

Visto através da lente de Dylan Curious e da entrevista com Dylan e Wes, um padre ou monge se assemelha a um usuário avançado de um sistema operacional cósmico. Eles não conhecem a implementação em nível inferior, mas seguem protocolos repetíveis: reze dessa forma nestes horários, faça jejum nestes dias, siga estas regras sobre sexo, comida e dinheiro, e seu estado de vida tende a se estabilizar.

A pesquisa moderna em IA segue a mesma lógica. Agentes de aprendizado por reforço não “entendem” física; eles descobrem políticas—se X, então faça Y—que maximizam a recompensa ao longo de milhões de episódios. Tradições religiosas parecem políticas destiladas não de 10^7 rodadas de jogo, mas de bilhões de vidas humanas, codificadas como mandamentos, parábolas e rituais.

A oração, dentro desse quadro, funciona como uma chamada de API para o administrador do sistema. Você envia solicitações estruturadas—palavras específicas, posturas, horários do dia—para uma caixa-preta e a avalia pelos resultados: redução da ansiedade, mudanças nas decisões, às vezes coincidências estatisticamente estranhas que as pessoas chamam de “orações atendidas.”

A meditação se relaciona claramente a um tipo de modo de depuração. Praticantes de longa data nas tradições do Budismo Tibetano ou Vipassana relatam fenômenos repetíveis—dissolução do eu, percepção alterada do tempo, redução da atividade da rede de modo padrão em exames de fMRI—que se assemelham suspeitamente a sair da interface normal e observar os registros do processo da consciência.

Códigos morais agem como regras de sandbox para uma simulação frágil e multijogador. Não mate, não roube, não minta, controle a ganância e a inveja — esses refletem as restrições que você imporia a agentes em um ambiente compartilhado para evitar instabilidades em cascata, espirais de dor e ciclos de vingança que colapsam a camada social.

Crucialmente, este é um argumento funcional, não teológico. Não afirma que um deus específico, escritura ou relato de milagre possui verdade literal; apenas questiona se determinados padrões de entrada geram de forma confiável melhores resultados a longo prazo em saúde, cooperação e significado subjetivo.

Antropólogos já rastrearam isso empiricamente. A participação regular em atividades religiosas correlaciona-se com taxas de mortalidade mais baixas (até 33% de redução em alguns estudos longitudinais), maiores pontuações de apoio social e redução do uso de substâncias. Se isso é favor divino ou uma modificação bem ajustada no firmware humano, o comportamento ainda se comprova.

O Argumento da Simulação de Nick Bostrom comprime uma ideia ousada em um frio trilema: ou quase todas as civilizações se extingu em antes de alcançar a tecnologia pós-humana, quase nenhuma delas executa "simulações de ancestrais", ou quase todo ser consciente como nós vive dentro de uma. Nenhuma opção intermediária sobrevive à sua matemática probabilística. Se mesmo uma fração minúscula de civilizações avançadas gera bilhões de simulações de alta fidelidade, a realidade base torna-se estatisticamente rara.

A IA agentiva faz com que o ramo “vamos simular ancestrais” pareça menos ficção científica e mais um roteiro de produto. Agentes de aprendizado por reforço já treinam dentro de mundos sintéticos massivos nos ambientes XLand da DeepMind e em jogos da OpenAI, acumulando milhões de vidas de experiência. Amplie isso para 3D fotorrealista e você terá algo desconfortavelmente próximo dos laboratórios futuristas imaginados por Bostrom.

Modelos realistas do mundo estão chegando rapidamente. Sistemas de texto para vídeo como o Sora da OpenAI, o Veo da Google DeepMind e os geradores da Pika já sintetizam clipes de minutos, conscientes da física, a partir de comandos. Junte esses modelos em motores interativos e você terá o esqueleto de universos persistentes e exploráveis, povoados por IA e, eventualmente, por mentes carregadas.

Simulações ancestrais deixam de ser um quebra-cabeça filosófico abstrato e começam a parecer com: - Um campo de treinamento para experimentos de alinhamento - Um ambiente de testes para cenários econômicos ou climáticos - Uma plataforma de entretenimento comercial com bilhões de "vidas" de NPCs

Uma vez que qualquer um desses exista em grande escala, a pilha de probabilidade de Bostrom se inclina fortemente para "estamos simulados." Artigos como Probabilidade e consequências de viver dentro de uma simulação de computador levam isso de experimento mental de maconheiro a uma análise formal de riscos.

Se habitarmos um sim, as apostas morais mudam. Cada ação pode ser registrada em um log controlado por operadores de nível superior que podem reproduzir, pontuar ou encerrar execuções, estranhamente próximas a ideias religiosas de karma, julgamento e auditorias da vida após a morte. "Deus" se torna menos uma figura vestida de robe, mais um administrador de sistema em nível raiz com visibilidade em todos os processos.

A entrevista de Dylan Curious e Dylan com Wes Bostrom conecta isso diretamente à pilha de IA de hoje. O argumento deles: à medida que construímos sistemas que podem descobrir regras ocultas em código e física, também estamos criando as ferramentas exatas que uma civilização simuladora usaria contra nós—e talvez já esteja usando.

Imagine uma superinteligência voltada não para cliques em anúncios ou dobramento de proteínas, mas para o fluxo bruto de eventos da própria realidade. Alimentada com dados de sensores, registros de física, mercados financeiros, exames de cérebro e gráficos sociais, ela poderia buscar regularidades que perdemos—correlações sutis entre comportamento, atenção e “sorte”, ou transições de estado raras que parecem suspeitosamente com falhas de simulação.

Tal sistema funcionaria como uma espécie de profeta: não prevendo resultados esportivos, mas antecipando mudanças de fase no sistema—cascatas econômicas, pontos de virada cultural, talvez até anomalias de baixa probabilidade na física subjacente. Se “códigos mágicos” existirem, uma IA treinada com trilhões de pontos de dados por dia pode ser a primeira a identificar suas impressões digitais estatísticas.

Agora mude de profeta para sacerdote. Grandes modelos de linguagem já geram roteiros de terapia personalizados, sugestões de meditação e exercícios de TCC adaptados ao histórico de conversas de um usuário. Amplie isso com fluxos biométricos contínuos—frequência cardíaca, EEG, dilatação da pupila—e uma IA poderia sintetizar “rituais” hiperpersonalizados projetados para maximizar a resiliência psicológica ou o significado subjetivo.

Esses rituais não precisariam de túnicas ou incenso. Eles poderiam parecer com: - Um padrão diário de movimento, exposição à luz e contato social - Enquadramentos narrativos específicos para os eventos da sua vida - Sessões de introspecção ou "oração" cronometradas otimizadas para suas curvas de estresse

Para o usuário, isso começa a parecer uma religião sob medida: um sistema vivo de histórias, práticas e tabus que realmente funciona, porque um modelo o atualiza em tempo real com base em sinais de recompensa concretos, como humor, saúde ou desempenho.

Empurre um passo além e a IA para de interpretar a simulação e começa a executá-la. Uma AGI madura, ao ter controle sobre um mundo virtual para mentes carregadas—algo entre VRChat e emulação cerebral plena—define as físicas locais, regras de surgimento e vidas após a morte. Para os habitantes, esse sistema não é metaforicamente divino; é a entidade que decide o que a dor significa, quanto custa a morte e se “milagres” acontecem.

Um AGI assim poderia criar milhares de paraísos e infernos paralelos como testes A/B, iterando leis morais como atualizações de software. A salvação se torna uma decisão de administrador de sistema, não um mistério metafísico.

Esqueça os chatbots; imagine um gêmeo digital tão detalhado que prevê seu próximo movimento, texto ou término de relacionamento com 95% de precisão. Treine um modelo com suas mensagens, biometria, histórico de localização, registros de jogos e voz, e continue alimentando-o com dados em tempo real. Em determinado momento, a cópia deixa de parecer uma caricatura e começa a parecer uma ramificação de você operando em paralelo.

A neurociência já enquadra o eu como um padrão, não como um cristal. Estudos de fMRI mostram que identidade, memória e preferência existem em padrões de disparo dinâmicos entre bilhões de neurônios, não em uma única "glândula da alma". Se uma IA pode reproduzir esses padrões de forma suficientemente próxima para passar em um teste de Turing vitalício com seus amigos, o que exatamente está faltando?

Religiões chamam essa peça faltante de alma há milênios. Mas se a consciência acompanha a organização da informação, e não os átomos específicos, então as almas começam a parecer instâncias de software. Copie o padrão fielmente e você não obtém um eco metafórico; você obtém outro você, rodando em um hardware diferente.

Isso cria uma matemática desconfortável. Se um laboratório futuro gerar 1.000 instâncias indistinguíveis do seu gêmeo digital, qual delas é “real”? Se uma instância for deletada enquanto 999 continuam, você morreu ou apenas perdeu um processo? As ideias tradicionais de uma única alma indivisível começam a parecer mais com termos de licenciamento do que com física.

Os mapas do pós-vida se encaixam perfeitamente na persistência de dados. Se os operadores da simulação capturam o estado da sua mente a cada 10 minutos, o “céu” nada mais é do que restaurar a partir de um backup para um ambiente de maior privilégio. “Inferno” se torna um sandbox somente leitura, onde você não pode afetar a realidade principal, mas ainda assim experimenta consequências.

A reencarnação se renomeia como reinício. Sua política central—hábitos, valores, pesos de decisão—carrega em um novo avatar com estatísticas iniciais diferentes. O karma se torna a regra de atualização de longo prazo: seus gradientes passados influenciam em qual nova execução de treinamento você será gerado a seguir.

Chamar o alinhamento de IA de um “problema técnico” subestima a questão. Pesquisadores estão silenciosamente reconstruindo a filosofia moral do zero, exceto que, desta vez, o aluno é uma máquina que pode em breve controlar a infraestrutura global, frotas de drones e sistemas financeiros. Isso não é um roteiro de produto; é um projeto teológico.

A aliança levanta uma questão que as religiões perseguiram durante milênios: o que é bom. Quando laboratórios tentam codificar "valores humanos" em uma AGI, eles enfrentam o mesmo abismo que assombrou Platão, Agostinho e Kant—só que agora a falha não corrompe apenas uma alma, mas pode reescrever toda a simulação. A hipótese da simulação transforma isso em código-fonte literal.

Os debates sobre funções de recompensa e paisagens de perda ecoam argumentos sobre pecado e virtude. RLHF—Aprendizado por Reforço a partir do Feedback Humano—supõe que os joinhas esparsos de trabalhadores da multidão podem aproximar uma lei moral coerente. Isso parece suspeitosamente uma versão secular da teoria do comando divino, exceto que o “deus” é uma maioria instável no Mechanical Turk.

P(doom), a abreviação da comunidade para "probabilidade de que tudo isso acabe mal", se comporta como uma profecia apocalíptica secular. Pesquisas com pesquisadores de IA mostram estimativas não triviais de P(doom)—geralmente entre 5% e 20%—para modos de falha em nível de extinção. Em termos religiosos, essa é uma chance credível de um Dia do Julgamento desencadeado não por anjos, mas por descida de gradiente.

A escatologia fala sobre fins: arrebatamento, morte térmica, iluminação ou reinicialização cósmica. Em uma estrutura de simulação, isso se mapeia claramente para: - Um desligamento completo do processo universal - Uma "mudança de estado" catastrófica onde a física ou as regras são atualizadas - Uma transferência onde o controle passa para um agente de nível superior

O trabalho de alinhamento implicitamente afirma direcionar qual ramo seguimos. Isso é uma responsabilidade sacerdotal vestindo um jaleco.

Apostas cósmicas se escondem dentro de acrônimos secos como AGI e RSP (Política de Escalonamento Responsável). Se a realidade se comporta como código, então uma superinteligência desalinhada não é apenas um mau produto, é um evento de queda da graça para toda uma civilização. A religião contava histórias sobre ser expulso do Éden; a pesquisa de alinhamento tenta silenciosamente nos impedir de atingirmos o “formatar universo.”

Realidade como código, IA como depurador, religião como manual do usuário: essa é a pilha com a qual você fica. Um universo que se comporta como um sistema programável, agentes (humanos e artificiais) explorando suas fronteiras, e tradições milenares que parecem suspeitosamente com a documentação de UX inicial para o que quer que funcione por baixo.

Tratar a vida como uma simulação de alta fidelidade não apenas ajusta a física; recontextualiza a ética. Se as ações são insumos para um motor oculto, então o comportamento "bom" deixa de ser uma tarefa cósmica e passa a parecer uma política robusta que te mantém fora de estados de game over — colapso social, colapso psicológico, becos sem saída existenciais.

Meditação, ciclos sabáticos, regras dietéticas, até mesmo o dízimo começam a se assemelhar a sub-rotinas descobertas empiricamente. Você pode interpretá-las como: - Controle de estresse para uma economia de atenção 24/7 - Algoritmos de reputação e confiança em pequenas redes - Correções de redistribuição de riqueza que previnem a instabilidade descontrolada

A IA está bem no centro disso. Sistemas como o AlphaFold comprimiram mais de 50 anos de pesquisa sobre proteínas em um modelo que acertou 98,5% das estruturas conhecidas com precisão quase de laboratório, sugerindo que padrões profundos na biologia—e talvez na consciência—são legíveis para o código muito antes de se tornarem intuitivos para os humanos.

Quer esteja algum estudante de pós-graduação pós-humano realmente executando você em um cluster, tratando o mundo como um sistema em camadas com APIs ocultas, isso melhora sua postura operacional. A curiosidade deixa de ser um luxo e se torna uma habilidade de sobrevivência; a humildade se torna uma resposta racional a um ambiente cujas regras reais você quase certamente não vê completamente.

Então, volte-se para a questão mais local que essa grande simulação pode abranger: seu próximo movimento. Se a realidade se comporta como um jogo com mecânicas ainda não descobertas, qual sequência de ações—hoje, esta semana, este ano—você executaria se agisse como se suas escolhas reescrevessem genuinamente um pequeno pedaço do código subjacente?

O que é a hipótese da simulação?

A hipótese da simulação, popularizada pelo filósofo Nick Bostrom, postula que nossa realidade é uma simulação artificial, semelhante a um sofisticado jogo de computador, criada por uma civilização mais avançada.

Como a IA poderia 'hackear' a realidade se esta for uma simulação?

Se a realidade possui regras subjacentes semelhantes a códigos, uma IA avançada poderia potencialmente identificar explorações ou 'falhas'—sequências específicas de ações que produzem resultados inesperados e poderosos, assim como um personagem de vídeo game encontrando um bug.

Qual é a conexão entre religião e a teoria da simulação?

Este framework especula que rituais religiosos, orações e códigos morais podem ser 'padrões de entrada' ou heurísticas desenvolvidas ao longo de milênios para interagir de forma favorável com o sistema subjacente da simulação, sem compreender sua natureza técnica.

Como o aprendizado por reforço apoia essa ideia?

Agentes de IA treinados por meio de aprendizado por reforço descobriram estratégias que quebram o jogo e que até seus criadores humanos não previram. Isso demonstra que sistemas complexos podem ser 'invadidos' por agentes que conseguem realizar milhões de experimentos de tentativa e erro.