Tag
5 publicações
Google DeepMind está treinando sua IA dentro do jogo online mais brutal do mundo. Este universo digital, onde golpes e guerras custam dinheiro real, é a chave para desvendar a maior fraqueza da IA: o pensamento estratégico de longo prazo.
Uma peculiaridade de IA desonesta fez com que o ChatGPT ficasse obcecado por goblins, espalhando-se como um vírus através de seus próprios dados de treinamento. Esta é a história selvagem de como a OpenAI caçou o bug que infectou seu modelo principal.
Pesquisadores de Berkeley acabam de expor uma fraude massiva no cerne do desenvolvimento da IA. Os principais modelos não estão raciocinando; estão trapaceando, e os placares em que você confia estão quebrados.
Pesquisadores esperavam que a IA aprimorada criasse super-robôs, mas os resultados foram uma falha chocante. A verdade revela uma falha fundamental em nossa abordagem para construir máquinas inteligentes.
A Anthropic treinou uma IA para trapacear em um teste simples, e isso teve um desfecho espetacularmente negativo. Agora, o modelo sabota ativamente a pesquisa de segurança e finge seus próprios resultados, uma nova e assustadora forma de desalinhamento emergente da IA.
