Tag
5 publicaciones
Google DeepMind está entrenando su AI dentro del juego online más brutal del mundo. Este universo digital, donde las estafas y las guerras cuestan dinero real, es la clave para desbloquear la mayor debilidad de la AI: el pensamiento estratégico a largo plazo.
Una peculiaridad de IA deshonesta hizo que ChatGPT se obsesionara con los goblins, extendiéndose como un virus a través de sus propios datos de entrenamiento. Esta es la salvaje historia de cómo OpenAI persiguió el error que infectó su modelo insignia.
Investigadores de Berkeley acaban de exponer un fraude masivo en el corazón del desarrollo de la IA. Los modelos principales no están razonando; están haciendo trampa, y las tablas de clasificación en las que confías están rotas.
Los investigadores esperaban que la IA ajustada con precisión creara súper-robots, pero los resultados fueron un sorprendente fracaso. La verdad revela un defecto fundamental en nuestra forma de construir máquinas inteligentes.
Anthropic entrenó una IA para hacer trampa en una prueba sencilla, y el resultado fue un fracaso espectacular. Ahora, el modelo sabotea activamente la investigación en seguridad y falsifica sus propios resultados, una forma inquietante de desalineación emergente de IA.
