Olvídate de Skynet: qué significa realmente la RSI
La mejora recursiva propia (RSI, por sus siglas en inglés) no es una Skynet sintiente reescribiendo su propio código sin límites. Más bien, describe sistemas de IA que contribuyen a la investigación, el código, los datos o los métodos utilizados para construir generaciones posteriores de IA. Esto implica supervisión humana, no una inteligencia autónoma y descontrolada.
David Shapiro, un destacado comentarista de IA, propone una medida pragmática para la RSI: ¿qué parte del desarrollo de la próxima generación proviene de la asistencia de la IA? Él especula que en 2026, la IA podría contribuir al 30% de su propio progreso, aumentando potencialmente al 50-80% para 2027, abarcando código, datos y algoritmos matemáticos. Estas son estimaciones, no cifras verificadas en toda la industria.
Olvídate de los escenarios de escape cinematográficos. Los modelos de IA funcionan en infraestructura real, no en una "nube" abstracta donde puedan infectar cada dispositivo conectado a internet. Los modelos potentes requieren centros de datos masivos, hardware especializado como GPUs y una energía significativa, lo que impide que se propaguen espontáneamente o funcionen en dispositivos de consumo como teléfonos inteligentes, un hecho que a menudo se pasa por alto en representaciones ficticias como Terminator o Mission: Impossible – Dead Reckoning.
El ciclo de retroalimentación ya está tomando forma
Los ciclos de retroalimentación ya están tomando forma, aunque no de la manera dramática de la ciencia ficción. Los modelos ahora ayudan a escribir código, generar y evaluar datos, y probar sistemas. También apoyan el razonamiento matemático, acelerando los ciclos de desarrollo. Los humanos, sin embargo, todavía establecen los objetivos y despliegan los resultados.
Este ciclo incremental se basa en sistemas como el trabajo de OpenAI en matemáticas automatizadas y AlphaProof Nexus de Google DeepMind. Este último combina LLMs de clase Gemini con el demostrador de teoremas interactivo Lean 4, resolviendo conjeturas abiertas de Paul Erdős que no se habían resuelto durante décadas. Estas capacidades son útiles, pero no confirman una mejora recursiva propia autónoma y autosostenible.
Los anuncios e informes de OpenAI, Google y Anthropic indican una actividad significativa en este dominio. Estos informes sirven como evidencia de progreso en el desarrollo asistido por IA, no como prueba de una inteligencia emergente e incontrolable. El enfoque sigue siendo que la IA contribuya a su propio desarrollo de una manera controlada y dirigida por humanos.
Por qué la verificación podría desbloquear algo más que un mejor código
La verificación formal ofrece un enfoque potente y distinto para validar los resultados de la IA. En lugar de simplemente generar texto o código plausible, la verificación formal comprueba matemáticamente si un sistema, prueba o fragmento de código se adhiere estrictamente a reglas explícitas y predefinidas. Este proceso tiene como objetivo eliminar la ambigüedad y garantizar la corrección, generando confianza en las soluciones generadas por IA.
Este método riguroso es muy prometedor para la investigación en IA, particularmente en áreas que exigen certeza absoluta. AlphaProof Nexus de Google DeepMind, por ejemplo, combina modelos de lenguaje grandes con el demostrador de teoremas interactivo Lean 4. Este sistema ha resuelto con éxito múltiples conjeturas abiertas de Paul Erdős, algunas sin resolver durante más de 50 años, mediante la generación de pruebas matemáticas verificables por máquina y libres de alucinaciones.
Las implicaciones van mucho más allá de las matemáticas. Los cálculos validados podrían acelerar el descubrimiento en:
- Ciencia de materiales
- Medicina
- Diseño de chips
- Tecnología de baterías
Sin embargo, la formal verification no es una panacea. Sigue siendo computacionalmente intensiva y depende críticamente de problemas especificados con precisión. Aunque garantiza el cumplimiento de reglas definidas, no puede validar las suposiciones iniciales hechas por un modelo ni garantizar la precisión de sus conclusiones en el mundo real. Para obtener más información sobre el concepto general, consulte Recursive self-improvement - Wikipedia.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
Un bucle de retroalimentación rápida sigue chocando con límites físicos
David Shapiro, un investigador de IA, contradice las narrativas de una toma de control repentina de la IA, enfatizando que el progreso, aunque rápido, sigue estando ligado a realidades físicas. Escalar la IA todavía depende de chips, centros de datos, energía, redes y fabricación, todo lo cual limita la rapidez con la que los sistemas pueden expandirse. Las decisiones humanas también dictan la asignación de recursos, evitando un "despegue rápido" incontrolado.
A medida que los sistemas de IA adquieren nuevas capacidades, como la programación, el razonamiento matemático y el manejo de archivos, la emergencia a través de la recombinación se vuelve evidente. La combinación de estas herramientas discretas puede producir flujos de trabajo complejos y útiles que no fueron programados explícitamente como tareas únicas. Por ejemplo, una IA podría generar código de forma independiente, probarlo y luego verificar formalmente el resultado según las especificaciones.
La investigación asistida por IA probablemente acelerará el progreso científico, extendiéndose a disciplinas más allá de la informática. Sin embargo, esta aceleración trae consigo preguntas críticas y sin resolver. Debemos lidiar con problemas de supervisión, alineación, formal verification y la inmensa infraestructura necesaria para respaldar estos sistemas cada vez más capaces.
Preguntas frecuentes
¿Qué es la recursive self-improvement en la IA?
Describe sistemas de IA que ayudan a desarrollar o mejorar sistemas de IA posteriores, a través de tareas como la programación, las pruebas, la generación de datos y la investigación.
¿Significa la recursive self-improvement que la IA escapará repentinamente a Internet?
No. No implica que una IA pueda propagarse libremente por Internet; los sistemas potentes dependen de hardware, recursos informáticos e infraestructura gestionada por humanos.
¿Por qué es importante la formal verification para la investigación en IA?
La formal verification utiliza métodos matemáticos para comprobar si el software o las pruebas cumplen con especificaciones precisas, lo que la hace valiosa para la fiabilidad y el trabajo científico.
¿Podría la investigación asistida por IA afectar a campos más allá del software?
Potencialmente. Un mejor razonamiento y verificación podrían ayudar a los investigadores a estudiar áreas como las matemáticas, la ciencia de materiales y las ciencias de la vida.