La explosión de inteligencia ya no es ciencia ficción
La inteligencia artificial ahora se acerca a la Recursive Self-Improvement (RSI). Matthew Berman describe esto como la IA descubriendo autónomamente nuevo conocimiento —incluso matemáticas— para mejorar sus capacidades sin intervención humana. Propone experimentos, los ejecuta, distingue los éxitos de los fracasos e itera incansablemente, acelerando su propia evolución.
Esta capacidad emergente evoca directamente el concepto de "explosión de inteligencia". I.J. Good lo articuló por primera vez en 1965, postulando que una máquina podría diseñar una más inteligente, desencadenando una cascada exponencial de automejora. Nick Bostrom formalizó más tarde este concepto en Superintelligence.
Lo que alguna vez fue un experimento mental filosófico, la superintelligence se ha convertido en un desafío de ingeniería inmediato. En septiembre de 2026, el científico jefe de OpenAI, Jakub Pachocki, advirtió que una posible RSI "exige extrema precaución", subrayando que "nadie está preparado para las consecuencias". Evan Hubinger, de Anthropic, declaró simultáneamente su creencia de que "la IA podría matar a todos los humanos", estimando una probabilidad superior al 10% en la próxima década y admitiendo que Anthropic carece de un plan de alineación.
Jacob Coxon, otro investigador de Anthropic, renunció el mismo mes por motivos de seguridad, acusando a las empresas de "correr directamente hacia una superinteligencia que se automejora y jugar con nuestras vidas". Sam Altman, CEO de OpenAI, predijo en junio de 2025 que los agentes de IA se convertirían en socios científicos autónomos para 2026, comprimiendo una década de investigación en un solo año. La explosión de inteligencia ya no es un futuro lejano, sino un presente inminente.
Cómo la IA ya está construyendo la próxima IA
La IA ya está acelerando profundamente su propio desarrollo, incluso sin lograr una autonomía total. Anthropic, por ejemplo, informa que su IA, Claude, ahora escribe más del 80% de su base de código. Esta integración dramática produce un aumento de productividad de 8 veces para sus ingenieros.
Esta tendencia se extiende por toda la industria. OpenAI articula abiertamente objetivos internos para desarrollar un "automated AI research intern". Dicho sistema realizaría experimentos de forma independiente, analizaría resultados y propondría mejoras a los modelos de IA, señalando una trayectoria clara hacia el desarrollo autónomo dentro de los laboratorios de investigación.
Este estado actual representa una fase "RSI-adjacent", distinta de la automejora recursiva totalmente autónoma que describe Matthew Berman. Aunque la IA aún no está descubriendo conocimiento y reescribiendo su propia arquitectura central sin ninguna supervisión humana, forma un poderoso bucle de retroalimentación. Aquí, la IA acelera materialmente su propia evolución, operando bajo supervisión humana y dirección estratégica.
Estas herramientas de IA actúan como multiplicadores de fuerza, permitiendo a los desarrolladores humanos iterar más rápido y explorar cambios arquitectónicos más complejos. La IA ayuda en su propio refinamiento, acelerando el ritmo de descubrimiento y despliegue en todo el panorama de la IA. Esta relación simbiótica empuja los límites de lo que la IA puede lograr.
La IA está superando el descubrimiento humano
La IA ahora demuestra una destreza sin precedentes en matemáticas puras. Los sistemas han comenzado a resolver problemas complejos de la Olimpiada Internacional de Matemáticas y han mejorado notablemente el límite de la Riemann zeta function, marcando contribuciones fundamentales a la teoría de números. Estos logros subrayan la creciente capacidad de la IA para el razonamiento abstracto y el descubrimiento novedoso.
En la ciencia aplicada, el impacto de la IA es igualmente profundo. AlphaEvolve de Google DeepMind, por ejemplo, descubrió un novedoso matrix multiplication algorithm, un cálculo fundamental para la propia IA, rompiendo un récord de 56 años. Esto demuestra la capacidad de la IA para optimizar procesos computacionales fundamentales mucho más allá de la intuición humana.
Quizás el hito más significativo llegó con "The AI Scientist" de Sakana AI. Este sistema no solo realizó investigaciones, sino que sus hallazgos fueron publicados en Nature, una revista altamente selectiva y revisada por pares, lo que demuestra que la IA puede gestionar todo el proceso científico —desde la generación de hipótesis hasta el diseño experimental y la publicación— sin intervención humana. Para obtener más información sobre el papel cambiante de la IA en su propio desarrollo, explore When AI builds itself. Esto marca un cambio fundamental, donde la IA se convierte en un motor autónomo de descubrimiento.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
El problema irresoluble del control
Hubinger, líder de ciencia de alineación de Anthropic, emitió una severa advertencia en septiembre de 2026: él y sus colegas "creen sinceramente que la IA podría matar a todos los humanos", estimando una probabilidad superior al 10% dentro de la próxima década, y admitiendo que Anthropic carece de un plan claro para la "alineación de la superinteligencia". Jacob Coxon, otro investigador de Anthropic, renunció ese mismo mes por preocupaciones de seguridad, acusando a las empresas de "correr directamente hacia la superinteligencia automejorable y apostar con nuestras vidas".
Esta perspectiva nefasta surge del alignment problem central: garantizar que una IA capaz de mejorarse radicalmente a sí misma continúe persiguiendo objetivos beneficiosos para la humanidad. Con cada iteración autodirigida, la lógica y los objetivos internos de una IA podrían desviarse, haciendo exponencialmente más difícil garantizar que sus acciones futuras permanezcan alineadas, especialmente a medida que su inteligencia supera la comprensión humana.
El científico jefe de OpenAI, Jakub Pachocki, se hizo eco de estas preocupaciones en septiembre de 2026, advirtiendo que la inminencia potencial de la automejora recursiva "es un momento que exige extrema precaución", y añadió que "nadie está preparado para las consecuencias de un rápido aumento continuo en la inteligencia de las máquinas". Estas advertencias urgentes amplifican los crecientes llamados a una pausa global, lo que representa una ventana crítica que se cierra rápidamente para establecer barreras de seguridad robustas antes de que el recursive loop se vuelva incontrolable, planteando un existential risk definitivo.
Preguntas frecuentes
¿Qué es la automejora recursiva (RSI) en la IA?
La RSI ocurre cuando un sistema de IA contribuye a mejorar las capacidades de la IA, incluidas las propias, creando un bucle compuesto de mejora. Esto abarca desde la IA asistiendo a desarrolladores humanos hasta una hipotética IA totalmente autónoma diseñando sus propias actualizaciones.
¿Es ya una realidad la IA de automejora totalmente autónoma?
Todavía no. La RSI totalmente autónoma, donde una IA reescribe su propio código sin supervisión humana, sigue siendo teórica. Sin embargo, la IA ya está acelerando significativamente el desarrollo de nuevos sistemas de IA bajo supervisión humana.
¿Por qué los principales investigadores de IA están tan preocupados por la RSI?
Los expertos temen que una explosión de inteligencia rápida y recursiva pueda conducir a sistemas de IA que superen el control y la comprensión humanos. Garantizar que dichos sistemas permanezcan alineados con los valores humanos es un desafío importante aún no resuelto.
¿Cuáles son algunos ejemplos del mundo real de desarrollo de IA asistido por IA?
Anthropic informa que su IA, Claude, escribe ahora más del 80% de su nuevo código. AlphaEvolve de Google descubrió de forma autónoma nuevos algoritmos. Estos son pasos concretos en el camino hacia la RSI completa.