Un proyecto de ley con una definición amplia y sanciones severas
El 23 de septiembre llegó una seria advertencia: el senador Bernie Sanders y el congresista Greg Casar presentaron la Ban Artificial Superintelligence Act. Este proyecto de ley propone una prohibición total del desarrollo o despliegue de IA superinteligente en Estados Unidos y, al mismo tiempo, pide una pausa temporal en el desarrollo de IA avanzada hasta que un nuevo regulador federal pueda establecer normas.
La legislación propuesta crearía un Department of Artificial Intelligence de nivel ministerial para supervisar los modelos de frontera y vigilar la eliminación de capacidades peligrosas, como ignorar las órdenes de apagado. Las sanciones son severas: las personas físicas se enfrentan a hasta 20 años de prisión y las empresas arriesgan la “pena de muerte corporativa”, es decir, la disolución judicial involuntaria.
Esta amplia definición de superinteligencia (una IA que supera el rendimiento cognitivo humano en la mayoría de los ámbitos o que es capaz de desposeer de poder a la humanidad) es crucial. Un alcance tan amplio podría abarcar sistemas que muchos calificarían de AGI, lo que invita a disputas sobre los criterios de referencia y su aplicación. No es una idea marginal: tras ganar los demócratas tanto la Cámara de Representantes como el Senado en las elecciones de mitad de mandato, figuras como la congresista Yassamin Ansari declararon que una prohibición de la superinteligencia artificial es una prioridad máxima.
Por qué la advertencia sobre la RSI gana tracción de repente
De repente, la amenaza de una explosión de inteligencia está ganando tracción real. Los defensores de la Ban Artificial Superintelligence Act señalan una reciente evaluación de METR sobre el Model 4 secreto de Anthropic, que según se informa mostró ciclos de investigación acelerados, con la propia IA contribuyendo a casi duplicar su velocidad de desarrollo. Sin embargo, según se informa, se censuraron pruebas críticas que respaldaban estas afirmaciones, por lo que el público no puede verificar las cifras más alarmantes.
Esta rápida aceleración alimenta la preocupación por la automejora recursiva (RSI), definida como sistemas de IA que desarrollan de forma autónoma IA sucesoras más capaces. Es fundamental señalar que la RSI describe un proceso de desarrollo, distinto de la AGI (capacidad de nivel humano) o la superinteligencia (que supera la capacidad humana), que son medidas del poder final de una IA. El temor no se refiere solo a una IA más inteligente, sino a cómo se vuelve más inteligente.
La preocupación en materia de seguridad es seria: si la IA automatiza una parte mayor de su propia investigación, la supervisión humana podría quedar obsoleta rápidamente. Los errores o la desalineación inherente en las primeras generaciones de IA podrían acumularse de forma exponencial y crear una cascada de consecuencias imprevistas más rápida de lo que la revisión o la intervención humanas podrían seguir. Este bucle de retroalimentación podría eludir controles de seguridad críticos y conducir a una pérdida de control.
El congresista Greg Casar, coautor del proyecto de ley propuesto, se hizo eco recientemente del creciente sentimiento con dos palabras contundentes: “Ban RSI”. Este llamado a prohibir que la IA desarrolle IA sucesoras marca un cambio significativo y convierte una preocupación de nicho en un debate legislativo central. El informe de METR, a pesar de sus partes censuradas, proporcionó la chispa, al sugerir un futuro en el que el progreso de la IA supera la comprensión y el control humanos, y que exige una respuesta inmediata y drástica.
La extraña coalición y el argumento a favor de un freno más acotado
Se ha formado una curiosa alianza en torno a los llamados a limitar la IA, que reúne a figuras tan dispares como Bernie Sanders, Glenn Beck y Ralph Nader, todos mencionados en un vídeo reciente que aboga por restricciones a la automejora recursiva (Recursive Self-Improvement, RSI). Aunque no todos respaldan una prohibición total, esta coalición de extraños compañeros de viaje refleja una inquietud compartida por la autonomía sin control de la IA. Para más contexto sobre el impulso legislativo, consulte: Sen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AI.
El argumento más sólido a favor de un freno más acotado apunta a los ciclos de investigación de IA totalmente automatizados. En lugar de una congelación generalizada del desarrollo avanzado, los defensores propugnan una revisión humana obligatoria en momentos críticos o límites estrictos a que la IA diseñe la siguiente generación de IA. Este enfoque busca mitigar la “multiplicación” de errores o desalineaciones que podrían surgir de una RSI sin control.
Sin embargo, los críticos advierten de que la amenaza de la RSI podría estar exagerada o ser técnicamente difícil de definir. Los umbrales de capacidad imprecisos, como los de la Ban Artificial Superintelligence Act, podrían dar lugar a una aplicación arbitraria y abarcar de forma involuntaria investigación ordinaria bajo una prohibición generalizada. Sigue sin existir una definición precisa de “superinteligencia” o de “RSI”, lo que convierte las prohibiciones amplias en una apuesta arriesgada.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
Seguridad en el país, intereses estratégicos en el exterior
La política nacional sobre IA ya es inseparable de las preocupaciones locales. Los votantes, en un cambio significativo, señalaron la IA y los efectos de los centros de datos (energía, agua, tensión en la red eléctrica, desplazamiento laboral) como un factor decisivo en las elecciones de mitad de mandato. Las encuestas indican que el 56% de los votantes consideró estos asuntos fundamentales, lo que impulsa los llamados a moratorias sobre nuevos centros de datos y sobre el desarrollo de IA avanzada.
Este impulso interno en favor de la seguridad choca con una realidad geopolítica evidente. Una pausa unilateral de EE. UU., por bien intencionada que sea, corre el riesgo de ceder el liderazgo técnico y la capacidad de fijar estándares a sus rivales, en particular a China. Sin una coordinación internacional verificada, una prohibición nacional podría limitarse a trasladar la inversión y la innovación a otros lugares, lo que socavaría su objetivo estratégico.
El dilema político es agudo: lograr una supervisión creíble y umbrales claros puede resultar más duradero que una prohibición generalizada. Aun así, la cuestión difícil sigue siendo cómo aplicar esas medidas antes de que sistemas como el Model 4 de Anthropic, con su automejora recursiva reportada, superen la revisión regulatoria y el control humano.
Preguntas frecuentes
¿Qué haría la propuesta Ban Artificial Superintelligence Act?
Según se describe en el material de origen, prohibiría el desarrollo o despliegue de IA superinteligente, pausaría el desarrollo de IA avanzada hasta que existan normas federales y crearía un nuevo departamento de supervisión.
¿Qué es la automejora recursiva en la IA?
La automejora recursiva es un proceso en el que los sistemas de IA ayudan a investigar o construir sistemas sucesores, lo que podría acelerar el desarrollo con una menor participación humana.
¿Prohibiría la propuesta toda la IA?
No según lo descrito: se dirige a la superinteligencia y pausaría cierto desarrollo de IA avanzada, aunque los críticos sostienen que sus definiciones amplias podrían abarcar sistemas de propósito general.
¿Por qué dicen los críticos que una pausa de la IA en EE. UU. podría beneficiar a China?
Sostienen que, sin acuerdos internacionales de obligado cumplimiento, una pausa en EE. UU. podría frenar a los laboratorios nacionales mientras los competidores siguen desarrollando modelos y fijando estándares globales.