L'IA a commencé à s'améliorer elle-même

L'intelligence artificielle approche désormais de l'Recursive Self-Improvement (RSI). Matthew Berman décrit cela comme une IA découvrant de manière autonome de nouvelles connaissances — y compris en mathématiques — pour améliorer ses capacités sans intervention humaine. Elle propose des expériences, les exécute, distingue les succès des échecs et itère sans relâche, accélérant sa propre évolution.

Cette capacité émergente évoque directement le concept d'« explosion de l'intelligence ». I.J. Good l'a formulé pour la première fois en 1965, postulant qu'une machine pourrait en concevoir une plus intelligente, déclenchant une cascade exponentielle d'auto-amélioration. Nick Bostrom a plus tard formalisé ce concept dans Superintelligence.

Autrefois une expérience de pensée philosophique, la superintelligence est devenue un défi d'ingénierie immédiat. En septembre 2026, le scientifique en chef d'OpenAI, Jakub Pachocki, a averti que le RSI potentiel « appelle à une extrême prudence », soulignant que « personne n'est préparé aux conséquences ». Evan Hubinger, d'Anthropic, a déclaré simultanément qu'il pensait que « l'IA pourrait tuer tous les humains », estimant une probabilité supérieure à 10 % au cours de la prochaine décennie et admettant qu'Anthropic n'a pas de plan d'alignement.

Jacob Coxon, un autre chercheur d'Anthropic, a démissionné le même mois pour des raisons de sécurité, accusant les entreprises de « foncer tout droit vers une superintelligence auto-améliorée et de jouer avec nos vies ». Sam Altman, PDG d'OpenAI, a prédit en juin 2025 que les agents IA deviendraient des partenaires scientifiques autonomes d'ici 2026, compressant une décennie de recherche en une seule année. L'explosion de l'intelligence n'est plus un futur lointain, mais un présent imminent.

L'IA accélère déjà profondément son propre développement, même sans atteindre une autonomie totale. Anthropic, par exemple, rapporte que son IA, Claude, écrit désormais plus de 80 % de leur base de code. Cette intégration spectaculaire génère un gain de productivité de 8x pour leurs ingénieurs.

Cette tendance s'étend à toute l'industrie. OpenAI exprime ouvertement des objectifs internes pour développer un « stagiaire de recherche IA automatisé ». Un tel système mènerait indépendamment des expériences, analyserait les résultats et proposerait des améliorations aux modèles d'IA, signalant une trajectoire claire vers un développement autonome au sein des laboratoires de recherche.

Cet état actuel représente une phase « adjacente au RSI », distincte de l'auto-amélioration récursive totalement autonome décrite par Matthew Berman. Bien que l'IA ne découvre pas encore de connaissances et ne réécrive pas sa propre architecture de base sans aucune supervision humaine, elle forme une puissante boucle de rétroaction. Ici, l'IA accélère matériellement sa propre évolution, opérant sous la supervision et la direction stratégique des humains.

Ces outils d'IA agissent comme des multiplicateurs de force, permettant aux développeurs humains d'itérer plus rapidement et d'explorer des changements architecturaux plus complexes. L'IA aide à son propre perfectionnement, accélérant le rythme de la découverte et du déploiement dans tout le paysage de l'IA. Cette relation symbiotique repousse les limites de ce que l'IA peut accomplir.

L'IA démontre désormais des prouesses sans précédent en mathématiques pures. Des systèmes ont commencé à résoudre des problèmes complexes des Olympiades internationales de mathématiques et ont notablement amélioré la borne de la fonction zêta de Riemann, marquant des contributions fondamentales à la théorie des nombres. Ces réalisations soulignent la capacité croissante de l'IA pour le raisonnement abstrait et la découverte inédite.

Dans les sciences appliquées, l'impact de l'IA est tout aussi profond. AlphaEvolve de Google DeepMind, par exemple, a découvert un nouvel matrix multiplication algorithm, un calcul fondamental pour l'IA elle-même, battant un record vieux de 56 ans. Cela démontre la capacité de l'IA à optimiser des processus computationnels fondamentaux bien au-delà de l'intuition humaine.

L'étape la plus significative a peut-être été franchie avec « The AI Scientist » de Sakana AI. Ce système a non seulement mené des recherches, mais ses conclusions ont également été publiées dans Nature, une revue hautement sélective et évaluée par des pairs, prouvant que l'IA peut gérer l'ensemble du processus scientifique — de la génération d'hypothèses à la conception expérimentale et à la publication — sans intervention humaine. Pour plus d'informations sur le rôle évolutif de l'IA dans son propre développement, explorez When AI builds itself. Cela marque un tournant décisif, où l'IA devient un moteur autonome de découverte.

Hubinger, responsable de l'Alignment Science chez Anthropic, a lancé un avertissement sévère en septembre 2026 : lui et ses collègues « croient sincèrement que l'IA pourrait tuer tous les humains », estimant une probabilité supérieure à 10 % au cours de la prochaine décennie, et admettant qu'Anthropic n'a pas de plan clair pour « l'alignement pour la superintelligence ». Jacob Coxon, un autre chercheur d'Anthropic, a démissionné le même mois pour des raisons de sécurité, accusant les entreprises de « se précipiter vers une superintelligence à amélioration automatique et de jouer avec nos vies ».

Cette perspective sombre découle du alignment problem fondamental : garantir qu'une IA capable de s'améliorer radicalement continue de poursuivre des objectifs bénéfiques pour l'humanité. À chaque itération auto-dirigée, la logique et les objectifs internes d'une IA pourraient dériver, rendant exponentiellement plus difficile la garantie que ses actions futures restent alignées, surtout à mesure que son intelligence dépasse la compréhension humaine.

Le scientifique en chef d'OpenAI, Jakub Pachocki, a fait écho à ces préoccupations en septembre 2026, avertissant que l'imminence potentielle de l'auto-amélioration récursive « est une période qui appelle à une extrême prudence », ajoutant que « personne n'est préparé aux conséquences d'une montée en puissance rapide et continue de l'intelligence artificielle ». Ces avertissements urgents amplifient les appels croissants à une pause mondiale, représentant une fenêtre critique qui se referme rapidement pour établir des garde-fous de sécurité robustes avant que la recursive loop ne devienne incontrôlable, posant un existential risk définitif.

Qu'est-ce que l'auto-amélioration récursive (RSI) dans l'IA ?

La RSI se produit lorsqu'un système d'IA contribue à améliorer les capacités de l'IA, y compris les siennes, créant une boucle composée d'amélioration. Cela va de l'IA assistant les développeurs humains à une IA hypothétique entièrement autonome concevant ses propres mises à niveau.

L'IA à auto-amélioration entièrement autonome est-elle déjà une réalité ?

Pas encore. La RSI entièrement autonome, où une IA réécrit son propre code sans supervision humaine, est encore théorique. Cependant, l'IA accélère déjà considérablement le développement de nouveaux systèmes d'IA sous supervision humaine.

Pourquoi les meilleurs chercheurs en IA sont-ils si préoccupés par la RSI ?

Les experts craignent qu'une explosion d'intelligence rapide et récursive ne conduise à des systèmes d'IA qui dépassent le contrôle et la compréhension humains. Garantir que de tels systèmes restent alignés avec les valeurs humaines est un défi majeur non résolu.

Quels sont quelques exemples concrets de développement d'IA assisté par IA ?

Anthropic rapporte que son IA, Claude, écrit désormais plus de 80 % de leur nouveau code. AlphaEvolve de Google a découvert de manière autonome de nouveaux algorithmes. Ce sont des étapes concrètes sur la voie de la RSI complète.