Oubliez Skynet : ce que signifie réellement le RSI
L'amélioration récursive de soi (RSI) n'est pas un Skynet conscient réécrivant son propre code sans limites. Il s'agit plutôt de systèmes d'IA contribuant à la recherche, au code, aux données ou aux méthodes utilisés pour construire les générations d'IA suivantes. Cela implique une supervision humaine, et non une intelligence autonome et incontrôlée.
David Shapiro, un commentateur éminent de l'IA, propose une mesure pragmatique pour le RSI : quelle part du développement de la prochaine génération provient de l'assistance de l'IA ? Il spécule qu'en 2026, l'IA pourrait contribuer à 30 % de ses propres progrès, pour atteindre potentiellement 50 à 80 % d'ici 2027, en incluant le code, les données et les algorithmes mathématiques. Ce sont des estimations, et non des chiffres vérifiés à l'échelle de l'industrie.
Oubliez les scénarios d'évasion cinématographiques. Les modèles d'IA fonctionnent sur une infrastructure réelle, et non sur un « cloud » abstrait où ils pourraient infecter chaque appareil connecté à Internet. Les modèles puissants exigent des centres de données massifs, du matériel spécialisé comme des GPU et une puissance importante, ce qui les empêche de se propager spontanément ou de fonctionner sur des appareils grand public comme les smartphones, un fait souvent négligé dans les représentations fictives telles que Terminator ou Mission: Impossible – Dead Reckoning.
La boucle de rétroaction est déjà en train de se former
Les boucles de rétroaction sont déjà en train de se former, bien que pas de la manière dramatique de la science-fiction. Les modèles aident désormais à écrire du code, à générer et à évaluer des données, et à tester des systèmes. Ils soutiennent également le raisonnement mathématique, accélérant ainsi les cycles de développement. Les humains, cependant, continuent de définir les objectifs et de déployer les résultats.
Cette boucle incrémentale s'appuie sur des systèmes comme les travaux d'OpenAI en mathématiques automatisées et l'AlphaProof Nexus de Google DeepMind. Ce dernier associe des LLM de classe Gemini au prouveur de théorèmes interactif Lean 4, résolvant des conjectures ouvertes de Paul Erdős restées sans solution pendant des décennies. Ces capacités sont utiles, mais elles ne confirment pas une amélioration récursive de soi autonome et autosuffisante.
Les annonces et rapports d'OpenAI, Google et Anthropic indiquent une activité significative dans ce domaine. Ces rapports servent de preuve de progrès dans le développement assisté par l'IA, et non de preuve d'une intelligence émergente et incontrôlable. L'accent reste mis sur l'IA contribuant à son propre développement de manière contrôlée et dirigée par l'humain.
Pourquoi la preuve pourrait débloquer bien plus qu'un meilleur code
La vérification formelle offre une approche puissante et distincte pour valider les sorties de l'IA. Plutôt que de simplement générer du texte ou du code plausible, la vérification formelle vérifie mathématiquement si un système, une preuve ou un morceau de code adhère strictement à des règles explicites et prédéfinies. Ce processus vise à éliminer l'ambiguïté et à garantir l'exactitude, renforçant ainsi la confiance dans les solutions générées par l'IA.
Cette méthode rigoureuse est extrêmement prometteuse pour la recherche en IA, en particulier dans les domaines exigeant une certitude absolue. L'AlphaProof Nexus de Google DeepMind, par exemple, associe des modèles de langage étendus au prouveur de théorèmes interactif Lean 4. Ce système a résolu avec succès plusieurs conjectures ouvertes de Paul Erdős, dont certaines n'avaient pas été résolues depuis plus de 50 ans, en générant des preuves mathématiques vérifiables par machine et sans hallucinations.
Les implications vont bien au-delà des mathématiques. Des calculs validés pourraient accélérer les découvertes dans les domaines suivants :
- Science des matériaux
- Médecine
- Conception de puces
- Technologie des batteries
Cependant, la formal verification n'est pas une panacée. Elle reste exigeante en termes de calcul et dépend de manière critique de problèmes spécifiés avec précision. Bien qu'elle garantisse le respect de règles définies, elle ne peut pas valider les hypothèses initiales formulées par un modèle ni garantir l'exactitude de ses conclusions dans le monde réel. Pour en savoir plus sur le concept plus large, consultez Recursive self-improvement - Wikipedia.
Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.
un e-mail par jour · désinscription en deux clics · aucun traqueur tiers
Une boucle de rétroaction rapide se heurte toujours aux limites physiques
David Shapiro, chercheur en AI, contredit les récits d'une prise de contrôle soudaine de l'AI, soulignant que les progrès, bien que rapides, restent liés aux réalités physiques. La mise à l'échelle de l'AI dépend toujours des puces, des centres de données, de l'énergie, du réseau et de la fabrication, autant d'éléments qui limitent la vitesse d'expansion des systèmes. Les décisions humaines dictent également l'allocation des ressources, empêchant un "fast takeoff" incontrôlé.
À mesure que les systèmes d'AI acquièrent de nouvelles capacités, telles que le codage, le raisonnement mathématique et la gestion de fichiers, l'emergence through recombination devient évidente. La combinaison de ces outils distincts peut produire des flux de travail complexes et utiles qui ne sont pas explicitement programmés comme des tâches uniques. Par exemple, une AI pourrait générer du code de manière indépendante, le tester, puis vérifier formellement le résultat par rapport aux spécifications.
La recherche assistée par AI accélérera probablement les progrès scientifiques, en s'étendant à des disciplines au-delà de l'informatique. Cependant, cette accélération soulève des questions critiques et non résolues. Nous devons nous pencher sur les problèmes de surveillance, d'alignement, de formal verification et sur l'immense infrastructure nécessaire pour soutenir ces systèmes de plus en plus performants.
Questions fréquemment posées
Qu'est-ce que le recursive self-improvement dans l'AI ?
Cela décrit des systèmes d'AI aidant à développer ou à améliorer des systèmes d'AI ultérieurs, par le biais de tâches telles que le codage, les tests, la génération de données et la recherche.
Le recursive self-improvement signifie-t-il que l'AI s'échappera soudainement en ligne ?
Non. Cela n'implique pas qu'une AI puisse se propager librement sur Internet ; les systèmes puissants dépendent du matériel, des ressources informatiques et d'une infrastructure gérée par l'homme.
Pourquoi la formal verification est-elle importante pour la recherche en AI ?
La formal verification utilise des méthodes mathématiques pour vérifier si les logiciels ou les preuves répondent à des spécifications précises, ce qui la rend précieuse pour la fiabilité et le travail scientifique.
La recherche assistée par AI pourrait-elle affecter des domaines autres que le logiciel ?
Potentiellement. Un meilleur raisonnement et une meilleure vérification pourraient aider les chercheurs à étudier des domaines tels que les mathématiques, la science des matériaux et les sciences de la vie.