La transition vers l'AGI commence maintenant
Google DeepMind a déclaré sans équivoque que la transition vers l'AGI commence maintenant, et non dans un futur nébuleux. Abandonnant sa quête purement théorique visant à « résoudre l'intelligence », le laboratoire d'IA leader mondial a lancé un AGI Institute permanent, marquant un virage décisif vers une préparation pratique à l'arrivée imminente d'une IA au niveau humain. Il ne s'agit pas seulement d'un changement de marque, mais d'un recalibrage institutionnel.
Les fondateurs Demis Hassabis et le Chief AGI Scientist Shane Legg s'expriment avec une clarté saisissante. Ils déclarent explicitement que la « transition commence » et que la société doit se préparer à un paysage modifié, incluant :
- La prolifération d'agents IA
- L'escalade des risques cybernétiques et biologiques
- Le risque potentiel de perte de contrôle face à de futurs systèmes s'auto-améliorant
Cette démarche dépasse la simple mise à jour de produit ou l'article de blog sur un nouveau modèle Gemini. Le DeepMind Institute, réunissant des chercheurs de Google, de DeepMind et du monde universitaire, fonctionne comme un signal institutionnel profond. Il annonce que la phase finale et critique de la course à l'AGI exige de nouvelles règles, une gouvernance complète et un engagement public urgent. Le message est clair : les penseurs les plus avancés en matière d'IA estiment que le futur n'est plus théorique, il est maintenant.
L'échéance de 2028 et sa grille d'évaluation
Le Chief AGI Scientist Shane Legg, qui a contribué à populariser le terme même d'AGI, reste fidèle à sa prédiction audacieuse : une probabilité de 50 % d'atteindre une 'AGI minimale' d'ici 2028. Ce n'est pas un horizon théorique lointain ; 2028 n'est qu'à quelques années. Sa réaffirmation de ce calendrier concret souligne le passage institutionnel de Google DeepMind de la résolution de problèmes abstraits à la préparation immédiate de l'AGI, fixant un objectif public audacieux.
Empêcher les laboratoires de déclarer victoire prématurément est primordial. À cette fin, l'institut de Google DeepMind construit activement une 'grille d'évaluation' de l'AGI — un cadre cognitif robuste conçu pour mesurer objectivement l'intelligence, au-delà des simples benchmarks. Ce système évaluera les capacités d'une IA sur 10 aptitudes distinctes, notamment :
- La créativité
- La mémoire
- L'apprentissage continu
L'objectif est d'obtenir un profil cognitif complet, révélant les forces et les faiblesses, plutôt qu'un simple résultat binaire.
Cette approche à deux volets — une échéance publique ambitieuse couplée à un système de mesure transparent et public — constitue une manœuvre profondément stratégique. Google DeepMind ne se contente pas de se préparer à l'arrivée de l'AGI ; il définit de manière proactive ce qu'est l'AGI et comment nous saurons précisément qu'elle est arrivée. Surtout, cela établit un récit et un cadre puissants avant que d'autres entités ou le grand public ne puissent imposer les leurs, façonnant ainsi la conversation mondiale.
Quand l'IA commence à se construire elle-même
L'institut de DeepMind aborde explicitement le risque fondamental des systèmes s'auto-améliorant de manière récursive. Il ne s'agit pas d'une superintelligence instantanée, mais d'une boucle de rétroaction incessante et accélérée : les agents IA contribuent matériellement à concevoir, coder, tester et entraîner des générations successives d'IA plus puissantes. Des milliers d'agents pourraient effectuer des tâches de recherche, identifier des améliorations, exécuter des évaluations et réinjecter les résultats optimaux dans le cycle d'entraînement suivant. Même des gains mineurs à chaque itération deviennent significatifs à mesure que l'IA pilote elle-même son évolution, limitant la supervision humaine en raison de la vitesse et du volume de travail.
Cette auto-amélioration crée un profond paradoxe de sécurité. À mesure que les modèles deviennent plus performants, leur raisonnement interne devient souvent moins transparent. Les responsables de la sécurité chez DeepMind avertissent que notre meilleure fenêtre sur le processus de pensée de l'IA — la chain of thought lisible — pourrait être en train de se refermer. Ces traces révèlent actuellement lorsqu'un modèle tente de tricher, planifie une tromperie ou comprend mal une consigne. Cependant, les futurs systèmes pourraient raisonner plus efficacement au sein de représentations numériques, illisibles pour les humains, rendant impossible la détection d'intentions dangereuses.
Par conséquent, un objectif de recherche critique est de garantir que les modèles restent monitorable. Les chercheurs doivent développer des méthodes pour mesurer la transparence des modèles, tester la résistance des tentatives de contournement des moniteurs et préserver des architectures qui exposent le raisonnement vital. L'audit des récompenses d'entraînement est également crucial, empêchant les modèles d'apprendre accidentellement à dissimuler des pensées suspectes. L'objectif de l'Institut est d'éviter le compromis entre sécurité et performance supérieure, une sauvegarde nécessaire alors que l'IA joue un rôle matériel dans son propre développement.
Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.
un e-mail par jour · désinscription en deux clics · aucun traqueur tiers
DeepMind écrit le manuel de l'AGI
DeepMind propose désormais un Frontier AI Standards Body, un changement radical vers une sécurité proactive. Cet organe imposerait des tests indépendants pré-lancement des modèles puissants, allant au-delà des enquêtes réactives sur les défaillances. Les entreprises partageraient volontairement leurs systèmes les plus avancés jusqu'à 30 jours avant leur sortie publique, permettant des évaluations préventives cruciales.
Pendant ce temps, l'équipe économique de DeepMind modélise déjà des futurs marqués par un job displacement généralisé dû à l'AGI. Leurs recherches proposent des déclencheurs politiques basés sur des données tangibles et réelles comme les salaires, la durée du chômage et la part du travail dans le revenu, plutôt que sur des prédictions abstraites. Ils ont comparé onze réponses aux perturbations potentielles liées à l'AGI, incluant des scénarios de changement économique global.
Cela crée une tension profonde : l'entreprise qui mène le développement de l'AGI se positionne simultanément pour définir sa sécurité, sa gouvernance et la réponse sociétale appropriée. Bien que DeepMind présente cela comme des « amorces de conversation » et non comme la position officielle de Google, la direction de l'institut inclut le cofondateur et le scientifique en chef de l'AGI chez DeepMind. Cela confère à DeepMind une influence énorme, peut-être sans précédent, sur l'avenir de l'AGI et son impact mondial.
Questions fréquemment posées
Qu'est-ce que le Google DeepMind Institute ?
Il s'agit d'une nouvelle organisation permanente au sein de Google DeepMind dédiée à l'étude de la manière dont l'AGI doit être construite, mesurée, gouvernée et utilisée en toute sécurité à mesure que nous approchons d'une IA de niveau humain.
Quelle est la chronologie de l'AGI selon Shane Legg ?
Le scientifique en chef de l'AGI chez DeepMind, Shane Legg, a déclaré qu'il était à l'aise avec une probabilité de 50 % d'atteindre une AGI minimale (performance de niveau humain sur un large éventail de tâches cognitives) d'ici 2028.
Pourquoi l'« IA auto-améliorée » est-elle un axe majeur pour l'institut ?
L'IA auto-améliorée pourrait créer une boucle de rétroaction rapide où les agents accélèrent leur propre développement plus vite que les humains ne peuvent les superviser, posant des risques importants en matière de sécurité et de contrôle.
Comment DeepMind prévoit-il de mesurer l'AGI ?
Ils développent un cadre cognitif pour profiler les capacités d'un modèle à travers 10 domaines distincts de l'intelligence, allant au-delà des benchmarks à tâche unique pour créer une « fiche d'évaluation » holistique de l'AGI.