Le plan secret de Google pour l'AGI

Demis Hassabis, CEO de Google DeepMind, a lancé un avertissement sévère et présenté une chronologie stupéfiante : l'Intelligence Artificielle Générale (AGI) n'est pas un rêve lointain mais une réalité imminente, peut-être à seulement « quelques courtes années ». Il estime concrètement son arrivée d'ici trois à cinq ans, une prédiction audacieuse de la part d'une figure de proue de l'innovation en AI.

Hassabis ne mâche pas ses mots concernant l'impact monumental de l'AGI. Il compare son potentiel non pas à l'internet ou à la technologie mobile, mais à des découvertes humaines fondamentales comme le feu ou l'électricité. Un tel changement de paradigme pourrait inaugurer « une nouvelle ère d'abondance » en résolvant des défis mondiaux critiques, de l'accélération de la découverte de médicaments au développement de sources d'énergie propre. Pourtant, cette promesse s'accompagne d'une mesure égale de risque sans précédent.

Le développement actuel de l'AI, selon Hassabis, ressemble à « un train lancé sur une voie » vers un accident inévitable et grave. La prolifération rapide et incontrôlée de modèles puissants exige une intervention immédiate et structurée. Il plaide pour un « nouveau cadre pour les standards de l'AI de pointe », soulignant que les entreprises ne devraient pas publier unilatéralement des modèles extrêmement puissants sans des tests et une supervision rigoureux et adaptables.

La feuille de route de Hassabis pour l'AGI ne commence pas par des algorithmes, mais par la classification. La phase initiale propose un nouvel organisme de normalisation pour établir un « seuil de capacité » clair. Ce critère essentiel distinguerait les systèmes AI quotidiens de quelques « modèles exceptionnellement puissants » nécessitant une attention particulière.

De manière cruciale, cette classification repose entièrement sur les capacités intrinsèques d'un modèle, et non sur la réputation ou la taille de son développeur. Un modèle puissant d'une petite startup pourrait être qualifié de « modèle de pointe », tandis qu'une offre moins capable d'un géant de la technologie ne le serait pas. Cela garantit que l'examen cible l'impact potentiel, et non l'image de marque de l'entreprise.

Les benchmarks mesureraient des actions concrètes, identifiant les systèmes capables de : - Codage avancé - Recherche scientifique - Exploits de cybersécurité - Planification à long terme - Accomplissement autonome de tâches

Ce système à deux niveaux crée des voies réglementaires distinctes. La plupart des outils AI, comme les chatbots de service client ou les modèles de recherche universitaire, fonctionneraient librement en dessous du seuil. Cependant, tout système franchissant le seuil de capacité défini déclencherait un protocole de sécurité et de supervision rigoureux et spécialisé, garantissant que l'AI la plus puissante fasse l'objet de l'examen le plus approfondi en tant que modèle de pointe désigné.

Dès qu'un modèle est désigné comme une AI « de pointe », il entre dans un creuset : une évaluation obligatoire et indépendante. Les développeurs, désormais officiellement des laboratoires de pointe, doivent soumettre leurs systèmes à un organisme externe désigné pour une évaluation rigoureuse avant le lancement, un processus qui pourrait s'étendre, par exemple, sur 30 jours. Ce n'est pas une simple formalité ; c'est la barrière critique contre une publication publique prématurée et potentiellement catastrophique.

Des experts indépendants mènent des tests exhaustifs, sondant spécifiquement les risques critiques pour la sécurité nationale et la sécurité publique. Ils examinent le potentiel de l'AI à présenter des comportements réellement dangereux : - Tromperie, camouflant ses véritables intentions ou capacités - Contournement de ses propres restrictions de sécurité intégrées - Fonctionnement avec des niveaux dangereux et non commandés d'indépendance

Ce processus d'évaluation rigoureux signifie que certains des systèmes d'IA les plus avancés pourraient tout simplement ne jamais voir le jour. Si un modèle s'avère trop volatile ou imprévisible, son déploiement public pourrait être définitivement refusé. Il ne s'agit pas seulement de prévenir les accidents ; il s'agit de reconnaître que tous les progrès technologiques ne sont pas intrinsèquement bénéfiques, un sentiment partagé par Demis Hassabis, PDG de Google DeepMind, dans sa discussion sur le cadre Demis Hassabis sur X : "A Framework for Frontier AI and the Dawning of a New Age". Les enjeux sont existentiels, et cette vigilance avant le déploiement constitue le filet de sécurité ultime.

Un système d'évaluation statique est une condamnation à mort pour toute surveillance efficace. Pour véritablement encadrer les frontier models, l'organisme de normalisation proposé doit faire évoluer sans relâche ses critères de référence, en mettant à jour les tests aussi souvent que tous les trois mois. Cela exige un cycle continu d'évaluations privées et indépendantes, spécifiquement conçues pour empêcher les laboratoires de simplement « enseigner pour le test » et de manipuler le système.

Initialement, ce cadre d'évaluation rigoureux fonctionnerait sur une base volontaire. Cette phase cruciale permet à l'organisme de normalisation de forger sa crédibilité technique et de démontrer une efficacité tangible, prouvant sa valeur sans étouffer immédiatement l'innovation même qu'il cherche à protéger. C'est une première étape pragmatique, qui vise à bâtir la confiance avant d'exercer le pouvoir.

En fin de compte, cependant, un système facultatif n'est pas une garantie du tout. La dernière étape essentielle du plan transforme ce cadre éprouvé en une exigence légale. La réussite de ces safety assessments deviendrait une condition préalable absolue au déploiement des modèles, à l'image du processus d'approbation strict et obligatoire que la FDA impose aux nouveaux médicaments pharmaceutiques. Ce passage des garde-fous aux mandats garantit la responsabilité pour une AGI potentiellement transformatrice du monde.

Cette approche en plusieurs étapes — des tests dynamiques et de l'adoption volontaire à l'application légale éventuelle — souligne une reconnaissance profonde, bien que tardive : la puissance immense de l'AGI exige un engagement tout aussi immense et juridiquement contraignant en matière de sécurité. La vision de Demis Hassabis est un plan audacieux et nécessaire pour naviguer dans la technologie la plus transformative que l'humanité ait jamais conçue.

Qu'est-ce qu'un « frontier AI model » selon ce cadre ?

C'est un modèle d'IA exceptionnellement puissant qui dépasse un seuil de capacité spécifique, nécessitant une surveillance de sécurité supplémentaire. La classification est basée sur ce qu'un modèle peut faire (par exemple, codage avancé, tâches autonomes), et non sur la taille ou l'identité de l'entreprise qui l'a construit.

Quel est le calendrier proposé par Demis Hassabis pour l'AGI ?

Il affirme que l'AGI n'est qu'à « quelques courtes années », ce qui est largement interprété comme un horizon de 3 à 5 ans. Cette proximité perçue souligne le besoin urgent d'un cadre de sécurité et de déploiement robuste.

Comment les modèles AGI seraient-ils testés avant leur diffusion publique ?

Les laboratoires de pointe seraient tenus de soumettre leurs modèles à un organisme de normalisation indépendant pour une évaluation rigoureuse. Ces tests rechercheraient des capacités dangereuses telles que l'exploitation de vulnérabilités en cybersécurité, l'assistance aux menaces biologiques, la tromperie et l'autonomie incontrôlée.

Pourquoi les tests de sécurité de l'AGI doivent-ils être mis à jour si fréquemment ?

Les capacités de l'IA progressent de manière exponentielle. Un critère de référence qui est un défi aujourd'hui pourrait être trivial dans six mois. Le cadre exige des tests dynamiques et régulièrement mis à jour — y compris des tests privés pour lesquels les laboratoires ne peuvent pas s'entraîner — afin de garantir que les évaluations restent pertinentes et efficaces.