La bombe AGI de Google expliquée

Demis Hassabis, PDG de Google DeepMind, a apporté une dure mise au point à la hype grandissante autour de l'AGI, affirmant que les systèmes d'IA actuels sont « loin d'être proches de l'AGI ». Sa définition place la barre exceptionnellement haut : un système capable de présenter la gamme complète des capacités cognitives humaines, y compris la véritable invention, l'apprentissage continu et la planification à long terme. Cette perspective remet directement en question le discours dominant de l'industrie, qui assimile souvent des performances étroites impressionnantes à l'intelligence générale.

Hassabis soutient que même des avancées significatives, comme la récente réfutation par OpenAI de la conjecture d'Erdos en géométrie discrète (un problème non résolu depuis 1946), ne signifient pas l'AGI. Bien que brillants dans des domaines spécifiques, les modèles actuels manquent encore d'ingrédients cruciaux : un raisonnement fiable, une créativité authentique à la Ramanujan, et une planification robuste au-delà de la simple exécution de tâches. Ils excellent à produire des réponses impressionnantes mais peinent avec la cohérence et la compréhension large inhérentes à la cognition humaine.

Venant du dirigeant de Google DeepMind, un laboratoire de recherche AGI de premier plan, la déclaration de Hassabis a un poids immense. Il contredit directement la croyance répandue selon laquelle l'AGI est déjà là ou est imminente, soulignant l'« intelligence en dents de scie » de l'IA actuelle. Ces systèmes affichent des performances maximales dans certains domaines mais souffrent de modes de défaillance imprévisibles, tels que le phénomène tristement célèbre des « goblins », où les modèles insèrent des termes aléatoires et non pertinents sans prévention explicite et « hacky ». Cette incohérence souligne leur nature incomplète par rapport à la véritable AGI.

OpenAI a récemment démontré la puissance spécifique et incroyable de l'IA en réfutant une conjecture centrale en géométrie discrète. Ce problème, lié à la distance unitaire planaire, a été posé pour la première fois par Paul Erdos en 1946 et est resté non résolu pendant près de 80 ans. Un modèle OpenAI a produit une preuve, vérifiée plus tard par des mathématiciens externes, démontrant un raisonnement mathématique avancé.

Malgré de tels exploits, les systèmes d'IA actuels présentent une intelligence en dents de scie, un terme inventé par Andrej Karpathy. Ils performent de manière surhumaine dans des domaines étroits, mais échouent de manière imprévisible dans d'autres. Cette incohérence met en évidence un manque fondamental de compréhension large et de cognition fiable, contrastant fortement avec l'intelligence générale humaine.

Les modes de défaillance de l'IA apparaissent souvent bizarres et non-humains. Gary Marcus met en évidence des exemples où les systèmes insèrent inexplicablement des mots comme « goblins » dans des sorties aléatoires. L'atténuation de ces bizarreries nécessite des « bidules hacky spécifiques aux goblins » dans les invites du système, révélant une dépendance à un patchage par force brute plutôt qu'à une compréhension véritable.

Marcus critique cette approche comme de l'« alchimie » plutôt que de l'informatique, la qualifiant de « catastrophe à mille milliards de dollars » reflétant de profondes incohérences systémiques. Ces comportements étranges soulignent que même les modèles avancés manquent de la compréhension cohérente et fondée nécessaire à la véritable AGI, fonctionnant plutôt avec une reconnaissance de formes puissante mais fragile.

Pourtant, tout le monde ne s'aligne pas sur la position prudente de Hassabis. Le capital-risqueur Marc Andreessen soutient que si un humain présentait l'ensemble des compétences des principaux modèles d'IA actuels — résoudre des conjectures mathématiques complexes, générer du code et résumer des documents denses — nous le qualifierions sans équivoque de génie. Cette perspective met en évidence les capacités remarquables, bien qu'incohérentes, que ces systèmes possèdent déjà.

En effet, la définition même de l'AGI est à l'origine d'une grande partie de la confusion. Helen Toner, membre du conseil d'administration d'OpenAI, a suggéré sur X que le terme "AGI" est devenu un terme presque inutile. Les gens le définissent de manière très différente, allant d'un chatbot expert à une machine véritablement consciente et auto-aware. Cette prolifération sémantique obscurcit toute discussion productive.

Au lieu de débattre si l'AGI est "arrivée", une approche plus fructueuse déplace l'attention. Nous devons identifier les capacités spécifiques que l'IA possède désormais et celles qui manquent encore. Demis Hassabis lui-même reconnaît que les systèmes actuels manquent de véritable invention et de fiabilité constante, malgré leur brillance étroite. Pour en savoir plus sur les points de vue de Hassabis, voir DeepMind: CEO Demis Hassabis says AGI Lags Human Reasoning | Technology Magazine.

Ce recadrage nous permet de dépasser les débats philosophiques abstraits. Il ancre la conversation dans des progrès tangibles et des lacunes identifiables, offrant des mesures plus claires pour évaluer l'évolution de l'IA. Comprendre ces niveaux distincts d'intelligence, de l'IA étroite impressionnante à l'intelligence générale insaisissable, reste primordial.

Atteindre une véritable AGI exige plus qu'une brillance isolée. Demis Hassabis identifie constamment cinq éléments centraux manquants dans les systèmes d'IA actuels. Ces lacunes critiques incluent : - La fiabilité à long terme, assurant un fonctionnement constant et sans erreur sur des périodes prolongées. - L'autonomie totale, permettant aux systèmes de fonctionner sans surveillance humaine constante ni invites détaillées. - Une mémoire stable, permettant aux modèles de retenir et de rappeler des informations à travers de vastes contextes et périodes. - Un raisonnement ancré, reliant les connaissances abstraites à la compréhension du monde réel et aux lois physiques. - Une invention authentique, la capacité de création nouvelle et de percée scientifique au-delà de la reconnaissance de formes.

Hassabis, malgré sa définition rigoureuse, a récemment proposé un calendrier étonnamment optimiste pour l'arrivée de l'AGI. Il prévoit désormais que l'AGI pourrait émerger dès 2029-2030, une accélération rapide par rapport aux estimations précédentes. Cette perspective révisée est principalement due au développement rapide de 'systèmes agentiques' sophistiqués, qui promettent une meilleure autodirection et orchestration des tâches. De tels systèmes, selon lui, combleront de nombreuses limitations actuelles.

Indépendamment du moment où une véritable AGI se matérialisera, la génération actuelle de systèmes d'IA puissants est déjà profondément transformatrice. Les rejeter comme de simples "autocomplétions" ou "chatbots glorifiés" sous-estime leur immense impact sur la science, l'industrie et la vie quotidienne. Ignorer ces capacités en évolution rapide, malgré leurs imperfections, représente une erreur stratégique significative pour toute organisation ou individu. Ces systèmes d'IA ne sont pas seulement un aperçu de l'avenir ; ils façonnent activement le présent.

Qu'a dit Demis Hassabis, PDG de Google DeepMind, à propos de l'AGI ?

Demis Hassabis a déclaré que les systèmes d'IA actuels sont "loin d'être" une Intelligence Artificielle Générale (AGI), arguant qu'ils manquent de l'éventail complet des capacités cognitives humaines comme la véritable invention et une fiabilité profonde.

Qu'est-ce que l'« intelligence en dents de scie » dans l'IA ?

Inventé par le chercheur Andrej Karpathy, l'« intelligence en dents de scie » décrit comment l'IA peut atteindre des niveaux surhumains sur certaines tâches tout en échouant de manière catastrophique sur d'autres, contrairement au profil cognitif plus cohérent des humains.

Pourquoi la définition de l'AGI est-elle si controversée ?

Le terme AGI est controversé car les experts le définissent différemment. Pour certains, il s'agit d'un chatbot de niveau expert, tandis que pour d'autres, il s'agit d'une machine autonome et consciente, ce qui rend le débat sur son arrivée très fragmenté.

Quelles sont les capacités clés manquantes pour une véritable AGI ?

Les composants clés manquants pour l'AGI incluent la fiabilité à long terme, une véritable autonomie, une mémoire stable, un raisonnement ancré dans le monde réel et la capacité d'une invention authentique et créative au-delà de la résolution de tâches assignées.