L'interdiction de l'IA qui pourrait donner l'avantage à la Chine

Un avertissement sévère est tombé le 23 septembre : le sénateur Bernie Sanders et le représentant Greg Casar ont présenté le Ban Artificial Superintelligence Act. Ce projet de loi propose d'interdire purement et simplement le développement ou le déploiement d'une IA superintelligente aux États-Unis, tout en demandant une pause temporaire du développement de l'IA avancée, le temps qu'un nouveau régulateur fédéral établisse des règles.

La législation proposée créerait un Department of Artificial Intelligence de rang ministériel chargé de surveiller les modèles de pointe, et de superviser la suppression de capacités dangereuses, comme le fait d'ignorer les commandes d'arrêt. Les sanctions sont sévères : les personnes physiques encourent jusqu'à 20 ans de prison, et les entreprises risquent la « peine de mort des sociétés » — la dissolution judiciaire forcée.

Cette définition très large de la superintelligence — une IA dépassant les performances cognitives humaines dans la plupart des domaines, ou capable de priver l'humanité de son pouvoir — est déterminante. Une portée aussi vaste pourrait englober des systèmes que beaucoup qualifieraient d'AGI, ouvrant la voie à des litiges sur les benchmarks et l'application de la loi. Il ne s'agit pas d'une idée marginale : après la victoire des démocrates à la Chambre et au Sénat lors des élections de mi-mandat, des personnalités comme la représentante Yassamin Ansari ont déclaré qu'interdire la superintelligence artificielle était une priorité absolue.

Soudain, la menace d'une explosion d'intelligence gagne un réel écho. Les partisans du Ban Artificial Superintelligence Act citent une évaluation récente de METR sur le Model 4 secret d'Anthropic, qui aurait démontré des cycles de recherche accélérés, l'IA contribuant elle-même à un quasi-doublement de sa vitesse de développement. Toutefois, des éléments essentiels à l'appui de ces affirmations auraient été expurgés, ce qui empêche le public de vérifier les chiffres les plus alarmants.

Cette accélération rapide nourrit les inquiétudes autour de l'auto-amélioration récursive (RSI), définie comme des systèmes d'IA développant de manière autonome des IA successeures plus performantes. Il est essentiel de noter que la RSI décrit un processus de développement, distinct de l'AGI (capacité de niveau humain) ou de la superintelligence (capacité dépassant celle de l'humain), qui mesurent la puissance finale d'une IA. La crainte ne porte pas seulement sur une IA plus intelligente, mais sur la manière dont elle le devient.

Le risque pour la sécurité est net : si l'IA automatise une part croissante de sa propre recherche, la supervision humaine pourrait rapidement devenir obsolète. Des erreurs ou un défaut d'alignement inhérent aux premières générations d'IA pourraient se cumuler de façon exponentielle et provoquer une cascade de conséquences imprévues, plus vite que n'importe quelle revue ou intervention humaine ne pourrait suivre. Cette boucle de rétroaction pourrait contourner des contrôles de sécurité essentiels et conduire à une perte de contrôle.

Le représentant Greg Casar, coauteur du projet de loi, a récemment fait écho à ce sentiment croissant en deux mots tranchés : « Ban RSI ». Cet appel à interdire que l'IA développe une IA successeure marque un tournant, faisant d'une préoccupation de niche un débat législatif central. Le rapport de METR, malgré ses passages expurgés, a servi d'étincelle, laissant entrevoir un avenir où les progrès de l'IA dépasseraient la compréhension et le contrôle humains, et appelleraient une réponse immédiate et radicale.

Une alliance étonnante s'est formée autour des appels à limiter l'IA, réunissant des personnalités aussi dissemblables que Bernie Sanders, Glenn Beck et Ralph Nader, toutes citées dans une vidéo récente plaidant pour un encadrement de l'auto-amélioration récursive (RSI). Tous ne soutiennent pas une interdiction totale, mais cette coalition improbable témoigne d'une inquiétude partagée face à l'autonomie non contrôlée de l'IA. Pour plus de contexte sur cette initiative législative, voir : Sen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AI.

L'argument le plus solide en faveur d'un frein plus ciblé vise les boucles de recherche en IA entièrement automatisées. Plutôt qu'un gel général du développement avancé, les partisans proposent une revue humaine obligatoire aux étapes critiques, ou des limites strictes à la conception de la prochaine génération d'IA par l'IA elle-même. Cette approche cherche à atténuer la « multiplication » des erreurs ou des défauts d'alignement qui pourrait résulter d'une RSI non contrôlée.

Cependant, les détracteurs avertissent que la menace de la RSI pourrait être exagérée ou difficile à définir techniquement. Des seuils de capacité vagues, comme ceux du Ban Artificial Superintelligence Act, pourraient conduire à une application arbitraire et inclure par inadvertance la recherche ordinaire dans une interdiction générale. Une définition précise de la « superintelligence » ou de la « RSI » reste introuvable, ce qui fait des interdictions larges un pari risqué.

La politique nationale en matière d'IA est désormais indissociable des préoccupations locales. Les électeurs, dans un changement notable, ont cité l'IA et les impacts des centres de données (énergie, eau, tension sur le réseau, remplacement d'emplois) comme un facteur déterminant des élections de mi-mandat. Selon les sondages, 56 % des électeurs jugeaient ces questions décisives, ce qui alimente les appels à des moratoires sur les nouveaux centres de données et sur le développement de l'IA avancée.

Cette volonté de sécurité nationale se heurte à une réalité géopolitique crue. Une pause unilatérale des États-Unis, aussi bien intentionnée soit-elle, risque de céder le leadership technique et le pouvoir de définir les normes à des rivaux, notamment la Chine. Sans coordination internationale vérifiée, une interdiction nationale pourrait simplement déplacer les investissements et l'innovation, compromettant son objectif stratégique.

Le compromis politique est délicat : mettre en place une supervision crédible et des seuils clairs pourrait s'avérer plus durable qu'une interdiction générale. Reste toutefois la question difficile de savoir comment appliquer de telles mesures avant que des systèmes comme le Model 4 d'Anthropic, doté selon les informations disponibles d'une auto-amélioration récursive, ne dépassent l'examen réglementaire et le contrôle humain.

Que ferait le projet de loi Ban Artificial Superintelligence Act ?

Selon les sources, ce texte interdirait le développement ou le déploiement d'une IA superintelligente, mettrait en pause le développement de l'IA avancée dans l'attente de règles fédérales et créerait un nouveau département de supervision.

Qu'est-ce que l'auto-amélioration récursive en IA ?

L'auto-amélioration récursive est un processus dans lequel des systèmes d'IA participent à la recherche ou à la conception de systèmes successeurs, ce qui pourrait accélérer le développement avec moins d'intervention humaine.

Cette proposition interdirait-elle toute IA ?

Pas selon la description : le texte vise la superintelligence et mettrait en pause certains développements d'IA avancée, même si ses détracteurs estiment que ses définitions larges pourraient englober des systèmes à usage général.

Pourquoi les détracteurs affirment-ils qu'une pause de l'IA aux États-Unis pourrait profiter à la Chine ?

Ils estiment que, faute d'accords internationaux contraignants, une pause aux États-Unis pourrait ralentir les laboratoires nationaux pendant que leurs concurrents continuent de développer des modèles et de fixer les normes mondiales.