L'avertissement alarmant d'Anthropic sur l'IA en 2028

Anthropic a lancé un avertissement sévère dans son essai pivot, '2028: Two Scenarios for Global AI Leadership', présentant la course croissante à l'intelligence artificielle comme un concours géopolitique urgent. Le laboratoire de recherche en AI, décrit par l'analyste Matthew Berman comme « paniqué », affirme que les États-Unis et leurs alliés font face à une échéance critique pour assurer le leadership mondial en matière d'AI contre des régimes autoritaires comme le Parti communiste chinois (CCP), qui pourrait militariser l'AI avancée pour une domination mondiale. Il ne s'agit pas seulement de supériorité technologique ; il s'agit de l'avenir même de la gouvernance mondiale.

L'essai esquisse deux futurs radicalement divergents. Dans l'un, les démocraties défendent avec succès leur avantage en matière de calcul (compute), renforcent les export controls et accélèrent leur propre adoption de l'AI, établissant ainsi des normes mondiales et des standards de sécurité pour le développement d'une AI puissante. L'alternative dépeint un tableau glaçant : les nations autoritaires prennent le contrôle de l'AI avancée, l'utilisant pour une répression de masse sans précédent des citoyens à grande échelle et modifiant fondamentalement l'équilibre international des pouvoirs entre les nations, ouvrant potentiellement une ère d'autoritarisme numérique.

De manière cruciale, Anthropic identifie 2028 comme l'année décisive. Cette échéance représente le point où l'équilibre mondial des pouvoirs en matière d'AI pourrait être irrévocablement établi, avec seulement une période limitée restante pour façonner les conditions et les résultats de la compétition. Matthew Berman postule que ce calendrier coïncide probablement avec l'avènement potentiel de l'AI auto-améliorante (self-improving AI), ce qui signifie que la nation qui réalisera cette percée transformative en premier pourrait s'assurer un avantage insurmontable et permanent, remportant ainsi efficacement la AI race.

L'essai pivot d'Anthropic, '2028: Two Scenarios for Global AI Leadership', présente la AI race comme un concours géopolitique à enjeux élevés, le calcul (compute) – les puces d'AI avancées – étant identifié comme l'ingrédient unique et le plus vital pour la domination mondiale. L'impératif stratégique du gouvernement américain est clair : contrôler ce goulot d'étranglement pour maintenir une avance décisive contre les nations autoritaires comme le Chinese Communist Party (CCP).

L'avantage de l'Amérique découle de ses entreprises qui développent les puces les plus performantes du monde. Le gouvernement américain en tire parti en appliquant des export controls stricts, limitant sévèrement l'approvisionnement de la Chine en ces composants critiques. Cette politique agressive vise à ralentir la capacité de la Chine à entraîner et à déployer des modèles d'AI avancés, préservant ainsi l'avantage technologique des États-Unis et de leurs alliés.

La recherche d'Anthropic suggère que ces contrôles ont été « incroyablement efficaces », entravant effectivement la trajectoire de l'AI chinoise. Pourtant, la Chine fait preuve d'une résilience remarquable, défiant continuellement l'étranglement par de multiples voies. Les laboratoires d'AI chinois exploitent les lacunes réglementaires, s'engagent dans la contrebande de matériel et déploient des attaques par distillation (distillation attacks) à grande échelle pour extraire illicitement des innovations des entreprises américaines. Cette circonvention persistante souligne la lutte complexe et continue pour la suprématie de l'AI.

Alors que les contrôles à l'exportation américains visent à priver la Chine de compute IA avancé, Pékin déploie une stratégie à plusieurs volets pour combler l'écart. La Chine s'appuie sur un vaste vivier de talents IA de classe mondiale ; les estimations suggèrent que 50 % des chercheurs en IA mondiaux sont chinois. Ce profond réservoir de talents alimente d'impressionnantes innovations algorithmiques, développant souvent des modèles très efficaces optimisés pour du matériel moins puissant, une nécessité étant donné les restrictions sur les puces.

Une tactique plus controversée implique les 'distillation attacks', où les laboratoires d'IA chinois entraînent leurs propres modèles en les alimentant avec des sorties générées par des modèles supérieurs développés aux États-Unis. Cette méthode récolte efficacement l'innovation américaine, permettant à des modèles plus petits et moins gourmands en ressources d'imiter les performances de leurs homologues plus grands et plus avancés à une fraction du coût et de la taille. Anthropic, dans son essai fondateur 2028: Two scenarios for global AI leadership, les signale spécifiquement comme des menaces "à grande échelle".

L'ampleur réelle de ces distillation attacks reste un sujet de débat intense. De nombreux observateurs et chercheurs de l'industrie contredisent l'évaluation d'Anthropic, arguant que les cas signalés sont souvent à relativement petite échelle ou pourraient même être justifiés comme de l'étalonnage concurrentiel. Quoi qu'il en soit, les avancées de China Tellinging AI proviennent significativement de son talent inhérent et de sa recherche pionnière, démontrant une capacité d'innovation indépendante au-delà de la simple circonvention des restrictions américaines.

L'incapacité à maintenir l'avantage de compute de l'Amérique définit le deuxième scénario désastreux d'Anthropic, un avenir où la Chine dépasse la frontière du développement de l'IA d'ici 2028. Ce résultat dépend de l'échec des États-Unis à renforcer les contrôles à l'exportation et à perturber les innovations algorithmiques et les distillation attacks de la Chine, inaugurant un profond réalignement géopolitique. Le rapport avertit que la fenêtre pour assurer cette avance se referme rapidement.

Si la Chine établit un leadership mondial en matière d'IA, ce sont les valeurs autoritaires, et non les principes démocratiques, qui façonneront les normes régissant l'intelligence artificielle dans le monde entier. Ce changement saperait fondamentalement la gouvernance démocratique à travers le globe, entraînant une érosion généralisée des libertés individuelles et une nouvelle ère de répression parrainée par l'État s'étendant au-delà des frontières nationales.

Les implications réelles sont glaçantes et de grande portée. Les puissances autoritaires déploieraient l'IA avancée pour un contrôle social sans précédent, permettant une censure sophistiquée, une surveillance omniprésente de la population et une police prédictive à l'échelle mondiale. Ce levier technologique renforcerait également considérablement les capacités militaires, altérant fondamentalement l'équilibre mondial des pouvoirs et augmentant le risque d'instabilité internationale. Le coût de la perte de cette course à l'IA s'étend bien au-delà de la concurrence économique, impactant les droits humains fondamentaux et la sécurité mondiale pendant des décennies.

Pourquoi Anthropic a-t-il fixé 2028 comme date limite critique pour le leadership en IA ?

Anthropic a choisi 2028 comme un horizon temporel plausible pour que les États-Unis consolident leur avance en IA ou pour que la Chine rattrape son retard. De nombreux experts, y compris le créateur de la vidéo, estiment que cette date est significative en raison de l'arrivée potentielle d'une IA auto-améliorante, où le premier à l'atteindre pourrait obtenir un avantage décisif et permanent.

Quelle est la principale préoccupation d'Anthropic dans la course à l'IA entre les États-Unis et la Chine ?

Leur principale préoccupation est que si un régime autoritaire comme le CCP chinois prend la tête de l'IA, les normes et les règles de la technologie seront façonnées par des valeurs autoritaires. Cela pourrait permettre une répression automatisée des citoyens, une surveillance de masse et une censure mondiale à une échelle sans précédent.

Que sont les 'distillation attacks' dans le contexte de l'IA ?

La distillation est un processus où un modèle d'AI plus petit et moins coûteux est entraîné en utilisant les sorties d'un modèle plus grand et plus puissant (comme ceux des US labs). Anthropic allègue que la China utilise des 'large-scale distillation attacks' pour transférer illicitement les capacités des modèles américains vers les leurs, accélérant ainsi leurs progrès sans le même niveau d'investissement.

Pourquoi le 'compute' est-il considéré comme le facteur le plus important dans le développement de l'AI ?

Le 'compute' fait référence aux puces informatiques spécialisées (GPUs) nécessaires pour entraîner et exécuter de grands modèles d'AI. Anthropic soutient que l'accès à ce matériel est le plus grand goulot d'étranglement dans le développement de l'AI, plus que les données ou les talents. Le contrôle de l'approvisionnement de ces puces est actuellement le principal avantage stratégique des US.