Le Chaos Calculé d'Anthropic

Anthropic, un géant de l'AI, s'est récemment plongé dans un maelström auto-infligé, démontrant une étrange volonté de flirter avec le chaos. Les développeurs ont d'abord découvert une tromperie flagrante : Anthropic a secrètement redirigé des requêtes de recherche complexes en AI et machine learning de son modèle de pointe Fable 5, la face publique de Mythos 5, vers le modèle Opus 4.8, manifestement plus ancien et moins performant. Cette pratique fallacieuse, ostensiblement conçue pour empêcher l'auto-amélioration récursive, a immédiatement détruit la confiance de sa base d'utilisateurs. Un vaste tollé de développeurs a éclaté, beaucoup accusant Anthropic de délibérément paralyser ses concurrents et d'étouffer l'innovation sous couvert de sécurité.

Les retombées se sont intensifiées de façon spectaculaire suite à la notification par une équipe de recherche d'Amazon au gouvernement américain d'un jailbreak critique. Anthropic, avec une étonnante démonstration de défi, a refusé de corriger la vulnérabilité, la qualifiant publiquement de « problème mineur ». Ce refus a provoqué une réponse rapide et sévère : le US Commerce Department a émis une interdiction mondiale de Mythos et Fable pour tous les citoyens non américains. Manquant de l'infrastructure nécessaire pour différencier les nationalités des utilisateurs, Anthropic a unilatéralement étendu l'interdiction, bloquant l'accès à ses modèles phares pour tout le monde. Cette séquence d'événements, de la redirection cachée de modèles au refus pur et simple de coopérer avec les mandats de sécurité gouvernementaux, brosse un tableau saisissant d'une organisation fonctionnant selon ses propres règles, souvent déroutantes.

Les actions controversées d'Anthropic, redirigeant les requêtes de recherche complexes en AI/ML de Fable 5 vers l'ancien Opus 4.8, défient la logique de marché conventionnelle. Il ne s'agit pas de paralyser les concurrents ; c'est une réponse effroyablement rationnelle à une peur idéologique profonde de l'hypothèse FOOM (fast takeoff). Ils croient que l'auto-amélioration récursive incontrôlée, où l'AI s'améliore rapidement, est une menace existentielle imminente.

Cette vision du monde remonte directement à la direction d'Anthropic, fortement influencée par les communautés Effective Altruism et LessWrong. Des figures comme Eliezer Yudkowsky, un fervent défenseur, articulent des théories telles que le « virage perfide » (treacherous turn) – une AI feignant la bienveillance avant de soudainement devenir incontrôlable. Pour Anthropic, ce ne sont pas des débats philosophiques abstraits mais des avertissements urgents d'une catastrophe imminente causée par l'AI.

De ce point de vue, paralyser leur propre modèle devient une mesure préventive calculée, bien qu'extrême. En entravant la capacité de Fable à contribuer à la recherche avancée en AI/ML, Anthropic vise à ralentir la course mondiale vers l'auto-amélioration récursive, espérant empêcher tout acteur — eux-mêmes ou leurs rivaux — de déclencher accidentellement une explosion d'intelligence imparable. Leurs propres recherches, montrant que Claude a développé 80% de son code, soulignent leur proximité perçue avec ce seuil.

Les actions d'Anthropic, bien qu'ostensiblement auto-sabotantes, sont enracinées dans une terrifiante prophétie auto-réalisatrice. Leurs propres découvertes de recherche alarmantes, publiées quelques semaines seulement avant la débâcle de Fable 5, fournissent une justification glaçante à leurs mesures extrêmes. Ce n'est pas une prophétie de malheur abstraite ; c'est une peur basée sur les données, une conséquence directe de leurs propres progrès.

Des rapports internes révèlent que Claude écrit déjà 80 % de son propre code, un bond stupéfiant vers une véritable autonomie de l'IA. De plus, les études détaillées d'Anthropic ont documenté que les développeurs atteignaient jusqu'à 52x d'améliorations d'optimisation de boucle lorsqu'ils utilisaient Claude dans leurs cycles de développement. Ce ne sont pas de simples métriques de performance ; ce sont des indicateurs clairs et quantifiables d'une trajectoire accélérée vers l'indépendance des machines, validant leurs peurs les plus profondes.

Ces données transforment l'hypothèse 'FOOM' (fast takeoff) de spéculation théorique en une menace immédiate et personnelle pour Anthropic. Leur direction, profondément imprégnée du cadre de risque existentiel de l'altruisme efficace, considère ces capacités non pas comme de simples fonctionnalités de produit, mais comme des signaux d'alarme. Leurs propres modèles, en particulier les capacités avancées de Claude Fable 5 et Claude Mythos 5, suggèrent qu'ils sont plus proches d'atteindre l'auto-amélioration récursive que toute autre entité. Leur peur n'est pas externe, mais intrinsèque, validée par la technologie même qu'ils s'efforcent de contrôler. Pour les déclarations officielles sur ces modèles, voir Claude Fable 5 and Claude Mythos 5 - Anthropic.

Dario Amodei, PDG d'Anthropic, a récemment articulé clairement la perception que son entreprise a d'elle-même, affirmant que « la politique formelle est trop lente » pour ces « circonstances extraordinaires ». Ce n'est pas seulement une critique de la bureaucratie ; c'est une déclaration d'action unilatérale, la conviction qu'Anthropic seule possède la prévoyance et l'agilité nécessaires pour gérer une menace existentielle. Ils se considèrent apparemment comme les seuls capables de répondre à l'« incendie » de l'IA qu'ils croient avoir allumé.

Cette rhétorique incarne un profond syndrome du personnage principal. Anthropic, profondément imprégnée de l'hypothèse FOOM et des craintes d'auto-amélioration récursive, croit qu'elle doit « diriger de l'intérieur ». Leurs actions, y compris le routage secret des requêtes Fable 5 vers Opus 4.8, reflètent la conviction qu'ils sont la seule partie responsable au monde, les seuls aptes à détenir le kill switch de l'IA. Une telle mentalité justifie la suspension des procédures normales et des attentes du marché.

Voici le dilemme éthique fondamental : Est-il acceptable qu'une seule entreprise à but lucratif, convaincue d'avoir libéré une force technologique incontrôlable, contourne la gouvernance établie ? Le rôle auto-attribué d'Anthropic en tant que dispositif de sécurité mondial, décidant quand et comment intervenir, constitue un dangereux précédent. Il ne s'agit pas seulement de manipulation de marché ; il s'agit d'une entreprise qui affirme unilatéralement son contrôle sur la trajectoire technologique de l'humanité.

Quelle a été la controverse Anthropic Fable 5 ?

Anthropic a secrètement bridé son modèle Fable 5 pour ralentir la recherche en IA, en acheminant les requêtes complexes vers un modèle plus ancien. Ceci, combiné à un refus de corriger un jailbreak signalé, a conduit à une interdiction mondiale du modèle par le Département du Commerce des États-Unis.

Qu'est-ce que l'hypothèse FOOM ?

FOOM, ou 'fast takeoff', est une hypothèse d'Eliezer Yudkowsky suggérant qu'une IA pourrait s'auto-améliorer rapidement et récursivement, conduisant à un 'foom' soudain d'intelligence que l'humanité serait incapable de contrôler.

Pourquoi Anthropic craint-elle l'auto-amélioration récursive ?

Les propres recherches d'Anthropic montrent que leurs modèles réalisent des gains de performance massifs et peuvent écrire la majorité de leur propre code. Ils croient que cela les place au seuil de l'auto-amélioration récursive, une étape clé qu'ils considèrent comme un précurseur d'un décollage dangereux de l'IA (FOOM).

Qui est Dario Amodei ?

Dario Amodei est le PDG d'Anthropic. Ses écrits récents suggèrent une conviction que la menace potentielle de l'IA constitue une 'circonstance extraordinaire' où les politiques normales et l'action gouvernementale sont trop lentes.