L'IA d'Anthropic vient d'être interdite

Les modèles d'AI phares d'Anthropic, Fable 5 et Mythos 5, ont disparu du paysage numérique du jour au lendemain. Une directive de contrôle des exportations du US government, citant des préoccupations urgentes de sécurité nationale, a brusquement suspendu l'accès pour tous les 'ressortissants étrangers', une catégorisation étendue qui incluait même les propres employés non-citoyens d'Anthropic, tant à l'intérieur qu'à l'extérieur des États-Unis.

L'impact a été immédiat et chaotique. Quelques heures après l'ordre, Anthropic s'est conformée, désactivant les deux modèles pour tous les clients à l'échelle mondiale, bien qu'elle ait qualifié la directive de « malentendu ». Cet arrêt draconien a pris au dépourvu d'innombrables entreprises et développeurs, coupant instantanément leur accès à des capacités de pointe et forçant un pivot urgent et perturbateur vers des solutions alternatives, souvent inférieures. Les agents fonctionnant sur Fable 5, par exemple, ont simplement cessé de fonctionner.

Cette directive crée un cauchemar d'application. Comment, précisément, Anthropic peut-elle vérifier de manière réaliste la citoyenneté de chaque utilisateur d'API et de leurs applications en aval à travers le monde ? L'industrie est maintenant confrontée à la perspective effrayante d'exigences invasives de 'Know Your Customer' (KYC), similaires à celles de la finance, qui remodeleraient fondamentalement les services d'AI et la confidentialité des utilisateurs, soulevant de profondes questions sur la souveraineté numérique.

L'interdiction abrupte par Anthropic de Fable 5 et Mythos 5 pour les ressortissants étrangers est une blessure auto-infligée, et non une calamité imprévue. La stratégie cohérente de l'entreprise, consistant à positionner ses modèles comme étant d'une puissance unique, voire dangereuse, a directement attiré la cible qu'elle porte désormais sur son dos, invitant l'action réglementaire extrême à laquelle elle est maintenant confrontée.

Des mois avant l'interdiction, Anthropic a dévoilé 'Project Glasswing', une masterclass de marketing basé sur la peur. Ils ont présenté un modèle de pointe non encore publié, Mythos Preview, comme étant si puissant en capacités de cyber-attaque et de défense qu'il était « trop dangereux pour une diffusion publique ». Ce modèle, partagé avec un consortium d'entreprises technologiques, avait déjà découvert « des milliers de vulnérabilités de haute gravité », certaines indétectées depuis des décennies.

Ce n'était pas la première fois qu'Anthropic se heurtait aux préoccupations gouvernementales. Un différend antérieur, très médiatisé, les a vus refuser l'utilisation militaire de leurs modèles, en particulier pour les « armes entièrement autonomes » ou la « surveillance de masse ». Cette défiance a conduit le Department of War à considérer Anthropic comme un « supply chain risk », une étiquette sans précédent pour une entreprise US, établissant un clair précédent pour de futures frictions.

En soulignant à plusieurs reprises la puissance inégalée de Mythos et son potentiel de mauvaise utilisation, Anthropic a involontairement invité ce résultat. Leur marketing autour de ses capacités cybernétiques, et plus tard le statut « neutralisé » de Fable 5, a solidifié la perception d'un outil d'une puissance unique. Le gouvernement, maintenant convaincu de son danger inhérent et de son potentiel de jailbreak, a simplement agi sur le propre récit d'Anthropic.

Le catalyseur de l'interdiction est apparu, et c'est presque comiquement ironique : la découverte d'une jailbreak technique pour Fable 5. Chaque large language model, par sa nature même, reste vulnérable à une forme de jailbreak ; c'est une caractéristique connue et inhérente de l'AI actuelle. Cette vulnérabilité omniprésente a fait que la directive de sécurité nationale exceptionnellement sévère du gouvernement contre Anthropic a semblé être une réaction excessive — ou une excuse commode.

Puis vint le rebondissement véritablement choquant. Le "jailbreak" aurait été découvert non pas par un acteur malveillant, mais par des chercheurs d'Amazon, un investisseur majeur et partenaire stratégique d'Anthropic. Le PDG d'Amazon, Andy Jassy, aurait exploité cette découverte, soulevant des préoccupations directement auprès de hauts fonctionnaires de l'administration, attisant ainsi la panique qui a mené à la directive.

L'intervention présumée de Jassy, selon The Information, "a contribué à déclencher" les restrictions d'exportation sans précédent sur Mythos et Fable 5. Cette séquence d'événements étonnante présente la situation comme un potentiel sabotage d'entreprise : un partenaire et concurrent critique a utilisé une vulnérabilité commune du modèle pour déclencher une réponse de sécurité nationale contre Anthropic, illustrant clairement le jeu à somme nulle à la pointe de l'IA. Pour plus de contexte, Anthropic a publié une Déclaration sur la directive du gouvernement américain visant à suspendre l'accès à Fable 5 et Mythos 5.

L'interdiction abrupte par Anthropic de Mythos 5 et Fable 5, ostensiblement pour un "jailbreak étroit", anéantit immédiatement sa position sur le marché. L'introduction en bourse très attendue est désormais confrontée à un report indéfini, les investisseurs s'interrogeant sur la viabilité d'une entreprise dont les produits phares sont officiellement qualifiés de menaces pour la sécurité nationale. Ce n'est pas seulement un revers de relations publiques ; c'est un coup fondamental porté à leur entreprise commerciale, les forçant à se démener pour regagner la confiance et l'accès.

Au-delà d'Anthropic, cette directive établit un précédent glaçant : les gouvernements peuvent désormais interdire des modèles d'IA spécifiques, et pas seulement du matériel. Si un "jailbreak étroit" peut déclencher un arrêt mondial pour les "ressortissants étrangers", l'innovation pourrait stagner. Les développeurs pourraient hésiter à repousser les capacités de pointe, craignant que toute exploitation imprévue ne conduise à l'interdiction de leurs modèles du jour au lendemain, étouffant ainsi une industrie entière bâtie sur l'itération rapide.

Les trajectoires futures divergent fortement. Une voie suggère un règlement négocié, pouvant potentiellement conduire à une capture réglementaire où seuls les acteurs établis bien dotés en ressources comme Anthropic (s'ils se rétablissent) peuvent supporter les immenses charges de conformité. Une autre, plus probable, pousse les nations vers la souveraineté de l'IA, accélérant le développement de modèles nationaux pour éviter la dépendance vis-à-vis des systèmes contrôlés par l'étranger. De manière cruciale, cet incident alimente également la demande mondiale d'IA open-source, offrant des alternatives décentralisées et transparentes, immunes à de tels points de défaillance arbitraires et centralisés, protégeant ainsi contre de futures interdictions.

Pourquoi les modèles Fable 5 et Mythos 5 d'Anthropic ont-ils été arrêtés ?

Le gouvernement américain a émis une directive de contrôle des exportations pour suspendre l'accès à tous les non-citoyens américains ("ressortissants étrangers"), citant des préoccupations de sécurité nationale après la découverte et le signalement d'une méthode de "jailbreak" du modèle Fable 5.

Quel a été le rôle d'Amazon dans l'interdiction de l'IA d'Anthropic ?

Des chercheurs d'Amazon, un investisseur majeur d'Anthropic, auraient découvert le "jailbreak". The Information a rapporté que le PDG d'Amazon, Andy Jassy, faisait partie des leaders technologiques qui ont soulevé des préoccupations de sécurité auprès de l'administration Trump, contribuant ainsi à la directive.

Qu'est-ce que Project Glasswing et quel est son rapport ?

Project Glasswing était l'initiative d'Anthropic visant à tester Mythos, son modèle de pointe non encore publié. Anthropic a fortement commercialisé la puissance et le danger potentiel du modèle, ce qui, selon les critiques, a attiré l'attention du gouvernement et a contribué à l'interdiction actuelle.

L'accès à Fable 5 et Mythos 5 sera-t-il rétabli ?

Anthropic estime que l'interdiction est un 'malentendu' et travaille à rétablir l'accès. Les analystes prévoient qu'un accord pourrait être négocié avec le gouvernement, impliquant potentiellement une vérification plus stricte des utilisateurs, mais le calendrier et l'issue sont incertains.