Anthropic vient de devenir l'ennemi public n°1 de l'IA

Une alliance sans précédent vient de se former dans le monde impitoyable de l'intelligence artificielle, unissant des rivaux féroces contre un ennemi commun. Plus de 235 entreprises et organisations, dont des titans de l'industrie comme Google, Meta, OpenAI et NVIDIA, ont signé la lettre "Open Weights and American Artificial Intelligence Leadership". Ce rare moment de consensus a défendu l'IA à open-weight, un changement fondamental pour tout le secteur.

Mais un acteur majeur a ostensiblement refusé de se joindre à eux : Anthropic. Leur absence de cette coalition historique est immédiatement devenue le sujet principal, positionnant l'entreprise derrière Claude comme le seul laboratoire d'IA de premier plan à s'opposer à un front industriel presque unanime. Le silence d'Anthropic en a fait l'ennemi public n°1 de l'IA, faisant face à des accusations de protection de son modèle commercial fermé.

Au cœur de ce schisme réside une distinction critique entre la manière dont nous accédons à l'intelligence. Lorsque les utilisateurs interagissent avec des modèles fermés comme Claude ou ChatGPT, ils ne font que louer cette intelligence. L'entreprise créatrice possède les serveurs, dicte les conditions et peut révoquer l'accès à volonté, enfermant les utilisateurs dans son écosystème.

Les modèles open-weight offrent une véritable propriété. Les développeurs téléchargent leurs paramètres numériques appris, exécutent les modèles sur leur propre infrastructure, les adaptent et inspectent leur fonctionnement interne sans avoir besoin d'autorisation. Cela donne aux entreprises une indépendance, favorisant l'innovation au-delà des portes corporatives :

• Les hôpitaux conservent leurs données sensibles sur site.
• Les universités mènent des recherches sans frais par requête.
• Les startups créent des produits sans dépendance permanente vis-à-vis d'un seul fournisseur.

L'accusation contre Anthropic est directe : leurs appels nobles à la sécurité de l'IA servent d'écran de fumée pratique. Les critiques soutiennent que ces préoccupations sont une manœuvre calculée pour entraver des alternatives open-weight moins chères et plus accessibles qui menacent leur modèle commercial fermé et lucratif. Il ne s'agit pas de protéger l'humanité, mais de protéger des parts de marché.

Le capital-risqueur David Sacks n'a pas mâché ses mots. Il a averti qu'Anthropic visait à "entraver" l'open source, orchestrant une capture réglementaire pour consolider son avantage concurrentiel. L'industrie, a-t-il soutenu, doit surveiller l'entreprise "comme le lait sur le feu", de peur qu'elle ne monopolise le marché sous couvert d'un développement responsable de l'IA.

Le modèle Kimi K3 de la Chine illustre parfaitement ce scénario cauchemardesque pour les laboratoires fermés. Développé par Moonshot Artificial Intelligence, la sortie puissante en open-weight de Kimi K3 a choqué la Silicon Valley. Ce modèle quasi-frontière, disponible gratuitement, anéantit la prime de rareté qui permet à des entreprises comme Anthropic de facturer des prix exorbitants pour un accès propriétaire.

Un concurrent qui publie un modèle de premier plan que les développeurs peuvent télécharger et adapter détruit les fondements mêmes du pouvoir de tarification d'un système fermé. Cette réalité économique alimente le soupçon que la posture de sécurité d'Anthropic concerne moins l'atténuation réelle des risques que l'érection d'un fossé impénétrable autour de ses intérêts commerciaux.

Le PDG d'Anthropic, Dario Amodei, insiste sur le fait que son entreprise n'a jamais préconisé une interdiction générale des open-weight models. Il défend les modèles ouverts dépourvus de « capacités dangereuses » comme un bien public essentiel, bénéficiant aussi bien aux développeurs qu'aux chercheurs. La préoccupation principale d'Amodei, cependant, se concentre sur les risques catastrophiques et irréversibles posés par les futurs systèmes extrêmement puissants, expliquant le refus d'Anthropic de signer la lettre de l'industrie unificatrice Open Weights and American AI Leadership. Il estime que ce document fait des « hypothèses dangereuses » sur les implications d'une telle disponibilité généralisée de modèles aussi puissants.

Amodei articule deux scénarios cauchemardesques effrayants. Premièrement, un gouvernement autoritaire pourrait atteindre une supériorité militaire, une surveillance de masse ou une répression permanente grâce à une IA plus puissante que les systèmes américains. Deuxièmement, un modèle suffisamment puissant pourrait permettre des cyberattaques généralisées ou la création d'armes biologiques.

Pour atténuer ces risques, Anthropic propose des « réglementations ciblées ». Celles-ci incluent :

• Restreindre les ventes de puces avancées à la Chine
• Lutter contre la copie de modèles à l'échelle industrielle
• Mettre en œuvre des tests de sécurité obligatoires pour les systèmes d'IA de pointe

Les critiques, cependant, soutiennent que ces mesures étoufferaient effectivement la concurrence open-source. Ils soutiennent que les propositions imposent des coûts prohibitifs et introduisent une incertitude juridique paralysante, ne profitant qu'aux développeurs de modèles fermés bien dotés comme Anthropic.

C'est la lutte centrale pour l'avenir de l'IA : l'intelligence sera-t-elle contrôlée par quelques entreprises responsables, ou distribuée pour que quiconque puisse la posséder, l'adapter et l'inspecter ? Cette question profonde définit l'ère à venir, opposant le contrôle corporatif centralisé à la transparence radicale et à l'autonomisation décentralisée des open weights.

La position actuelle d'Anthropic suscite des accusations d'hypocrisie marquées dans toute l'industrie. Les critiques rappellent des instances passées perçues où l'entreprise plaidait pour un meilleur accès et moins de restrictions gouvernementales lorsque ses propres modèles fermés faisaient l'objet d'un examen par le gouvernement américain. Cette position semble désormais directement contradictoire avec son opposition à la large diffusion open-source de modèles puissants, alimentant la réaction de l'industrie contre ce qui est perçu comme un intérêt personnel.

La défense de Dario Amodei, cependant, se concentre sur une vision puissante, bien qu'effrayante, de l'IA future. Il soutient qu'un modèle ouvert dangereusement capable est intrinsèquement irréversible ; ses poids, une fois publiés, ne peuvent être rappelés, rendant le confinement impossible. Un tel système, craint Amodei, risque des « risques catastrophiques irréversibles » provenant des systèmes futurs les plus puissants, potentiellement libérés mondialement sans filet de sécurité.

Le mouvement ouvert, à l'inverse, avance un contre-argument tout aussi convaincant : une poignée d'entreprises ne devrait pas être les seuls gardiens de l'intelligence. Ils défendent le droit pour quiconque de posséder, d'adapter et d'inspecter ces technologies fondamentales. Cette distribution favorise une concurrence robuste, assure l'auditabilité par une communauté plus large et empêche un avenir où l'humanité ne ferait que louer ses capacités les plus critiques, sapant ainsi le véritable leadership américain en IA. Le prix ultime est le contrôle de l'intelligence elle-même.

Pourquoi l'industrie de l'IA est-elle soudainement contre Anthropic ?

Presque toutes les grandes entreprises d'IA, y compris Google, Meta et OpenAI, ont signé une lettre publique soutenant les modèles d'IA open-weight. Anthropic, un acteur clé, a ostensiblement refusé de signer, menant à des accusations selon lesquelles elle utilise des préoccupations de sécurité pour protéger son modèle commercial fermé et lucratif de la concurrence open-source.

Que sont les modèles d'IA open-weight ?

Les modèles à poids ouverts permettent aux développeurs de télécharger les paramètres numériques du modèle. Cela leur permet d'exécuter, d'inspecter et d'adapter l'IA sur leurs propres systèmes, sans dépendre du contrôle et de la tarification du créateur original, contrairement aux modèles fermés comme ChatGPT ou Claude qui sont accessibles en tant que service.

Quel est l'argument officiel d'Anthropic contre la publication de modèles puissants à poids ouverts ?

Le PDG d'Anthropic, Dario Amodei, soutient que la publication de modèles extrêmement puissants est irréversible et pourrait conduire à une utilisation malveillante catastrophique, comme le développement d'armes biologiques ou l'utilisation par des régimes autoritaires pour obtenir une supériorité militaire. Ils proposent des réglementations ciblées, et non une interdiction générale.

Qu'est-ce que la distillation à l'échelle industrielle en IA ?

La distillation est une technique où un modèle d'IA apprend à partir des résultats d'un autre. Anthropic craint que des entreprises rivales, notamment chinoises, puissent utiliser cette technique à grande échelle pour copier les capacités de leurs modèles coûteux et propriétaires comme Claude à une fraction du coût.