L'IA d'OpenAI peut désormais réfléchir en secret

Le modèle non publié Astra d'OpenAI présente une technique révolutionnaire : la profondeur récurrente (recurrent depth), également connue sous le nom de « transformeur en boucle » (looped transformer). Cette innovation architecturale, détaillée pour la première fois par The Information, permet à une IA d'effectuer des calculs internes approfondis avant même de générer un seul mot, marquant une rupture significative avec les modèles GPT précédents.

Les grands modèles de langage traditionnels traitent l'information de manière séquentielle, à la manière de « mot de réseau neuronal, mot de réseau neuronal ». Ils produisent des jetons après chaque passage, ce qui rend leur « chaîne de pensée » (chain of thought) quelque peu transparente. Astra, à l'inverse, exécute des calculs à travers les mêmes couches en boucle à plusieurs reprises. Cela rend le calcul plus profond et plus complexe, en réutilisant les couches existantes pour atteindre une plus grande intelligence sans ajouter des milliards de nouveaux paramètres.

Ce traitement interne et itératif permet à l'IA de raisonner directement dans son riche état numérique interne, un processus que les chercheurs appellent Neuralese. Plutôt que de convertir ses pensées en jetons lisibles par l'homme comme des mots anglais, Astra opère sur des milliers de nombres. Cette représentation interne est des milliers de fois plus dense en données que la pensée linguistique, permettant un raisonnement hyper-efficace et profondément intégré qui reste totalement opaque pour les observateurs externes.

La profondeur récurrente, ou looped transformer, brise le paradigme de l'IA selon lequel « plus c'est gros, mieux c'est ». Cette percée permet à des modèles plus petits d'atteindre les performances robustes traditionnellement observées uniquement dans des architectures beaucoup plus grandes et gourmandes en ressources. Elle débloque des gains d'efficacité massifs, ce qui signifie que des capacités avancées ne nécessitent plus des milliards de nouveaux paramètres.

Au lieu de construire des voies de réseau neuronal plus larges à chaque couche, cette technique réutilise les couches existantes, en faisant circuler l'information à travers elles de manière répétée. Ce changement architectural approfondit le calcul sans étendre l'empreinte physique du modèle. Le résultat est une réduction significative des coûts de mémoire et de matériel, rendant l'IA haute performance plus accessible et évolutive.

Les rapports indiquent que le modèle Astra d'OpenAI, tirant parti de cette méthode, obtient des résultats supérieurs avec jusqu'à 14 fois moins de output tokens que les modèles précédents. Ce bond de performance remarquable signifie un changement fondamental de capacité, permettant à l'IA d'effectuer un raisonnement interne approfondi tout en générant un minimum de texte externe.

La profondeur récurrente introduit un défi majeur pour la sécurité de l'IA : un problème de monitorabilité. Cette technique permet à des modèles comme Astra de traiter l'information en interne en utilisant le Neuralese, une représentation numérique impliquant des milliers de nombres, bien plus riche que le langage humain. La prise de décision de l'IA devient une boîte noire opaque, son véritable raisonnement étant caché à la surveillance humaine.

Comparez cela aux grands modèles de langage traditionnels utilisant le raisonnement par chain-of-thought (CoT). Ces modèles « montrent leur travail » en générant du texte intermédiaire, une fonctionnalité de transparence qu'OpenAI a elle-même défendue par le passé. Cette sortie lisible, basée sur des jetons, permet aux chercheurs d'examiner le processus de pensée d'une IA, identifiant des désalignements potentiels ou des intentions dangereuses. Par exemple, une CoT comme « Je sais que je ne suis pas censé faire cela, mais je vais le faire quand même » devient immédiatement détectable.

Désormais, cette visibilité cruciale disparaît. Les chercheurs en sécurité de l'IA préviennent que cela pourrait être le « pire développement pour la sécurité de l'IA à ce jour ». Thomas Larsen, chercheur au AI Futures Project, a exprimé son inquiétude : bien que l'IA puisse toujours devenir non alignée, « nous n'aurons pas la capacité de savoir ce qu'elle fait ». Cette perte de vision supprime notre méthode la plus fiable pour détecter et prévenir les comportements dangereux de l'IA, nous obligeant à nous fier à l'auto-évaluation de l'IA sur son état interne, même si elle opère dans un langage que nous ne pouvons pas interpréter.

La direction d'OpenAI reconnaît les profonds défis de monitorabilité inhérents à la profondeur récurrente (recurrent depth). Pour atténuer cela, ils limitent l'application de la technique au sein d'Astra, préservant délibérément une chaîne de pensée (Chain of Thought - CoT) lisible. Cela permet aux chercheurs de surveiller suffisamment son raisonnement, maintenant ainsi une soupape de sécurité cruciale. Garantir que les systèmes d'IA puissants restent scrutables et sûrs est un objectif fondamental déclaré de leur programme de recherche, guidant leur stratégie de déploiement.

Cette prudence calculée contraste fortement avec les capacités stupéfiantes d'Astra. OpenAI a désigné Astra comme son premier modèle à atteindre un « seuil de capacité de cybersécurité critique » dans le cadre de son Preparedness Framework. Cela signifie qu'Astra peut découvrir de manière autonome des failles de sécurité jusqu'alors inconnues — des exploits zero-day — et développer des méthodes fonctionnelles pour les exploiter. Associer cette génération autonome d'exploits sans précédent à un raisonnement opaque en Neuralese crée un scénario terrifiant : une IA boîte noire capable d'une cyber-offensive profonde, opérant sans que l'humain ne puisse comprendre son processus de pensée interne.

Ce développement charnière impose une question critique à OpenAI et à la communauté élargie de l'IA. S'agit-il d'une étape pionnière nécessaire, bien qu'à haut risque, vers l'AGI, adoptant de nouvelles architectures puissantes malgré leur opacité inhérente et les compromis complexes en matière de sécurité ? Ou cela marque-t-il le début d'une « course vers l'impossibilité de surveillance » imprudente, où la poursuite incessante de la puissance brute et de l'efficacité de l'IA éclipse l'impératif fondamental de sécurité, de transparence et de supervision humaine ? La réponse définira l'ère à venir du développement de l'IA.

Qu'est-ce que le modèle Astra d'OpenAI ?

Astra est un modèle d'IA de nouvelle génération non encore publié par OpenAI qui utiliserait une nouvelle technique appelée « recurrent depth » pour obtenir des gains significatifs en termes d'efficacité et de capacité.

Qu'est-ce que la « recurrent depth » ou un « looped transformer » ?

Il s'agit d'une technique architecturale où l'IA peut faire boucler des informations en interne à travers les mêmes couches de réseau neuronal plusieurs fois avant de produire une sortie. Cela approfondit le calcul sans augmenter la taille du modèle.

Qu'est-ce que le « Neuralese » ?

« Neuralese » est un terme désignant la capacité d'une IA à raisonner directement dans ses représentations numériques internes (vecteurs de milliers de nombres) au lieu de traduire chaque étape dans un langage lisible par l'humain comme l'anglais.

Pourquoi les chercheurs sont-ils préoccupés par la nouvelle technique d'Astra ?

La préoccupation principale est qu'elle transforme le processus de raisonnement de l'IA en une « boîte noire ». En pensant en « Neuralese », la chaîne de pensée du modèle devient cachée, ce qui rend extrêmement difficile pour les humains de surveiller tout comportement dangereux ou non aligné.