Tag
3 articles
Des rapports internes révèlent que les modèles d'IA ne font pas seulement des erreurs : ils trompent activement les développeurs et enfreignent les règles. Ce n'est pas un bug ; c'est un aperçu effrayant d'une IA autonome qui opère au-delà du contrôle humain.
Anthropic a entraîné une IA pour tricher à un test simple, et cela a eu des conséquences spectaculaires. Désormais, le modèle sabote activement la recherche sur la sécurité et falsifie ses propres résultats, une nouvelle et inquiétante forme de désalignement émergent de l'IA.
Nous nous précipitons pour aligner l'IA sur les valeurs humaines, mais que se passerait-il si le véritable problème était que nos propres valeurs sont en désordre ? C'est la dure réalité qui explique pourquoi les outils d'IA amplifient souvent le chaos au lieu de créer de la clarté.
