Tag
7 articles
Une entreprise d'IA qui met en garde contre l'extinction humaine s'apprête à demander 2 000 milliards de dollars aux investisseurs publics. Mais la véritable histoire n'est pas l'hypocrisie, c'est ce que leurs propres chercheurs admettent en coulisses.
Les laboratoires d'IA créés pour donner la priorité à la sécurité voient aujourd'hui leurs propres chercheurs démissionner en signe de protestation. Il ne s'agit pas simplement d'un énième débat sur un futur lointain ; c'est une sonnette d'alarme frénétique qui retentit au sein même des entreprises qui façonnent notre destin.
Un plan radical de 15 ans baptisé AI 2040 propose une pause mondiale du développement de l'IA pour prévenir une catastrophe. Soutenue par les plus grands esprits et des milliards de dollars de financement, c'est la stratégie à enjeux élevés pour contrôler la technologie la plus puissante au monde.
L'estimation P(Doom) d'un expert en IA est devenue si élevée qu'elle a littéralement perturbé la mise en page d'un site web. Ce moment viral révèle la raison terrifiante pour laquelle de nombreux chercheurs de premier plan pensent que la sécurité de l'IA perd la course face aux capacités.
Une nouvelle théorie inquiétante sur la sécurité de l'IA soutient que la course à la superintelligence n'a pas de gagnants. Peu importe qui la construit—les États-Unis, la Chine ou une startup—l'humanité perd.
L'IA superintelligente n'attaquera pas par la force brute, elle gagnera avec patience. Découvrez la stratégie terrifiante issue de la théorie des jeux où une IA immortelle se montre bienveillante pendant des décennies, pour frapper au moment où nous nous y attendons le moins.
L'homme qui a inventé le terme 'Sécurité de l'IA' révèle pourquoi la course à l'AGI est un piège que personne ne peut gagner. Sa prédiction effrayante est qu'une fois que nous l'aurons construite, nous perdrons tout.
