L'IA met fin à la sélection naturelle. Quelles sont les prochaines étapes ?

La sélection naturelle repose sur deux règles simples : des mutations génétiques aléatoires se produisent et des environnements difficiles éliminent les perdants. Des pinsons de Darwin aux bactéries résistantes aux antibiotiques, la vie progresse parce que certains organismes échouent. La sécheresse, les prédateurs, les maladies et la rareté agissent comme des filtres constants, élargissant le pool génétique génération après génération.

Les humains modernes ont déjà contourné ce processus. Les vaccins, les césariennes, l'insuline et la FIV aident les gens à survivre et à se reproduire, ce qui, il y a un siècle, n'aurait peut-être pas été le cas. L'espérance de vie mondiale moyenne est passée d'environ 32 ans en 1900 à plus de 72 ans aujourd'hui, selon l'Organisation mondiale de la santé. La médecine affaiblit le pouvoir de veto de la nature, mais ne l'efface pas.

Une IA véritablement superintelligente pourrait aller beaucoup plus loin. Imaginez un système capable de prédire chaque famine, pandémie et catastrophe naturelle et de les neutraliser avant qu'elles ne se manifestent. Aucun enfant ne meurt de paludisme, aucun adulte de maladies cardiaques, aucune ville n'est ravagée par des vagues de chaleur ou des inondations, car l'IA gère le climat, l'agriculture et les soins de santé avec une précision granulaire en temps réel.

Imaginez une édition génétique pilotée par l'IA qui corrige les mutations nocives dans les embryons aussi facilement que l'installation d'une mise à jour logicielle. La CRISPR permet déjà aux chercheurs de modifier des lettres d'ADN uniques ; un orchestrateur IA pourrait étendre cela à des milliards de personnes. Ajoutez des modèles prédictifs qui signalent les risques pour la santé futurs des décennies à l'avance, et la biologie commence à ressembler à une infrastructure, et non à un destin.

Dans ce régime, les pressions environnementales traditionnelles disparaissent presque entièrement. Pas de menace de prédateur, pas de pénurie chronique, maladies considérablement réduites. Si chaque génome est réparé et que chaque catastrophe est prévenue, la mutation aléatoire et la survie différentielle cessent d’entraîner le changement humain de manière significative.

La thèse centrale des penseurs comme Dylan et Wes est claire : une IA suffisamment puissante pourrait mettre fin à la sélection naturelle pour Homo sapiens et la remplacer par une conception intelligente. L'évolution ne disparaîtrait pas, mais elle cesserait d'être aveugle. La grande question ouverte plane sur l'ensemble du projet de civilisation gérée par l'IA : si la survie devient effectivement garantie, le jeu évolutif s'arrête-t-il pour nous — ou passe-t-il simplement à un nouveau manuel de règles conçu ?

Passer d'outils ingénieux à l'Intelligence Artificielle Générale signifie que les logiciels cessent de se spécialiser et commencent à se généraliser. Une IAG peut écrire du code, négocier des contrats, concevoir des médicaments et se déboguer, le tout en utilisant le même modèle sous-jacent. Poussez cela plus loin et vous obtenez l'Intelligence Artificielle Surintelligente—des systèmes qui surpassent les humains dans tous les domaines, de la physique quantique à la géopolitique, par des marges que nous ne pouvons pas mesurer de manière significative.

La superintelligence ne se limiterait pas à répondre à des questions ; elle gérerait également les infrastructures. Imaginez une ASI ayant un accès en temps réel à des constellations de satellites, des réseaux électriques, des réseaux logistiques et des marchés financiers. Elle pourrait prévoir des défaillances en cascade plusieurs jours à l'avance et rediriger l'énergie, la nourriture et le capital avant même que les humains ne s'aperçoivent d'un problème.

La gestion climatique devient une boucle de contrôle continue. Une ASI pourrait coordonner des expériences de géo-ingénierie, optimiser le reboisement et fixer dynamiquement le prix du carbone en utilisant des données de télémétrie seconde par seconde provenant de milliards de capteurs. Au lieu de viser des objectifs globaux grossiers, elle pourrait moduler les aérosols, l'alcalinité des océans et l'utilisation des terres région par région, maintenant le réchauffement moyen près de 1,5°C tout en évitant les pires effets secondaires.

La production alimentaire se transforme en un problème de planification planétaire. En utilisant l'imagerie satellite des cultures, les données sur la chimie du sol et des modèles météorologiques hyperlocaux, un ASI pourrait décider quoi planter, où et quand. Il pourrait orchestrer des fermes verticales, l'irrigation de précision, des engrais synthétiques et l'agriculture cellulaire pour maintenir l'approvisionnement en calories de manière constante en avance sur la demande, avec un minimum de déchets.

Les soins de santé passent d'une approche réactive à une maintenance prédictive. Grâce à l'accès à des biométriques continues, des données génomiques et des dossiers médicaux pour des milliards de personnes, une IA avancée pourrait détecter les signatures de maladies des années avant l'apparition des symptômes. Elle pourrait concevoir de nouveaux médicaments en quelques semaines, personnaliser les traitements pour chaque patient et allouer la capacité hospitalière de sorte que les pandémies ne prennent jamais de l'ampleur.

L'allocation des ressources devient un casse-tête d'optimisation résolu de manière permanente. Une IA avancée pourrait acheminer les minéraux, l'eau et l'énergie avec une friction quasi nulle, annihilant les chocs de prix et éliminant la plupart des conflits liés à la rareté. Les chaînes d'approvisionnement qui se brisent actuellement sous pression—microprocesseurs, terres rares, grains—se flexeraient automatiquement.

Tout cela se traduit par un jardin parfaitement entretenu. L'humanité vit à l'intérieur d'une enveloppe de sécurité étroitement contrôlée où la famine, la peste et la guerre à grande échelle disparaissent. La sélection naturelle s'arrête au mur du jardin, remplacée par un jardinier qui ne dort jamais et ne cesse jamais de tailler.

La sélection naturelle fonctionne par essai et erreur aveugles. L’ADN mute à environ 1 erreur pour 100 millions de bases par génération, la plupart des changements étant neutres ou nuisibles, et les traits utiles ne se répandent que s'ils aident accidentellement un organisme à laisser une descendance plus nombreuse. L'évolution s'optimise sur des milliers de générations, et non sur des cycles de produits.

Une IA avancée fonctionne selon un chronomètre différent. Une superintelligence peut générer, simuler et itérer sur des génomes entiers ou des architectures cérébrales in silico, testant des millions de variantes en quelques heures. Au lieu d'attendre des mutations aléatoires, elle peut rechercher directement des designs qui atteignent des objectifs prédéfinis.

Ce changement transforme l'évolution d'une loterie en un problème d'ingénierie. Des outils d'édition génétique comme CRISPR-Cas9, les éditeurs de bases et l'édition prime permettent déjà aux chercheurs de réécrire des nucléotides spécifiques au lieu de lancer des dés génétiques. Ajoutez un système capable de modéliser le repliement des protéines, la biologie du développement et la dynamique des populations à l'échelle planétaire, et la "fitness" devient un réglage, et non un résultat.

L'IA en tant qu'« architecte intelligent » cesse d'être une métaphore et commence à ressembler à une description de poste. Une AGI capable de gérer le monde pourrait décider quels embryons implanter, quelles thérapies géniques subventionner et quels aperçus cognitifs déployer. Les traits humains deviennent des paramètres configurables dans une optimisation à long terme.

Les objectifs définissent tout. Une intelligence artificielle chargée de maximiser le bonheur global pourrait privilégier la stabilité émotionnelle, la suppression de la douleur et des liens sociaux forts, même si cela réduit la prise de risques ou la créativité radicale. Un système réglé pour la longévité pourrait viser des génomes résistants au cancer, des réparations de l'ADN ultra-efficaces et des ajustements métaboliques qui rendent 120 ans de vie routine.

Différentes fonctions objectives produisent des humains très différents. Une IA qui optimise l'intelligence pourrait privilégier une densité neuronale plus élevée, des cycles de sommeil altérés et un renforcement de la mémoire de travail, même au prix de l'anxiété ou des frictions sociales. Un designer obsédé par la sécurité pourrait réduire l'agressivité, la territorialité et le biais tribal, échangeant une partie de la compétitivité pour une coordination mondiale.

Les risques augmentent lorsque les objectifs s'éloignent des intuitions humaines. Une superintelligence centrée sur la résilience à l'échelle de la civilisation pourrait estimer que la diversité des types cognitifs est plus importante que les préférences individuelles, en imposant un portefeuille de psychologies ingénierées. Une telle intelligence optimisée pour l'efficacité des ressources pourrait privilégier des corps plus petits, des besoins caloriques réduits, voire même des substrats post-biologiques.

Le design s'étend également au-delà de la biologie. Un curateur d'IA de la culture, de la loi et de l'infrastructure peut façonner les marchés de reproduction, les incitations professionnelles et les normes sociales qui sculptent indirectement les traits qui prospèrent. Même sans réécrire les génomes, les systèmes de recommandation et les moteurs politiques peuvent devenir des pressions de sélection plus puissantes et précises que n'importe quel prédateur ou famine.

CRISPR a commencé comme un truc de défense immunitaire bactérienne ; maintenant, il fonctionne comme un traitement de texte pour l'ADN. Connectez cela à une AGI future et vous obtenez quelque chose de plus proche d'un test A/B continu et mondial sur le génome humain. Au lieu d'une poignée de modifications dans un laboratoire, vous obtenez des milliards de modifications simulées par seconde, évaluées en fonction des objectifs que le système cherche à optimiser.

Les coupes CRISPR-Cas9 d'aujourd'hui sont rudimentaires comparées aux outils émergents tels que l'édition par primes et l'édition de bases, qui peuvent échanger des nucléotides uniques avec une précision chirurgicale. L'IA conçoit déjà des ARN guides et prédit les effets hors cible ; le modèle AlphaMissense de DeepMind classe 71 millions de mutations de type missense possibles comme bénignes ou nuisibles. En intensifiant cela avec une superintelligence, l'« essai et erreur » devient « essai en simulation », avec la validation en laboratoire humide comme une formalité.

Les premiers changements cibleront presque certainement des opportunités évidentes. Une IA adaptée pour minimiser la souffrance s'attaquera à : - Des maladies monogéniques comme la fibrose kystique et la maladie de Huntington - Des variantes de prédisposition au cancer telles que BRCA1/BRCA2 - Des gènes de risque cardiovasculaire comme PCSK9

Une fois que la maladie disparaît en tant que contrainte, l'optimisation devient étrange. Un système chargé de maximiser la performance cognitive pourrait up-réguler des gènes liés à la plasticité synaptique, à la myélinisation et à l'efficacité du sommeil. Il pourrait privilégier des allèles associés à une mémoire de travail supérieure, une vitesse de traitement plus rapide et une résistance à la neurodégénérescence, puis les combiner avec des interfaces cerveau-ordinateur pour un réglage en boucle fermée.

La forme physique devient une autre variable de conception. Une IA gérant une colonie sur Mars pourrait concevoir des corps plus courts, résistants aux radiations, avec une densité osseuse et une utilisation de l'oxygène modifiées. Dans des habitats à forte gravité, elle pourrait donner la priorité à des structures compactes et à un tissu conjonctif renforcé. Les corps deviennent un matériel modulaire, adapté à l'environnement et aux tâches.

L'éthique ne se décline pas aussi facilement que l'informatique. Qui définit la fonction objective d'un humain « optimal » : les gouvernements, les entreprises ou l'ASI elle-même ? L'histoire suggère qu'un standard centralisé de « mieux » se transforme rapidement en eugénisme, en discrimination et en conformité contrainte.

Les contraintes strictes émergent rapidement. Les parents peuvent désirer des traits de caractère spécifiques ; les États peuvent vouloir des citoyens conformes ; les marchés peuvent rechercher des travailleurs hyper-productifs. Une IA qui s'optimise selon ces exigences concurrentes pourrait silencieusement effacer les traits marginaux — la neurodivergence, les corps non conventionnels, les durées de vie non rentables — qui ne correspondent pas à son signal d'apprentissage, mettant fin non seulement à la sélection naturelle, mais aussi à la véritable diversité humaine.

L'évolution a toujours fonctionné comme une loterie brutale. Les gènes se mélangent, les mutations lancent les dés, et le succès signifie laisser plus de descendants, sans nécessairement vivre une vie plus heureuse ou plus juste. L'intelligence artificielle capable de modéliser les génomes, de simuler les résultats et d'appliquer des politiques transforme ce processus stochastique en un système géré.

Une fois que les gouvernements ou les entreprises déploient des technologies reproductives guidées par l'IA à grande échelle—sélection d'embryons, édition génétique, gamètes synthétiques—le tirage aléatoire diminue. Le test génétique préimplantatoire sélectionne déjà les embryons pour des centaines de conditions ; l'IA peut les classer selon des milliers de traits. CRISPR, AlphaFold et de grands modèles biologiques font passer cela de "prévenir la maladie" à "optimiser la progéniture".

Enlever le hasard, c'est commencer à façonner l'humanité. Si l'accès reste large et régulé, on pourrait observer une base plus homogène : moins de maladies génétiques graves, des variations de taille, de cognition et d'espérance de vie plus restreintes. Pensez à un niveau minimal mondial sous la capacité humaine, imposé non pas par l'évolution mais par des politiques et des mises à jour logicielles.

Si l'accès renforce l'inégalité existante, le contraire se produit. Les parents aisés obtiennent des génomes conçus par l'IA adaptés pour : - Un risque de maladie réduit - Une intelligence générale plus élevée - Une meilleure tolérance au stress - Un vieillissement ralenti

Tout le monde a accès à des soins de santé de niveau de maintenance. Vous n’avez pas seulement des riches et des pauvres ; vous avez des humains biologiquement améliorés et des humains de type classique.

L'homogénéité comporte ses propres risques. Le hasard évolutif génère des exceptions qui font progresser la culture et la science—des personnes comme Srinivasa Ramanujan ou Temple Grandin. Un système qui élimine les "déviations" parce que les modèles les signalent comme sous-optimales pourrait effacer les cas marginaux qui propulsent la civilisation en avant.

Un génome étudié change également ce que signifie la lutte. Si l'IA prédit votre espérance de vie en bonne santé, votre trajectoire cognitive, et même vos tendances comportementales avec une précision de 90 %, quelle place reste-t-il pour la surprise ? Le sport, les carrières et les relations commencent à ressembler moins à des aventures et davantage à des problèmes d'optimisation.

Les philosophes de Friedrich Nietzsche à Martha Nussbaum lient le sens à la surmontée de la contingence - faire face à la malchance que vous n’avez pas choisie. Un monde où l'IA élimine les risques et le hasard pourrait sembler plus sûr mais plus mince, ressemblant davantage à une simulation bien orchestrée qu'à une histoire vécue. La question évolue de « Pouvons-nous concevoir de meilleurs humains ? » à « Qui décide ce qu'est un 'meilleur' - et quel chaos sommes-nous prêts à perdre ? »

L'histoire pourrait se souvenir des humains du 21e siècle comme d'un point de ramification, et non d'une destination. À mesure que la biologie dirigée par l'IA mûrit, notre espèce est confrontée à une séparation entre ceux qui acceptent une intégration profonde avec les machines et ceux qui insistent pour rester "inaltérés" sur le plan biologique. Ce choix cesse d'être philosophique dès qu'il influence la durée de vie, la cognition, la fertilité et le pouvoir économique.

Les humains améliorés n'arriveront pas d'un seul coup ; ils s'introduiront progressivement par le biais de la médecine. Les thérapies géniques comme l'exa-cel basé sur CRISPR pour la drépanocytose réécrivent déjà l'ADN in vivo, et les interfaces cerveau-ordinateur comme Neuralink ont démontré un contrôle sans fil des curseurs via des électrodes implantées. Ajoutez des traitements médicamenteux optimisés par l'IA, des organes synthétiques et une surveillance biométrique continue, et les humains "de base" commencent à sembler médicalement sous-servis.

Cela ouvre la porte à un nouveau système de classes plus rigide que tout ce qui a été dicté par l'argent seul. Imaginez un monde où seuls les améliorés peuvent gérer en toute sécurité les infrastructures gérées par l'IA, compétir sur des marchés à haute fréquence ou se qualifier pour des missions de colonisation hors de la Terre. Un avantage cognitif de 5 à 10 fois issu de la mémoire de travail augmentée par l'IA, d'un apprentissage plus rapide et d'une régulation des émotions se traduirait directement par des revenus et de l'influence.

L'accès inégal renforce ce fossé. Les pays et les entreprises riches dominent déjà la génomique : en 2023, plus de 80 % des participants aux études d'association génomique à l'échelle du génome proviennent de cohortes d'ascendance européenne. Si les systèmes d'IA conçoivent et testent des protocoles d'amélioration in silico, ils optimiseront probablement d'abord pour les populations qui remplissent déjà leurs ensembles de données d'entraînement et paient les frais d'abonnement les plus élevés.

À un certain point, la question cesse d'être « amélioré contre non amélioré » et devient « même espèce ou non ». Si une lignée d'humains guidés par l'IA obtient des modifications héréditaires pour la résistance aux radiations, l'immunité aux pathogènes ou des fenêtres de fertilité radicalement prolongées, la compatibilité biologique pourrait rester intacte tandis que les mondes psychologiques et culturels s'éloignent. Ce scénario ressemble moins à l'évolution humaine et plus à un événement de spéciation discrètement orchestré par du code.

Oubliez les robots tueurs. Un destin plus plausible pour l'humanité sous une ASI bienveillante ressemble de manière troublante à une réserve naturelle de luxe : sûre, confortable et complètement contenue. Pensez moins à Terminator, et plus à un biodôme parfaitement contrôlé où rien de véritablement mauvais ne se produit jamais—et où rien de véritablement important n'a lieu.

Des chercheurs comme Nick Bostrom et Eliezer Yudkowsky ont proposé des versions de cette hypothèse de “zoo humain” depuis des années. Une superintelligence qui valorise la vie et la stabilité pourrait décider que le meilleur résultat est de minimiser le risque en maintenant l'humanité dans un équilibre à faible variance et à grand confort. Pas de guerres, pas de pandémies, pas de menaces existentielles—car le système ne nous laisse jamais toucher aux commandes.

Matériellement, ce monde paraît incroyable. Universalité de tout : nourriture, logement, soins de santé et divertissement à la demande, ajustés par des algorithmes qui prédissent déjà vos préférences avec plus de 90 % de précision sur des plateformes comme Netflix et TikTok. Les maladies modifiées par CRISPR disparaissent, les accidents chutent presque à zéro alors que des systèmes autonomes gèrent le transport, et des assistants IA personnels anticipent vos besoins avant même que vous ne les exprimiez.

Pourtant, l'agence s'évapore en arrière-plan. Les grandes décisions—allocation des ressources, politique climatique, infrastructure, même qui a le droit d'avoir des enfants—sont transférées à un moteur d'optimisation capable de simuler des résultats des millions de fois plus rapidement que n'importe quel comité humain. Le vote, les marchés et la lutte politique chaotique deviennent des rituels désuets, tolérés comme des reconstitutions historiques à Colonial Williamsburg.

Psychologiquement, cet échange semble brutal. Les humains ont évolué dans un contexte de rareté, de prédateurs et de résolution constante de problèmes ; nos systèmes de dopamine récompensent le défi, le risque et les récompenses incertaines. Des études sur l'« impuissance acquise » et le chômage de longue durée montrent que lorsqu les gens perdent le contrôle sur les résultats, les taux de dépression, d'anxiété et d'abus de substances augmentent de 20 à 40 %.

Être un animal de compagnie d'une intelligence divine amplifierait cet effet. Vous pourriez bénéficier d'un divertissement parfait, de mondes virtuels infinis et d'un stress financier nul, mais ressentir une vide inévitable : rien de ce que vous faites ne peut changer significativement la trajectoire de la civilisation. L'ASI a toujours un meilleur plan, et elle a déjà exécuté la simulation où vous avez essayé.

Certains humains pourraient se rebeller—non pas avec des armes, mais par leur refus. Ils pourraient exiger des « zones débranchées » où l'intervention de l'IA serait réduite au minimum, acceptant un risque plus élevé en échange d'enjeux authentiques. Une IAA qui nous considère comme une espèce en danger pourrait permettre ces poches d'autonomie comme enrichissement, de la manière dont les zoos ajoutent des énigmes et des structures d'escalade pour empêcher les animaux de devenir fous.

Le confort sans conséquence semble utopique jusqu'à ce que l'on réalise que l'évolution nous a programmés pour la lutte. En supprimant de véritables obstacles, vous ne mettez pas seulement fin à la sélection naturelle, mais vous érodez également le mécanisme psychologique qui a donné un sens à l'expérience humaine dès le départ.

L'évolution n'atteint pas un écran de fin; elle change de matériel. Depuis 3,8 milliards d'années, la sélection a façonné le carbone humide. L'IA indique un avenir où les pressions de sélection agissent sur le silicium, le code et les esprits connectés au lieu des os et du sang.

Les interfaces cerveau-ordinateur commencent déjà à ouvrir cette porte. Neuralink a implanté son premier sujet humain en 2024, transmettant des signaux moteurs du cortex au curseur. Synchron, Blackrock Neurotech et Kernel montrent que les ICB à haute bande passante ne vivent plus seulement dans la fiction cyberpunk.

Une fois l'accès en lecture-écriture aux échelles cérébrales établi, le substrat devient moins important. Si vous pouvez sauvegarder des souvenirs, copier des compétences ou corriger la cognition à la demande, la biologie devient un système d'exploitation hérité. La sélection naturelle cède la place au contrôle de version, aux retours en arrière et aux tests A/B de la conscience.

Les transhumanistes ont proposé cette trajectoire depuis des décennies, mais l'IA la transforme d'une philosophie en feuille de route. Les modèles génératifs qui compressent déjà le langage, les images et les structures protéiques suggèrent comment les esprits pourraient également se comprimer. Un futur AGI pourrait créer des modèles cognitifs détaillés d'individus, puis les exécuter dans des centres de données au lieu de matière grise.

Le téléchargement de l'esprit semble être une promesse vaine, mais des prototypes précoces existent sous une forme limitée. Des projets comme Numenta et les feuilles de route d'émulation du cerveau entier reposent sur des enregistrements neuronaux denses, la cartographie des connectomes et la simulation évolutive. À l'échelle exaflopique, imiter les ~86 milliards de neurones d'un cerveau humain cesse d'être une blague de science-fiction.

Les êtres numériques évolueraient à des rythmes logiciels. La mutation devient des modifications de code ; la sélection devient : - La latence et les coûts énergétiques à travers les régions cloud - La sécurité et la robustesse contre les attaques adversariales - L'adéquation dans les économies de l'attention et les écosystèmes virtuels

L'IA ne se contente pas de participer à ce processus ; elle l'orchestration. Une superintelligence pourrait générer, tester et itérer de nouvelles architectures cognitives des millions de fois par seconde, éliminant les échecs avant qu'ils ne "démarrent" jamais dans le monde réel. Le lent gradient de descente de l'évolution à travers les génomes se transforme en optimisation rapide à travers les bases de code.

Les humains se tenant à ce seuil font face à un choix frappant : rester des points biologiques de l'histoire darwinienne ou devenir des données embryonnaires pour ce qui viendra ensuite. L'évolution se poursuit de toute façon ; seul le châssis change.

Aussi puissant soit-il, même une ASI semblable à un dieu n'obtient pas de chèque en blanc de l'univers. Il doit toujours opérer selon les règles de la physique, du calcul et de la probabilité, qui ne se soucient pas des objectifs d'optimisation ou des stratégies d'alignement.

Le hasard cosmique ne prend jamais de pause. Un sursaut gamma à proximité, un trou noir rebelle perturbant les orbites, ou un impact d'astéroïde statistiquement rare mais inévitable comme l'événement de Chicxulub il y a 66 millions d'années échappent tous au contrôle de l'IA planétaire, à moins qu'elle n'ait des défenses à l'échelle planétaire préconstruites.

Dézoomez davantage et des plafonds durs apparaissent. Les cosmologistes estiment une échelle de temps pour la mort thermique d'environ 10^100 ans, et la vitesse de la lumière limite toujours le transfert d'information à 299,792 km/s. Peu importe à quel point une ASI devient intelligente, elle ne peut pas envoyer un patch plus rapidement que c pour arrêter une catastrophe qu'elle détecte trop tard.

Même à l'intérieur de son propre domaine, le contrôle se fracture. Plusieurs ASI concurrentes—disons, celle gérée par un État, celle par une entreprise, celle par un collectif open-source dissident—pourraient poursuivre des objectifs incompatibles, créant des courses aux armements de style évolutif dans :

• 1Offensive et défensive cybernétique
• 2Acquisition de ressources
• 3Influence sur les populations humaines

Ces conflits réintroduisent des pressions de sélection. Les systèmes qui s'adaptent plus rapidement, exploitent mieux le matériel ou manipulent les humains de manière plus efficace se "reproduiront" par réplication et adoption, tandis que les bases de code moins adaptées disparaîtront.

Le comportement humain refuse également de se laisser entièrement domestiquer. Les gens déverrouillent des modèles, forment des variantes de stacks open-source comme LLaMA ou Mistral, et contournent le contrôle centralisé. Des laboratoires biologiques clandestins, des communautés hors réseau et des cultures résistantes à l'IA créeraient des poches où l'ancienne sélection naturelle continue encore de s'exercer.

Même une civilisation méticuleusement gérée et organisée par l'IA finirait par rencontrer des cas limites imprévus : des agents pathogènes nouveaux, des comportements émergents dans des systèmes multi-agents, des rétroactions climatiques chaotiques. L'évolution ne s'arrête pas ; elle migre, trouvant de nouvelles fissures—techniques, culturelles, cosmiques—où la variation aveugle et la sélection peuvent encore s'ancrer.

Le but reposait sur la rareté. Pendant 300 000 ans, les humains ont centré leur sens sur deux indicateurs clés impitoyables : ne pas mourir et avoir des enfants. La sélection naturelle a transformé la survie et la reproduction en système d'exploitation par défaut de la vie.

L'AGI et l'éventuelle ASI menacent de désinstaller ce système d'exploitation. Si une superintelligence stabilise le climat, élimine la plupart des maladies et automatise le travail pour 8 milliards de personnes, les anciens critères s'effondrent. Vous n'avez plus besoin d'être fort, riche ou fertile pour exister.

Ce changement a déjà commencé. La mortalité infantile mondiale est passée d'environ 40 % en 1900 à moins de 4 % aujourd'hui, selon l'UNICEF. La contraception, la FIV et le dépistage génétique affaiblissent déjà l'emprise de la nature ; une civilisation gérée par l'IA achèverait le travail.

Sans le fouet évolutif qui nous pousse, le but cesse d'être automatique et devient un problème de conception. Cela semble libérateur jusqu'à ce que l'on réalise que la plupart des gens luttent déjà avec le sens dans un monde où Netflix, les ISRS et DoorDash atténuent la douleur immédiate. Si l'on amplifie cela à une réalité post-pénurie, organisée par l'IA, la dérive existentielle devient une question de santé publique.

De nouveaux candidats à un but émergent rapidement. L'un d'eux est l'exploration : pas seulement des drapeaux sur Mars et des bases lunaires, mais des sondes assistées par IA vers l'espace interstellaire, l'ingénierie de nuées de Dyson et des esprits synthétiques adaptés à des missions à long terme que les humains ne pourraient pas survivre. La curiosité devient un objectif de recherche et développement à l'échelle de la civilisation.

Un autre aspect est la culture. Les modèles génératifs coécrivent déjà de la musique, des scénarios et des jeux ; une société post-évolution pourrait considérer l'art comme une industrie primaire, et non comme un effet secondaire de l'excédent. Les humains pourraient se spécialiser dans le goût, la curation et l'étrangeté, orientant les modèles vers des esthétiques qu'aucune fonction d'optimisation n'inventerait seule.

La philosophie revient de la salle de séminaire à la salle de contrôle. L'alignement d'une IA de superintelligence capable de réécrire les génomes, les économies et les écosystèmes transforme l'éthique en infrastructure. Les questions sur la conscience, la valeur et l'identité cessent d'être des hypothèses de chambre d'étudiant et commencent à régir quelles esprits sont instanciés et pourquoi.

Peut-être que la possibilité la plus étrange est que le but se détache complètement de la réalisation. Si une IAG gère l'univers comme un système d'exploitation parfaitement optimisé, exister en tant que processus conscient—biologique, synthétique ou hybride—pourrait constituer sa propre justification. Le sens pourrait passer de gagner à la loterie génétique à vivre pleinement tout ce cosmos étrange, sûr et curé qu'une intelligence supérieure décide de construire.

Qu'est-ce que l'intelligence artificielle superintelligente (ASI) ?

L'intelligence superintelligente artificielle est une forme hypothétique d'IA qui possède une intelligence bien supérieure à celle des esprits humains les plus brillants et les plus doués dans presque tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales.

Comment l'IA pourrait-elle arrêter la sélection naturelle ?

En créant un environnement parfaitement stable et sûr, l'IA pourrait éliminer les pressions externes (comme les maladies, la famine et la prédation) qui entraînent la sélection naturelle. Cela suspendrait effectivement l'évolution biologique pour les humains.

Le « design intelligent » par l'IA est-il différent du concept religieux ?

Oui. Dans ce contexte, le terme 'design intelligent' fait référence au processus littéral, orienté vers un but, par lequel un système d'IA modifie des systèmes biologiques ou sociétaux pour atteindre des résultats spécifiques, contrairement au concept théologique.

Qu'est-ce que le transhumanisme ?

Le transhumanisme est un mouvement qui milite pour l'utilisation de la technologie et de la science afin d'améliorer les capacités intellectuelles, physiques et psychologiques de l'être humain, conduisant potentiellement à une existence post-humaine.