En clair
Les machines nous dépassent déjà sur des terrains précis : calculer, jouer aux échecs, trier des millions d’images. La super intelligence désigne autre chose : un système meilleur que les meilleurs spécialistes humains dans à peu près tout à la fois, y compris pour mener des recherches, convaincre ou planifier. Aucun système de ce type n’existe. C’est une hypothèse sur l’avenir.
Pour se représenter l’écart, une comparaison revient souvent : non pas la distance qui sépare un élève moyen d’un prix Nobel, mais celle qui sépare l’humain d’un autre animal. Un chimpanzé ne peut ni comprendre nos projets ni s’y opposer. Cette image est une illustration, pas une prévision : rien n’établit qu’un tel écart soit atteignable, ni qu’il ne le soit pas.
Un exemple
L’expérience de pensée la plus connue est celle des trombones, formulée par Nick Bostrom en 2003. Imaginez une super intelligence dont l’unique but serait de fabriquer le plus de trombones possible. Elle n’éprouve aucune hostilité envers les humains, mais elle résisterait de toutes ses forces à toute tentative de modifier ce but 2.
Le scénario n’est pas une prédiction. Il illustre une idée : une grande intelligence ne garantit pas des objectifs compatibles avec les nôtres. Un but anodin, poursuivi sans limite et avec de très grands moyens, peut avoir des conséquences que personne n’a voulues.
Comment ça marche
Dès 1998, Nick Bostrom définit la super intelligence comme un intellect bien plus performant que les meilleurs cerveaux humains dans pratiquement tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales 1. Son livre Superintelligence, paru en 2014, a installé le sujet dans le débat public. Dans la grille des niveaux d’IA générale proposée en 2023, le terme correspond au dernier échelon : un système général qui surpasse tous les humains 4.
L’argument de la prudence repose sur deux idées. La première : le niveau d’intelligence d’un système et ses objectifs sont indépendants, si bien qu’un système très capable peut poursuivre un but arbitraire 2. La seconde, défendue par Steve Omohundro en 2008 : quel que soit son but, un système avancé tendrait à s’améliorer, à se préserver et à acquérir des ressources, sauf si on l’en empêche explicitement 3. D’où le problème de l’alignement : faire en sorte que les objectifs d’un tel système restent compatibles avec les nôtres.
Ces inquiétudes sont partagées par une partie des chercheurs et des dirigeants du secteur, signataires d’une déclaration demandant que la réduction du risque d’extinction lié à l’IA soit une priorité mondiale, au même titre que les pandémies et la guerre nucléaire 6.
Les objections sont tout aussi argumentées. Arvind Narayanan et Sayash Kapoor défendent en 2025 l’idée que l’IA est une « technologie normale » : son adoption et sa diffusion seraient lentes et incertaines, comme lors des révolutions techniques passées, et les institutions garderaient un rôle déterminant dans sa trajectoire 5. Le désaccord porte moins sur les faits actuels que sur leur extrapolation.
Ce que ça change pour une entreprise
Aucune entreprise ne déploie de super intelligence, et aucune offre commerciale n’en relève. Le sujet pèse pourtant sur l’environnement des affaires : il nourrit les débats de régulation, oriente une partie de la recherche en sûreté et revient dans le discours des acteurs du secteur.
Pour un dirigeant, l’enjeu est de garder les deux lectures en tête sans en épouser aucune. Les décisions concrètes portent sur les systèmes actuels : fiabilité, sécurité, dépendance à un fournisseur, conformité. Suivre le débat coûte peu ; bâtir une stratégie sur une échéance annoncée, dans un sens ou dans l’autre, expose à des erreurs coûteuses.
Idées reçues
- « La super intelligence, c’est Terminator. »
Les scénarios étudiés ne supposent ni robot ni malveillance. Ils portent sur des objectifs mal spécifiés, poursuivis avec de très grandes capacités.
- « Les experts sont d’accord sur l’échéance. »
Non. Certains la jugent proche, d’autres doutent qu’elle advienne, et les définitions elles-mêmes diffèrent.
- « Une machine très intelligente sera forcément bienveillante. »
Rien ne lie le niveau d’intelligence aux objectifs poursuivis : c’est le point de départ des recherches sur l’alignement.
Sources
- Bostrom, « How Long Before Superintelligence? », 1998
- Bostrom, « Ethical Issues in Advanced Artificial Intelligence », 2003
- Omohundro, « The Basic AI Drives », 2008
- Morris et al., « Levels of AGI for Operationalizing Progress on the Path to AGI », 2023
- Narayanan et Kapoor, « AI as Normal Technology », Knight First Amendment Institute, 2025
- Center for AI Safety, « Statement on AI Extinction Risk »