En clair
Aujourd’hui, ce sont des chercheurs humains qui améliorent les systèmes d’IA. Supposez qu’un système devienne aussi bon qu’eux dans ce travail. Il pourrait concevoir un successeur un peu meilleur, qui concevrait à son tour un successeur encore meilleur, et plus vite. Les progrès ne s’additionneraient plus : ils se multiplieraient, comme des intérêts composés.
L’image des intérêts composés a une limite utile à garder en tête : un placement ne croît pas indéfiniment, et beaucoup de courbes qui démarrent en flèche finissent par plafonner. Toute la question est là. Les partisans de l’hypothèse pensent que la boucle s’emballerait ; ses critiques pensent que chaque progrès coûterait plus cher que le précédent et que le rythme resterait maîtrisable.
Un exemple
Le scénario le plus discuté est celui du laboratoire automatisé. Un laboratoire d’IA dispose d’un modèle capable de faire le travail de ses propres chercheurs : proposer des idées, écrire le code, lancer les expériences, analyser les résultats. Il en fait tourner un très grand nombre de copies en parallèle, jour et nuit.
Si ces copies trouvent des améliorations qui rendent la génération suivante plus efficace, la recherche s’accélère d’elle-même. Si les expériences restent limitées par la puissance de calcul ou par le temps nécessaire aux essais, l’accélération s’essouffle. Le scénario ne dit pas laquelle des deux issues l’emporte.
Comment ça marche
L’idée est formulée en 1965 par le mathématicien I. J. Good : une machine « ultra-intelligente », surpassant l’humain dans toutes les activités intellectuelles, pourrait concevoir de meilleures machines ; il y aurait alors une « explosion d’intelligence », et cette machine serait « la dernière invention que l’homme ait besoin de faire » 1.
- ÉgalerUne IA atteint le niveau des chercheurs qui la conçoivent.
- AméliorerElle conçoit un successeur un peu plus capable.
- RéinvestirCe successeur reprend le travail, plus efficacement.
- AccélérerChaque cycle raccourcit, tant qu’aucune limite ne freine.
Ce cycle est une hypothèse, pas un phénomène observé.
Le philosophe David Chalmers en donne en 2010 une version argumentée en trois temps : s’il existe une IA de niveau humain, il existera peu après une IA supérieure, puis une IA très supérieure, sauf obstacle. Il recense lui-même les obstacles possibles 2. Eliezer Yudkowsky ramène en 2013 le débat à une question centrale : le rendement du réinvestissement cognitif, c’est-à-dire ce que rapporte, en capacité supplémentaire, chaque gain réinvesti dans l’amélioration du système 3.
Des travaux récents nourrissent la discussion. Une étude de 2025 a mesuré que la durée des tâches logicielles que les modèles accomplissent avec 50 % de réussite doublait environ tous les sept mois depuis 2019 4. La même année, William MacAskill et Fin Moorhouse soutiennent qu’une IA capable de remplacer les chercheurs humains pourrait concentrer un siècle de progrès technique en une décennie 5.
Les objections portent sur chaque maillon. Toby Walsh en recense plusieurs : les rendements décroissants, les progrès devenant plus difficiles une fois les gains faciles épuisés ; les limites physiques ; et le fait que savoir accomplir une tâche ne garantit pas de savoir améliorer sa propre capacité à l’accomplir 6. Le débat reste ouvert, faute d’observation directe.
Ce que ça change pour une entreprise
Aucune décision d’entreprise ne peut s’appuyer sur une explosion d’intelligence. Ce que l’on mesure est plus modeste, mais déjà significatif : la durée des tâches que l’on peut confier aux modèles s’allonge d’année en année. Pour un utilisateur, cela signifie des capacités qui changent plus vite que les cycles habituels de décision et d’investissement.
La conséquence pratique est d’éviter les choix figés : préférer des architectures où l’on peut changer de modèle, réévaluer régulièrement ce qui est automatisable, ne pas amortir un projet sur l’hypothèse de capacités stables. À l’inverse, les freins évoqués par les critiques n’ont rien d’abstrait : puissance de calcul et coûts pèsent sur les prix et sur la disponibilité des modèles.
Idées reçues
- « L’IA s’améliore déjà toute seule. »
Un modèle ne modifie pas ses propres paramètres en fonctionnant. Son amélioration passe par de nouveaux entraînements, décidés et conduits par des équipes humaines.
- « Une croissance exponentielle ne s’arrête pas. »
Les croissances rapides finissent souvent par rencontrer une limite. La question débattue est de savoir où elle se situe.
- « C’est une idée née avec ChatGPT. »
Elle date de 1965, et le débat entre partisans et sceptiques dure depuis.
Sources
- Good, « Speculations Concerning the First Ultraintelligent Machine », Advances in Computers, vol. 6, 1965
- Chalmers, « The Singularity: A Philosophical Analysis », Journal of Consciousness Studies, 2010
- Yudkowsky, « Intelligence Explosion Microeconomics », Machine Intelligence Research Institute, 2013
- Kwa et al., « Measuring AI Ability to Complete Long Software Tasks », 2025
- MacAskill et Moorhouse, « Preparing for the Intelligence Explosion », Forethought, 2025
- Walsh, « The Singularity May Never Be Near », 2016