En clair
En physique, une singularité est un point où les équations cessent de donner des résultats utilisables, comme au centre d’un trou noir. Appliqué à la technologie, le mot désigne un moment au-delà duquel nos prévisions ne vaudraient plus rien. La raison avancée : si des machines deviennent plus intelligentes que nous, ce sont elles qui feront les découvertes suivantes, à un rythme et dans des directions que nous ne pouvons pas anticiper.
Une image aide à saisir l’idée : celle de l’horizon en mer. On voit clairement jusqu’à une certaine distance, puis plus rien, non parce qu’il n’y a rien, mais parce que le regard ne porte pas plus loin. La singularité est cet horizon appliqué au futur. Le terme ne dit pas si ce qui se trouve au-delà est souhaitable ou non, et des chercheurs doutent qu’un tel point de bascule existe.
Un exemple
Vernor Vinge part d’une observation d’écrivain. Les auteurs de science-fiction, dont le métier est d’imaginer ce que la technique rendra possible, pouvaient autrefois situer leurs récits des millions d’années dans le futur. Ils se heurtent désormais, écrit-il, à un « mur opaque » : leurs extrapolations les plus soignées débouchent très vite sur l’inconnaissable 2.
L’expérience de pensée qui en découle est simple : essayez de décrire ce que ferait un esprit plus intelligent que vous. Vous pouvez imaginer ses moyens, pas ses idées, sans quoi vous seriez aussi intelligent que lui.
Comment ça marche
L’image vient d’un hommage rendu en 1958 par le mathématicien Stanislaw Ulam à John von Neumann. Il y rapporte une conversation sur l’accélération constante du progrès technique, qui donnerait l’impression d’approcher « une singularité essentielle » de l’histoire humaine, au-delà de laquelle les affaires humaines telles que nous les connaissons ne pourraient continuer 1.
Le terme prend son sens actuel en 1993 avec un texte de l’écrivain et mathématicien Vernor Vinge, publié par la NASA dans les actes du symposium Vision-21. Il y annonce que, d’ici trente ans, nous aurons les moyens techniques de créer une intelligence surhumaine, et précise qu’il serait surpris que l’événement survienne avant 2005 ou après 2030 2. Ray Kurzweil popularise l’idée en 2005 avec The Singularity Is Near 3, en s’appuyant sur une « loi du retour accéléré » et en situant l’échéance vers 2045 5.
Le mot recouvre en réalité trois thèses, que David Chalmers reprend d’une distinction d’Eliezer Yudkowsky : l’accélération du changement, associée à Kurzweil ; l’horizon d’imprévisibilité, associé à Vinge ; et l’explosion d’intelligence, associée à I. J. Good 4. On peut en accepter une sans les autres.
Les objections sont anciennes et variées. Paul Allen et Mark Greaves opposent en 2011 un « frein de complexité » : plus on avance dans la compréhension de l’intelligence, plus les progrès deviennent difficiles, ce qui contredit l’idée d’une accélération régulière 5. Toby Walsh avance en 2016 plusieurs raisons pour lesquelles la singularité pourrait ne jamais se produire, dont les rendements décroissants et les limites physiques 6.
Ce que ça change pour une entreprise
La singularité n’est pas un concept opérationnel : elle ne fournit ni date fiable, ni indicateur à suivre, ni action à engager. Son intérêt pour un dirigeant est ailleurs. Elle sert de toile de fond à de nombreux discours d’investisseurs, de fondateurs et de commentateurs, et mieux vaut savoir ce que le mot recouvre pour évaluer ces discours.
Le risque est double : écarter d’un revers de main des évolutions réelles parce que le vocabulaire paraît excessif, ou engager des dépenses sur la foi d’une échéance annoncée. La question utile est plus terre à terre : que savent faire les systèmes disponibles cette année, à quel coût, et que change leur progression pour votre activité à deux ou trois ans ?
Idées reçues
- « La singularité a une date : 2045. »
C’est l’estimation d’un auteur, Ray Kurzweil. D’autres avancent des dates différentes, ou contestent l’idée même d’un point de bascule.
- « Singularité veut dire fin du monde. »
Le mot désigne une limite de nos prévisions. On y associe aussi bien des espoirs que des craintes.
- « Singularité, super intelligence, IA générale : c’est la même chose. »
L’IA générale et la super intelligence décrivent des niveaux de capacité. La singularité décrit un moment de l’histoire que ces capacités pourraient provoquer.
Sources
- Ulam, « John von Neumann 1903-1957 », Bulletin of the American Mathematical Society, 1958
- Vinge, « The Coming Technological Singularity: How to Survive in the Post-Human Era », NASA, 1993
- Kurzweil, The Singularity Is Near, 2005 (édition Penguin Books)
- Chalmers, « The Singularity: A Philosophical Analysis », Journal of Consciousness Studies, 2010
- Allen et Greaves, « The Singularity Isn’t Near », MIT Technology Review, 2011
- Walsh, « The Singularity May Never Be Near », 2016