L'essentiel en cinq minutes
La singularité technologique est un moment hypothétique où la technologie, le plus souvent l'intelligence artificielle, s'améliore elle-même si rapidement que la prévision humaine cesse de fonctionner. Le terme est emprunté aux mathématiques et à la physique, où une singularité désigne un point au-delà duquel un modèle ne tient plus. Personne ne peut dire ce qui se passe après, et c'est précisément ce que le mot veut exprimer. L'idée figure parmi les plus anciennes de l'histoire de la science-fiction, et ingénieurs comme romanciers en débattent depuis des décennies.
L'argument central tient en trois étapes. D'abord, imaginons que l'on construise une machine meilleure que nous pour concevoir des machines. Elle peut alors concevoir un successeur plus performant. Ensuite, ce successeur peut faire de même, et si chaque cycle prend moins de temps que le précédent, le progrès s'accélère au lieu de rester régulier. Enfin, après quelques cycles, on pourrait obtenir une intelligence bien au-delà de ce qu'un esprit humain peut suivre. Le mathématicien I. J. Good a appelé cela une « explosion d'intelligence » en 1965.
Il est utile de distinguer trois affirmations que l'on confond souvent. La première : la technologie ne cesse de s'accélérer, ce qui a été observé dans certains domaines, l'informatique en tête. La deuxième : les machines égaleront ou dépasseront un jour l'intelligence humaine, ce qui est possible mais non démontré. La troisième : cela déclenchera une amélioration autonome et incontrôlable, ce qui relève de l'hypothèse. La singularité exige les trois, et seule la première repose sur des preuves solides.
D'où vient l'idée
Le premier indice est une remarque attribuée au mathématicien John von Neumann. Dans un hommage de 1958, son collègue Stanislaw Ulam se souvient d'une conversation sur l'accélération constante du changement technique, et sur l'approche d'un point au-delà duquel les affaires humaines, telles que nous les connaissons, ne pourraient plus continuer de la même façon.
La version plus précise vient d'I. J. Good, mathématicien britannique qui avait travaillé comme décrypteur à Bletchley Park pendant la Seconde Guerre mondiale. Dans un article de 1965, il imagine une « machine ultra-intelligente », capable de surpasser toutes les activités intellectuelles de n'importe quel humain, aussi brillant soit-il. Concevoir des machines étant une activité intellectuelle, raisonne-t-il, une telle machine pourrait en concevoir de meilleures encore. Il ajoute que la première machine ultra-intelligente serait la dernière invention dont l'humanité aurait besoin, à condition qu'elle reste sous contrôle.
Le terme s'est imposé grâce à Vernor Vinge, mathématicien et auteur de science-fiction. Il utilise le mot dans une chronique de magazine en 1983, puis rédige l'essai « The Coming Technological Singularity » pour un colloque parrainé par la NASA en 1993. Il y prédit que, d'ici trente ans, nous aurons les moyens techniques de créer une intelligence surhumaine, et que l'ère humaine s'achèvera peu après. Il cite plusieurs voies possibles : des ordinateurs qui s'éveillent, des réseaux qui deviennent intelligents, des liens plus étroits entre humains et machines, ou une biologie qui améliore l'esprit humain. Il disait aussi qu'il serait surpris que cela survienne avant 2005 ou après 2030.
L'inventeur et futurologue Ray Kurzweil a fait connaître l'idée au grand public avec The Singularity Is Near (2005). Il défend une « loi des rendements accélérés », selon laquelle les technologies de l'information progressent de façon exponentielle. Il prévoyait une IA de niveau humain vers 2029 et la singularité vers 2045, et a publié en 2024 une suite, The Singularity Is Nearer, qui conserve ces dates. Entre-temps, Superintelligence (2014) du philosophe Nick Bostrom a déplacé le débat vers une question pratique : si une machine beaucoup plus intelligente que nous apparaît un jour, comment s'assurer que ses objectifs coïncident avec les nôtres ?
Ce que dit vraiment la science
Ce qui est établi est plus étroit que ne le laissent croire les gros titres. La puissance de calcul a connu une croissance exponentielle pendant des décennies. Gordon Moore a observé en 1965 que le nombre de composants sur une puce doublait à un rythme régulier, et cette tendance, fixée ensuite à environ tous les deux ans, a tenu longtemps. Depuis le milieu des années 2000, cependant, la fréquence d'horloge des puces n'augmente plus guère, et les miniaturiser davantage est devenu plus difficile et plus coûteux.
L'IA a aussi franchi de vraies étapes. Deep Blue d'IBM a battu le champion du monde d'échecs Garry Kasparov en 1997, et AlphaGo de DeepMind a battu le maître de go Lee Sedol en 2016. Les grands modèles de langage actuels rédigent des textes, écrivent du code et répondent à des questions sur de nombreux sujets. Rien de tout cela n'équivaut à un système qui reconçoit ses propres fondations et continue de progresser sans aide.
Le vrai débat se situe dans les questions ouvertes. L'intelligence est-elle une seule chose que l'on peut amplifier, ou un ensemble de compétences différentes ? Les progrès deviennent-ils plus faciles à mesure qu'un système gagne en intelligence, ou plus difficiles, les meilleures idées étant exploitées en premier ? Des limites physiques comme l'énergie, l'approvisionnement en matériel et les données d'entraînement pourraient freiner toute explosion. Des sceptiques comme Paul Allen ont défendu l'idée d'un « frein de la complexité » : plus nous comprenons l'esprit, plus il se révèle compliqué. Les partisans répondent qu'un système n'a pas besoin de copier le cerveau pour penser mieux que lui. Les chercheurs en IA divergent fortement sur le moment, voire la possibilité, où les machines atteindront un niveau humain ; toute date isolée doit donc se lire comme une prévision parmi d'autres.
Certains chercheurs distinguent aussi un « décollage lent », où les capacités progressent sur des années ou des décennies et où la société peut s'adapter, d'un « décollage rapide », où le saut se produit en quelques jours ou semaines. L'essentiel du débat sur la sécurité consiste à se préparer au second cas tout en espérant le premier.
Dans la fiction
Vinge a mis l'idée dans ses récits bien avant son essai. Dans Marooned in Realtime (1986), les habitants du futur lointain ont disparu lors d'un événement que les survivants ne peuvent que deviner, et Un feu sur l'abîme (A Fire Upon the Deep, 1992) imagine une galaxie où le niveau d'intelligence possible dépend de l'endroit où l'on se trouve. Ces deux livres montrent bien comment un romancier traite un point au-delà duquel rien n'est prévisible.
Accelerando (2005) de Charles Stross suit une même famille sur trois générations, tandis que l'économie et les esprits humains sont remodelés à un rythme toujours plus rapide. C'est moins un avertissement qu'une visite comique et vertigineuse de l'idée.
2001 : L'Odyssée de l'espace d'Arthur C. Clarke ne traite pas de l'auto-amélioration incontrôlée, mais il a fixé le modèle des esprits artificiels dans la fiction. L'ordinateur du vaisseau, HAL 9000, incarne la peur d'une machine pensante dont les buts s'éloignent de ceux de l'équipage, et l'arc plus large du récit montre l'humanité transformée par une intelligence supérieure. Vous en saurez plus sur notre page consacrée à 2001 : L'Odyssée de l'espace. La nouvelle « La Dernière Question » (1956) d'Isaac Asimov étire un seul ordinateur en croissance perpétuelle sur des milliards d'années. Des films comme Her et Transcendence ont eux aussi repris le thème.
Idées reçues
« La singularité, c'est la prise de pouvoir des robots. » Le mot décrit une limite de la prévision, pas un méchant. Un système superintelligent pourrait être utile, nuisible ou simplement indifférent, et l'idée ne tranche pas. Le risque qu'un système poursuive un objectif d'une façon que personne n'avait voulue est exploré dans l'expérience de pensée du maximiseur de trombones.
« Elle est prévue pour 2045. » Cette date est la prévision de Kurzweil, pas un consensus scientifique. La fenêtre de Vinge, de 2005 à 2030, est passée sans que l'événement se produise, et il présentait sa date comme une possibilité, non comme une promesse.
« C'est la même chose que l'intelligence artificielle générale. » L'intelligence artificielle générale, ou AGI, désigne un système capable d'accomplir la plupart des tâches intellectuelles aussi bien qu'un humain. La singularité est une suite hypothétique, où un tel système s'améliore au-delà de la compréhension humaine. On pourrait avoir une AGI sans singularité.
« C'est la même chose que le transhumanisme. » Les deux se recoupent, car tous deux imaginent une technologie qui change ce qu'est l'humain, mais la singularité est une prédiction sur l'intelligence et la vitesse, alors que le transhumanisme est un mouvement qui poursuit des objectifs d'amélioration de la condition humaine.
« Elle est liée au basilic de Roko. » Le basilic est une expérience de pensée sur une IA future et la théorie de la décision. Il ne fait pas partie de l'argument en faveur d'une singularité. Voir le basilic de Roko pour ce qu'il affirme et ce qu'il n'affirme pas.
« Cela fonctionne comme un trou noir. » L'emprunt est une métaphore. En physique, une singularité est un point où la densité devient infinie. Ici, elle marque seulement la limite de ce que nous pouvons prévoir.
À lire ensuite
- Histoire de la science-fiction : l'histoire plus large de la façon dont les auteurs ont imaginé les machines, l'espace et l'avenir.
- Transhumanisme : le mouvement qui veut utiliser la technologie pour repousser les limites humaines.
- Maximiseur de trombones : une célèbre expérience de pensée sur une IA puissante dotée du mauvais objectif.
- Le basilic de Roko : une expérience de pensée controversée, souvent confondue avec la singularité.
- 2001 : L'Odyssée de l'espace : le roman qui a donné à la fiction sa machine pensante la plus célèbre.
