En cinq minutes
La gelée grise est une expérience de pensée sur une nanotechnologie qui tournerait mal. Imaginez des machines microscopiques capables de fabriquer des copies d'elles-mêmes avec les atomes qui traînent autour d'elles. Si ces machines ne cessaient jamais de se copier, elles pourraient en théorie transformer tout, êtres vivants compris, en nouvelles machines. Le résultat serait une masse grise, informe et envahissante : la gelée.
L'expression vient de l'ingénieur K. Eric Drexler, qui l'a employée dans son livre de 1986, Engines of Creation. Il l'a avancée comme une mise en garde sur la nécessité de concevoir avec soin des machines auto-réplicatives, et non comme une prédiction. L'expression a fait florès : aujourd'hui, elle désigne tout processus incontrôlé qui se copie jusqu'à ce qu'il n'y ait plus rien à copier. Rien de tel n'existe. La plupart des scientifiques, Drexler en tête, estiment que la version catastrophe est très improbable.
La gelée grise s'inscrit dans l'histoire de la science-fiction, car elle a voyagé d'un ouvrage d'ingénieur jusqu'aux romans, puis jusqu'aux conversations de tous les jours sur les risques technologiques. Elle a aussi des proches parents : le maximiseur de trombones et la sonde de Von Neumann.
D'où vient l'idée
Les racines sont plus anciennes que la nanotechnologie. Dans les années 1940, le mathématicien John von Neumann a démontré sur le papier comment une machine pouvait construire une copie d'elle-même, y compris une copie de ses propres instructions. Cela montrait que l'auto-réplication relevait de la conception, pas de la magie. En 1959, le physicien Richard Feynman a donné une conférence intitulée « There's Plenty of Room at the Bottom », où il imaginait des machines qui construisent les choses atome par atome.
Dans les années 1980, Drexler a tissé ces fils en une image d'assembleurs moléculaires : de minuscules machines capables de placer les atomes où l'on veut et donc de fabriquer presque n'importe quoi. Engines of Creation (1986) est surtout optimiste sur cet avenir. Mais Drexler a aussi posé la question évidente : et si les assembleurs se copiaient eux-mêmes ? Selon lui, des réplicateurs robustes et à copie rapide, conçus ou lâchés avec négligence, pourraient supplanter les êtres vivants et réduire la biosphère à ce qu'il appelait « gray goo » (orthographe américaine). C'est un court passage dans un long livre, et il en est devenu la partie la plus célèbre.
L'idée a connu une seconde vie vers 2000, lorsque l'informaticien Bill Joy, dans un essai publié par Wired, a rangé les technologies auto-réplicatives parmi les dangers du nouveau siècle. En 2003, le prince Charles a exprimé publiquement son inquiétude au sujet des nanotechnologies, ce qui a conduit la Royal Society et la Royal Academy of Engineering à étudier la question. Leur rapport de 2004 a jugé le scénario de la gelée grise hautement improbable et a estimé que les vraies inquiétudes se trouvaient ailleurs, par exemple dans la toxicité des nanoparticules.
Comment fonctionne l'arithmétique
La peur repose sur la croissance exponentielle. Supposons qu'une machine fabrique une copie d'elle-même toutes les dix minutes. Après 40 doublements, soit environ 6 heures et 40 minutes, il y a environ mille milliards de machines. Si chacune pesait environ un picogramme, comme une petite bactérie, il faudrait environ 130 doublements, soit environ 22 heures, pour atteindre la masse de la Terre.
Il faut y voir une illustration, pas une prévision. Le calcul ne tient que si rien ne vient jamais à manquer : ni l'énergie, ni les bons atomes, ni la place pour travailler. Tout le débat sur la gelée grise revient à savoir si ces « si » peuvent tenir.
La science réelle
Ce qui est établi
- L'auto-réplication est réelle. Toute cellule vivante le fait. Une bactérie placée dans une boîte avec beaucoup de nourriture peut doubler en quelques dizaines de minutes.
- La croissance exponentielle finit toujours par se heurter à un mur. Les vraies bactéries s'arrêtent quand la nourriture, l'espace ou l'énergie viennent à manquer, et elles affrontent des concurrents et des prédateurs. La vie a eu des milliards d'années pour envahir la planète et ne l'a pas transformée en une seule masse d'un seul organisme.
- Les machines moléculaires existent. Le prix Nobel de chimie 2016 a récompensé Jean-Pierre Sauvage, Fraser Stoddart et Ben Feringa pour la conception et la fabrication de machines moléculaires. Ce sont de minuscules interrupteurs, rotors et moteurs, pas des constructeurs qui se copient.
Ce qui relève de la spéculation
- Un assembleur à usage général n'a jamais été construit. Le chimiste Richard Smalley, colauréat du prix Nobel pour la découverte des fullerènes, a soutenu en 2001, puis dans un échange de 2003 avec Drexler, que l'on ne peut pas manipuler les atomes comme des briques : les « doigts » qui les saisiraient seraient trop gros et trop collants. Drexler n'était pas d'accord. La dispute n'a jamais été tranchée par une expérience, puisque personne n'a construit une telle machine.
- Une gelée qui mange n'importe quoi est la version la plus difficile. Elle devrait travailler avec chaque élément et chaque type de liaison chimique, trouver de l'énergie pour se alimenter et évacuer la chaleur qu'elle produit. Le chercheur en robotique Robert Freitas, qui a baptisé le scénario « écophagie » (manger l'environnement) dans un article de 2000, a soutenu que la chaleur limiterait la vitesse. Il pensait aussi que, même dans les cas les plus rapides, il faudrait des mois et non des minutes, et que le phénomène pourrait être repéré et combattu.
- Drexler lui-même est passé à autre chose. Dans un article de 2004 avec Chris Phoenix, il a soutenu qu'une fabrication sûre n'a pas besoin de réplicateurs en liberté. Les usines pourraient garder la copie à l'intérieur d'un système contrôlé, tout comme une usine automobile ne fait pas se reproduire des voitures dans la nature. Il a dit que l'image de la gelée grise avait détourné l'attention d'une discussion plus utile.
Le bilan honnête est donc le suivant : l'auto-copie et la croissance exponentielle sont réelles, mais une machine capable de se copier à partir de n'importe quelle matière, n'importe où, sans limite, est une idée et non un plan d'ingénierie.
Dans la fiction
La fiction a pris cette idée dans bien des directions. Dans le roman Prey (2002) de Michael Crichton, un essaim de robots microscopiques s'échappe d'un laboratoire, apprend et se comporte en prédateur. Ce n'est pas une gelée grise au sens strict, mais il porte la même peur d'une technologie auto-réplicative que personne ne peut rappeler. Blood Music de Greg Bear (une nouvelle longue de 1983, développée en roman en 1985) imagine des cellules modifiées qui se propagent et transforment tout autour d'elles, ce qui donne à la même inquiétude un visage plus étrange et plus doux.
La forme de l'idée a aussi migré vers d'autres domaines. Le maximiseur de trombones, expérience de pensée du philosophe Nick Bostrom, remplace les machines par un objectif logiciel : une IA chargée de fabriquer des trombones qui ne s'arrête jamais. La gelée grise et le maximiseur de trombones partagent une structure, celle d'un objectif simple poursuivi sans limite. Dans l'espace, la sonde de Von Neumann est une exploratrice auto-réplicative construite exprès, avec la question de ce qui l'empêcherait de se propager trop loin.
Idées reçues
- « Drexler a prédit que la gelée grise arrivera. » Il l'a décrite comme un accident ou un détournement possible, contre lequel il faut concevoir des protections, et il a ensuite soutenu qu'elle était évitable.
- « Nanotechnologie veut dire gelée grise. » La vraie nanotechnologie d'aujourd'hui, ce sont surtout de nouveaux matériaux, des revêtements, des capteurs et des médicaments. Rien de tout cela ne se copie.
- « Cela se produirait en quelques minutes. » Même avec des hypothèses généreuses, la croissance est limitée par l'énergie, la chaleur et les matières premières.
- « Grise » aurait un sens précis. La couleur n'est qu'une image d'une masse terne et informe, sans plus aucune structure.
- « Les êtres vivants sont à l'abri parce qu'ils sont spéciaux. » Le point est autre : la nature montre déjà que la copie est limitée par les ressources, ce qui explique qu'aucun organisme n'ait consommé la planète.
À lire ensuite
- Maximiseur de trombones : la même idée d'objectif qui s'emballe, avec un logiciel à la place des machines.
- Sonde de Von Neumann : ce qui se passe quand des machines auto-réplicatives sont construites délibérément pour explorer la galaxie.
- Histoire de la science-fiction : la place de l'idée de technologie dangereuse dans la grande histoire du genre.
