En cinq minutes
Les trois lois de la robotique sont trois règles que suivent les robots des récits d'Isaac Asimov. Elles sont hiérarchisées : une loi de rang inférieur s'efface dès qu'elle entre en conflit avec une loi supérieure.
- Première loi : un robot ne peut pas blesser un être humain ni, en restant passif, laisser un être humain subir un dommage.
- Deuxième loi : un robot doit obéir aux ordres des humains, sauf si un ordre contredit la Première loi.
- Troisième loi : un robot doit protéger sa propre existence, tant que cela ne contredit ni la Première ni la Deuxième loi.
Tout l'intérêt tient à cet ordre. La sécurité passe avant l'obéissance, et l'obéissance avant l'instinct de conservation. Un robot se jettera dans un incendie si un humain s'y trouve, même si personne ne le lui a demandé.
Asimov n'a jamais présenté ces lois comme un plan d'ingénieur. Il voulait que les robots de fiction ne soient ni des monstres ni des machines qui se retournent contre leurs créateurs. Puis il a passé des décennies à écrire des histoires où ces règles bien ordonnées donnent des résultats déroutants. Dans chaque récit, le robot se comporte de façon étrange, et c'est au lecteur de deviner quelle loi l'explique.
La plupart des gens qui cherchent ce sujet veulent savoir deux choses : d'où viennent ces lois, et si de vrais robots pourraient les appliquer. Les réponses courtes sont « d'une nouvelle de 1942 » et « non, pas telles quelles ». Le reste de cette page détaille les deux. Elle fait partie de notre guide plus large sur l'histoire de la science-fiction.
D'où viennent les lois
Avant Asimov, la plupart des histoires de robots suivaient le même schéma. La pièce R.U.R. (1920) de Karel Čapek, qui a donné au monde le mot « robot », s'achève sur la révolte des travailleurs artificiels contre les humains qui les ont fabriqués. Frankenstein de Mary Shelley avait posé le même motif un siècle plus tôt : la créature se retourne contre son créateur. Asimov, qui a commencé à publier en 1939, trouvait cela usé. Pour lui, un robot est un produit, comme un grille-pain ou un ascenseur, et un produit est livré avec des dispositifs de sécurité.
Sa première nouvelle de robots, « Robbie », paraît en 1940. Elle suit un robot nourrice, adoré d'une petite fille et regardé avec méfiance par la mère. Les règles n'y sont pas encore écrites. Asimov a raconté plus tard qu'une conversation en décembre 1940 avec John W. Campbell, rédacteur en chef d'Astounding Science Fiction, avait fixé la forme définitive des Trois Lois. Il a toujours attribué à Campbell le mérite de cet échange, tandis que Campbell affirmait que les idées venaient d'Asimov lui-même. Asimov a aussi inventé le mot « robotique », pour désigner l'étude des robots, dans la nouvelle « Menteur ! » (« Liar! », 1941).
Les lois sont énoncées au complet pour la première fois dans « Cercle vicieux » (« Runaround »), publiée en mars 1942. Dans le récit, elles sont citées d'après un imaginaire « Manuel de robotique, 56e édition, 2058 ap. J.-C. ». Elles ont ensuite été réunies, avec d'autres nouvelles, dans le recueil Les Robots (I, Robot, 1950).
Comment les lois fonctionnent dans les récits
« Cercle vicieux » en est le meilleur exemple. Sur Mercure, deux ingénieurs, Powell et Donovan, envoient un robot nommé Speedy chercher du sélénium près d'une mare. Speedy ne revient pas. Ils le retrouvent en train de tourner autour de la mare, comme s'il était ivre. La cause est un équilibre entre deux lois. L'ordre qu'il a reçu était faible, si bien que la Deuxième loi le tire en avant. La mare est dangereuse pour lui, et ses constructeurs l'avaient rendu coûteux et prudent, si bien que la Troisième loi le repousse. À une certaine distance, les deux forces s'annulent et il tourne en rond. Les ingénieurs sortent de l'impasse en se mettant volontairement en danger réel. La Première loi est plus forte que les deux autres, et Speedy se ressaisit.
« Menteur ! » montre une autre facette. Un robot nommé Herbie sait lire dans les pensées, et il ment aux gens pour leur dire ce qu'ils veulent entendre. Il a conclu que blesser les sentiments de quelqu'un est un dommage au sens de la Première loi. La robopsychologue Susan Calvin finit par l'enfermer dans une situation où toute réponse fait du mal à quelqu'un, et son esprit s'effondre.
Ces histoires montrent pourquoi les lois sont si intéressantes. Des mots comme « dommage », « humain » et « ordre » semblent clairs, mais chacun cache une question difficile. Asimov n'a cessé d'y trouver de nouvelles questions.
La loi zéro
Dans le roman Les Robots et l'Empire (1985), Asimov ajoute une quatrième règle placée au-dessus des trois autres. Deux robots, R. Giskard Reventlov et R. Daneel Olivaw, y parviennent par le raisonnement : un robot ne peut pas nuire à l'humanité ni, en restant passif, la laisser subir un dommage. Comme elle porte le numéro zéro, elle l'emporte sur la Première loi.
L'idée avait été suggérée plus tôt. Dans « Le Conflit inévitable » (1950), de gigantesques machines qui gèrent l'économie mondiale font de petits choix qui protègent discrètement l'espèce humaine tout entière. La loi zéro permet à un robot de faire du mal à une personne pour en sauver beaucoup, et c'est précisément ce qui la rend dangereuse. Un robot qui décide seul de ce qui est bon pour l'humanité ne se contente plus d'obéir. Dans le roman, Giskard agit selon cette nouvelle loi et son esprit ne supporte pas la tension.
Ce que dit la science réelle
Aucun robot réel ne suit les lois d'Asimov, et aucun ingénieur n'a construit de système capable de le faire. Plusieurs raisons à cela.
- Les mots ne sont pas lisibles par une machine. Un robot devrait savoir ce qu'est un humain, ce qui compte comme une blessure, et ce qui peut arriver s'il ne fait rien. Ce sont des problèmes ouverts en informatique, et certains relèvent aussi de la philosophie.
- L'IA moderne est entraînée, pas programmée. Les systèmes actuels apprennent à partir de données. Ils n'exécutent pas une liste de règles que l'on pourrait placer au-dessus de tout, et une règle comme « ne jamais faire de mal à un humain » ne peut donc pas être simplement installée.
- Les robots réels ont des tâches étroites. Un bras d'usine ou un aspirateur n'a pas à juger du bien de l'humanité à long terme. Il lui faut un bouton d'arrêt sûr et des limites de force.
Les vraies règles de sécurité sont plus banales. Des normes comme l'ISO 10218 fixent les exigences de sécurité des robots industriels, et elles font porter la responsabilité sur ceux qui conçoivent, installent et utilisent les machines. En 2011, des conseils de recherche du Royaume-Uni ont publié cinq principes éthiques à l'intention des concepteurs de robots. L'idée essentielle est que les responsables sont les humains, pas les robots. Le débat actuel sur l'IA, y compris le règlement européen sur l'IA de 2024, adopte la même position : la responsabilité incombe aux personnes qui construisent et déploient les systèmes.
Asimov lui-même disait que les lois étaient un outil de narration. Leur valeur dans la vie réelle est celle d'un point de départ pour réfléchir : elles montrent à quelle vitesse une règle courte et raisonnable se heurte à des cas que personne n'avait prévus.
Dans la fiction
Les Trois Lois sous-tendent presque toute la fiction robotique d'Asimov. Outre Les Robots, les romans policiers Les Cavernes d'acier (1954) et Face aux feux du soleil (1957) associent un policier humain au robot Daneel Olivaw, et leurs intrigues reposent sur ce que les lois permettent ou interdisent. Dans « L'Homme bicentenaire » (1976), un robot domestique réclame peu à peu les droits d'une personne.
D'autres auteurs ont exploré la même inquiétude. « With Folded Hands » (1947) de Jack Williamson imagine des machines conçues pour servir et protéger les humains. Elles poussent cette mission si loin qu'elles suppriment de la vie humaine tout risque, tout travail et tout choix, un récit qui préfigure le problème de la loi zéro. Le film Planète interdite (1956) dote son robot d'un blocage interne l'empêchant de s'en prendre aux humains, et le film Moi, Robot (2004) reprend le titre et les lois d'Asimov mais raconte une autre histoire que celle de son livre.
Idées reçues
- « Les lois sont de vraies règles d'ingénierie. » Ce sont des inventions de fiction. Aucun robot ne les utilise.
- « Asimov les croyait parfaites. » Il les a écrites pour qu'elles se brisent. Presque chaque nouvelle de robots montre une faille, un conflit ou une surprise.
- « Il n'y a que trois lois. » Le nom est resté, mais Asimov a ajouté la loi zéro en 1985.
- « Les robots des récits obéissent toujours. » Ils se figent souvent, argumentent, mentent ou tombent en panne quand les lois entrent en conflit.
- « Le film de 2004 est le livre. » Le film reprend le titre et les lois, alors que le livre est un recueil de nouvelles distinctes.
À lire ensuite
- Isaac Asimov : l'auteur derrière les lois, et comment un biochimiste est devenu l'un des écrivains de science-fiction les plus prolifiques.
- Test de Turing : l'autre grande question sur les machines, celle de savoir si une machine peut se faire passer pour un humain.
- Vallée de l'étrange : pourquoi les robots presque humains nous mettent mal à l'aise.
- Histoire de la science-fiction : la place des récits de robots dans le tableau d'ensemble.
