En cinq minutes : l'argument de la chambre chinoise
L'argument de la chambre chinoise est une expérience de pensée qui demande si un ordinateur peut comprendre le langage ou seulement manipuler des symboles. Le philosophe John Searle l'a publiée en 1980 pour soutenir qu'exécuter le bon programme ne suffit pas à donner un esprit à une machine.
Imaginez une personne qui ne parle pas chinois, enfermée dans une pièce avec un livre de règles rédigé en anglais. Des messages en chinois entrent par une fente, la personne applique les règles pour construire des réponses, et les réponses ressortent.
Pour un observateur extérieur, la pièce parle un chinois courant. À l'intérieur, personne ne comprend un seul mot.
Pour Searle, un programme travaille sur la forme des symboles, alors que la compréhension exige du sens. L'argument est l'objection la plus célèbre au test de Turing, et l'une des idées les plus discutées de la philosophie de l'esprit.
L'expérience de pensée pas à pas
Searle, qui enseignait à l'université de Californie à Berkeley, expose la scène dans un article intitulé « Minds, Brains, and Programs », paru dans la revue Behavioral and Brain Sciences. Il l'a écrit en réponse à l'idée qu'un ordinateur exécutant le bon programme comprendrait réellement, et pas seulement par imitation.
Il se donne le rôle de la personne dans la pièce. Il ne connaît que l'anglais, et dispose d'un vaste ensemble de règles en anglais qui indiquent quels symboles chinois renvoyer pour chaque lot de symboles reçus.
Les gens à l'extérieur appellent « questions » les lots qui entrent et « réponses » ceux qui sortent. Avec des règles assez bonnes, les réponses sont impossibles à distinguer de celles d'un locuteur natif.
Searle pose alors la question évidente : comprend-il le chinois ? Il répond que non, car il se contente d'associer des formes à des formes.
Un ordinateur, selon lui, est dans la même situation que la personne dans la pièce. Il traite les symboles d'après leur forme, et la forme seule ne porte aucun sens.
Ce que Searle combattait
Searle distingue deux thèses. L'« IA faible » affirme que les ordinateurs sont des outils utiles pour étudier l'esprit, et l'« IA forte » qu'un ordinateur convenablement programmé possède réellement un esprit.
Il accepte la première et attaque la seconde. L'une de ses cibles à l'époque était un ensemble de programmes de compréhension d'histoires conçus par Roger Schank et ses collègues, qui répondaient à des questions sur de courts textes.
Son raisonnement tient en trois étapes. Les programmes sont purement syntaxiques, c'est-à-dire qu'ils travaillent sur la forme des symboles, les esprits ont une sémantique, c'est-à-dire un contenu, et la syntaxe seule ne suffit pas à produire de la sémantique.
Searle n'a pas dit que les machines ne pourront jamais penser. Il a dit que le cerveau est une machine qui produit bel et bien des esprits, donc que ce qui y parvient doit avoir les bons pouvoirs causaux, et pas seulement le bon programme.
La question n'est donc pas de savoir si une chose est une machine, mais si exécuter un programme suffit.
Côté science : ce qui est établi, ce qui ne l'est pas
Personne n'a construit la chambre chinoise, et la construire ne trancherait pas le débat. C'est une expérience de pensée : elle met des idées à l'épreuve, pas du matériel.
Ce qui est établi, c'est le dispositif de l'argument, sa date et les réponses qui ont suivi. Ce qui ne l'est pas, c'est de savoir si l'argument fonctionne, et philosophes comme spécialistes des sciences cognitives restent divisés.
Une objection pratique concerne l'échelle. Un vrai programme de conversation n'est pas un livre de règles qu'une personne pourrait consulter à la main, et les critiques estiment que notre intuition sur une personne avec un livre ne s'applique peut-être pas à un système d'une vitesse et d'une complexité énormes.
La question est revenue avec les grands modèles de langage, qui produisent un texte fluide à partir de régularités apprises dans des données. On cite aujourd'hui la chambre chinoise pour se demander si un discours fluide prouve la compréhension, et il n'existe pas de réponse admise.
Ne la confondez pas avec le test de Turing. La proposition d'Alan Turing, en 1950, juge une machine sur son comportement, et l'argument de Searle affirme que réussir un tel test ne prouverait pas la compréhension.
Les principales objections
Dans l'article original de 1980, Searle énumérait déjà des objections et y répondait. Les plus connues ont gardé leur nom.
- La réponse des systèmes : la personne ne comprend pas, mais l'ensemble formé par la personne, le livre de règles et le papier, si. Searle répond que la personne pourrait mémoriser les règles et travailler de tête, sans rien comprendre pour autant.
- La réponse du robot : placer le programme dans un robot doté de caméras et de membres, afin que les symboles se relient au monde. Searle répond que les signaux de la caméra ne sont que des symboles de plus pour la personne dans la pièce.
- La réponse du simulateur de cerveau : simuler chaque neurone d'un locuteur chinois. Searle répond qu'une simulation de cerveau n'est pas plus un cerveau qu'une tempête simulée ne mouille quelqu'un.
- La réponse des autres esprits : nous ne jugeons les autres personnes que sur leur comportement, nous devrions donc juger les machines de la même façon. Searle répond que la question n'est pas de savoir comment nous savons, mais ce que nous prétendons savoir.
Plus tard, en 1990, Paul et Patricia Churchland ont proposé un « gymnase chinois », une salle de gens qui se transmettent des signaux pour fonctionner comme un réseau de neurones, afin de défier l'intuition de Searle. Searle a maintenu sa position.
Pourquoi l'argument a duré
Sa longévité tient en partie au fait que chacun peut le suivre sans formation technique. Nul besoin de savoir comment fonctionne un ordinateur : il suffit de savoir ce que c'est que d'appliquer des instructions qu'on ne comprend pas.
Elle tient aussi au fait qu'il touche une vraie lacune. Nous pouvons décrire en détail ce que fait un programme et ce que fait un cerveau, mais nous n'avons aucune explication admise de la manière dont l'un ou l'autre produit du sens ou de l'expérience vécue.
Ses partisans disent qu'il montre que le sens demande plus que suivre des règles, peut-être un corps, une histoire ou un cerveau vivant. Ses détracteurs disent qu'il repose sur une intuition peut-être fausse, comme l'ont été d'anciennes intuitions sur la vie et la matière.
Pour un étudiant, la compétence utile est de dire ce qui compterait comme comprendre. Une fois cela décidé, on voit quelle objection nous convainc.
Dans la fiction
La chambre chinoise est une idée de philosophie, mais les récits tournent autour de la même question depuis plus longtemps. En 1714, Gottfried Leibniz imaginait entrer dans une machine pensante comme dans un moulin, et n'y trouver que des pièces qui se poussent les unes les autres, jamais une perception.
En science-fiction, la chambre apparaît chaque fois qu'une histoire demande si une machine qui parle bien sait ce qu'elle dit. Le roman Blindsight de Peter Watts (2006) reprend directement la chambre chinoise dans son traitement de l'intelligence sans conscience.
Les histoires de robots parlants et de chatbots soulèvent la même inquiétude sous d'autres formes. Pour le cadre général, voir l'histoire de la science-fiction.
Idées reçues
- « Searle a prouvé que les machines ne peuvent pas penser. » Il a seulement soutenu qu'exécuter un programme ne suffit pas. Il admettait qu'une machine, comme le cerveau, puisse penser.
- « L'argument porte sur le chinois. » N'importe quelle langue inconnue de la personne conviendrait. Le chinois a été choisi parce que ses symboles ressemblent à de pures formes pour un lecteur anglophone.
- « La question est réglée depuis longtemps. » Non. Les objections ci-dessus sont encore discutées dans les cours et les articles de philosophie.
- « C'est la même chose que le test de Turing. » Le test de Turing est un test de comportement, et la chambre chinoise est une objection à ce que sa réussite prouverait.
À lire ensuite
Lisez Test de Turing pour le test comportemental auquel Searle répondait.
Lisez Cerveau dans une cuve pour une autre expérience de pensée sur ce qu'un esprit sait et ce qu'il reçoit seulement sous forme de signaux.
Retournez à l'histoire de la science-fiction pour la carte d'ensemble.