5分でわかる中国語の部屋
中国語の部屋とは、コンピューターが言葉を「理解」しているのか、それとも記号を並べ替えているだけなのかを問う思考実験です。哲学者のジョン・サール(John Searle)が1980年に発表し、人工知能と心の哲学の議論で何度も取り上げられてきました。
設定はこうです。中国語をまったく知らない人が、部屋に閉じこもっています。
手元にあるのは、英語で書かれた規則集だけです。窓から中国語の紙が入ってくると、規則集に従って別の中国語の記号を選び、窓から返します。
部屋の外の人には、中で中国語が通じているように見えます。けれども中の人は、意味を一つも知りません。
サールはここから、プログラムは記号の形を扱うだけで、意味を扱っているわけではないと考えました。つまり、人間のように会話できるプログラムができても、それだけで「心がある」とは言えない、という主張です。
この考え方は、アラン・チューリングのチューリング・テストへの有名な反論として知られています。
思考実験の中身
サールはこの思考実験を、論文(原題 Minds, Brains, and Programs)の中で示しました。掲載誌は学術誌『Behavioral and Brain Sciences』です。
当時サールはカリフォルニア大学バークレー校で教えていました。彼は部屋の中の人を、自分自身として語っています。
部屋の中の人は、英語しか知りません。手元には、記号の形だけを手がかりに、どの記号を返せばよいかが書かれた英語の規則集があります。
外の人は、入ってくる紙を「質問」、出ていく紙を「答え」と呼びます。規則集が十分によくできていれば、答えは中国語を母語とする人の返事と区別がつきません。
そこでサールは問います。この人は、中国語を理解しているでしょうか。
答えは「いいえ」です。この人は形と形を対応させているだけで、記号が何を指しているのかは知らないからです。
コンピューターも同じ立場にあるとサールは言います。プログラムは記号をその形によって処理し、形そのものには意味が含まれていません。
ここで大切なのは、この実験が「見た目の会話」と「本当の理解」を切り離している点です。外から見て同じ振る舞いでも、中身が同じとは限らない、という問いを立てたのです。
サールが批判した相手:強いAIと弱いAI
サールは、人工知能についての二つの立場を分けました。一つは「弱いAI」で、コンピューターは心を研究するための便利な道具だという考えです。
もう一つは「強いAI」で、適切にプログラムされたコンピューターは、文字どおり心を持ち、理解するという考えです。
サールは弱いAIを認め、強いAIを批判しました。当時の標的の一つは、ロジャー・シャンク(Roger Schank)らが作った、短い物語を読んで質問に答えるプログラムでした。
議論は三つの段階にまとめられます。第一に、プログラムは構文論的、つまり記号の形と並べ方だけで動きます。
第二に、心は意味論的な内容、つまり意味を持っています。第三に、構文だけでは意味は生まれません。
この三つから、プログラムを動かすだけでは心にならない、という結論が出ます。
注意したいのは、サールが「機械は考えられない」と言ったわけではないことです。脳は心を生み出す一種の機械であり、それと同じ因果的な力を持つものなら心を持ちうる、というのが彼の立場でした。
つまり問題は、機械かどうかではなく、プログラムの実行だけで十分かどうかなのです。
科学的にはどうなのか
中国語の部屋を実際に作った人はいませんし、作っても答えは出ません。これは思考実験なので、確かめられるのは実験の結果ではなく、私たちの考え方のほうです。
はっきりしているのは、論文が1980年に出たこと、サールがどのような主張をしたこと、そして多くの反論が出たことです。一方で、この議論が成功しているかどうかは決着がついておらず、哲学者や認知科学者の間でも意見が分かれています。
批判の一つに、規模の問題があります。実際の会話プログラムは、人が手で引ける規則集のような形ではなく、桁違いの速さと複雑さで動きます。
だから「本を持った一人の人」で直感的に「理解していない」と感じても、巨大なシステムにそのまま当てはまるとは限らない、という批判です。
近年は、大規模言語モデルが自然な文章を作れるようになり、この議論が再び注目されています。流暢な文章が出てくることは理解の証拠になるのか、という問いです。
この点について、現時点で広く合意された答えはありません。
チューリング・テストとの違いも押さえておきましょう。1950年にチューリングが示した方法は、機械の振る舞いで判断します。
サールの議論は、そのテストに合格しても理解の証明にはならない、と主張します。
主な反論とサールの答え
サールは1980年の論文の中で、予想される反論をすでにいくつか挙げ、それぞれに答えています。代表的なものは、今も名前で呼ばれています。
システム応答
部屋の中の人は理解していなくても、人と規則集と紙を合わせた「システム全体」は理解している、という反論です。
サールは、人が規則をすべて暗記して頭の中で作業しても、やはり意味はわからないと答えました。
ロボット応答
プログラムをカメラや手足を持つロボットに入れ、記号を現実の世界とつなげればよい、という反論です。
サールは、カメラからの信号も部屋の中の人にとっては新しい記号が増えるだけだと答えました。
脳シミュレータ応答
中国語を話す人の脳の神経細胞を、一つ残らずシミュレートしたらどうか、という反論です。
サールは、脳をシミュレートしても脳そのものにはならないと考えました。嵐のシミュレーションで人がぬれないのと同じ、という例えがよく使われます。
他の心の応答
私たちは他の人の心も、振る舞いから判断しているだけです。それなら機械にも同じ基準を使うべきだ、という反論です。
サールは、問題は「どうやって知るか」ではなく、「何を認めようとしているのか」だと答えました。
その後の論争
1990年には、ポール・チャーチランドとパトリシア・チャーチランドが「中国語の体育館」(Chinese gym)という思考実験を出しました。多くの人が信号を受け渡して神経回路網のように動く、という設定で、サールの直感に疑問を投げかけています。
サールは、その後も自分の立場を変えませんでした。
この議論が続く理由
この議論が長く残っている理由の一つは、専門知識がなくても誰でも追えることです。コンピューターの仕組みを知らなくても、意味のわからない指示にただ従う感覚を想像すれば、論点がつかめます。
もう一つの理由は、本当の隙間を突いているからです。プログラムが何をするかも、脳が何をするかも細かく説明できますが、そのどちらから意味や体験が生まれるのかについて、合意された説明はありません。
支持する人は、意味にはルールに従う以上のもの、たとえば身体や経験の積み重ね、生きた脳が必要かもしれないと考えます。
批判する人は、この議論は一つの直感に頼っていて、その直感が間違いかもしれないと考えます。生命や物質についての昔の直感が、後で覆されたこともあるからです。
学ぶ側にとって役に立つのは、「何ができれば理解したと言えるのか」を自分の言葉で決めることです。そうすれば、どの反論に説得力があるかが見えてきます。
SF作品での登場例
中国語の部屋は哲学の話ですが、物語はもっと前から同じ疑問のまわりを歩いてきました。1714年、ゴットフリート・ライプニッツは、考える機械を水車小屋のように歩いて中に入れたとしても、見えるのは部品が押し合う様子だけで、知覚は見つからないだろうと書きました。
SFでは、話すのがうまい機械が本当に意味を知っているのか、という問いが出てくると、この部屋が顔を出します。ピーター・ワッツの小説 Blindsight(2006年)は、意識を持たない知性という主題の中で、中国語の部屋をはっきり取り上げています。
おしゃべりなロボットやチャットボットが登場する物語も、同じ不安を扱っています。この部屋がどこにあるのかは、作品ごとに違います。
SF全体の流れは、SFの歴史の記事で確認できます。
よくある誤解
- 「サールは機械は考えられないと証明した」:そうではありません。サールが言ったのは、プログラムを動かすだけでは足りないということです。脳のように、機械でも考えうることは認めていました。
- 「中国語である必要がある」:本人が知らない言語なら何でも成り立ちます。中国語が選ばれたのは、英語を使う読者にとって、文字が意味のない形のように見えるからです。
- 「とっくに決着がついた」:決着はついていません。上に挙げた反論は、今も哲学の授業や論文で議論されています。
- 「チューリング・テストと同じ話だ」:チューリング・テストは振る舞いを調べる方法で、中国語の部屋は、それに合格したことが何を意味するのかを問う反論です。
次に読む
サールが答えようとした、振る舞いによるテストについては、チューリング・テストの記事をどうぞ。
心が何を知り、何を信号として受け取っているだけなのかを考える別の思考実験は、水槽の中の脳の記事で読めます。
全体の地図は、SFの歴史に戻って確かめてください。