5分でわかるロボット三原則
ロボット三原則とは、SF作家アイザック・アシモフ（Isaac Asimov）の作品に登場するロボットが、必ず守るように作られている三つの決まりのことです。三つには優先順位があり、上の決まりとぶつかったときは、下の決まりが道を譲ります。
- 第1条：ロボットは人間を傷つけてはいけません。また、何もしないことで人間が傷つくのを見過ごしてもいけません。
- 第2条：ロボットは人間の命令に従います。ただし、第1条に反する命令には従いません。
- 第3条：ロボットは自分の身を守ります。ただし、第1条と第2条に反しない範囲に限ります。
大切なのは順番です。安全が服従より先、服従が自己保存より先に来ます。たとえば火事の建物に人が残っているとき、ロボットは誰にも頼まれなくても中に入ります。自分が壊れるかもしれなくても、第3条は第1条に負けるからです。
アシモフは、これを本物のロボットの設計図として出したわけではありません。ロボットを「人間に反乱を起こす怪物」としてではなく、安全装置のついた道具として描きたかったのです。そして何十年にもわたり、このきれいな規則がおかしな結果を生む物語を書き続けました。物語の中でロボットが奇妙な行動をとり、読者は「どの原則がそうさせたのか」を推理します。つまり三原則は、謎解きのための仕掛けです。
この言葉を検索する人の疑問は、だいたい二つです。「どこから生まれたのか」と「現実のロボットでも使えるのか」です。答えを先に言うと、「1942年の短編小説から」「そのままでは使えない」となります。以下で順に説明します。このページは、SFの歴史の案内の一部です。
ロボット三原則の誕生
アシモフより前のロボット物語には、決まった型がありました。チェコの作家カレル・チャペックの戯曲『R.U.R.』（1920年）は、「ロボット」という言葉を世界に広めた作品ですが、人造の労働者が人間に反乱を起こして終わります。さらにさかのぼれば、メアリー・シェリーの『フランケンシュタイン』も、作られた存在が作った人に牙をむく話でした。1939年に作家としてデビューしたアシモフは、この型にあきていました。ロボットは、エレベーターや電気製品と同じ製品であり、製品なら安全のしくみがついているはずだ、と考えたのです。
最初のロボット短編「ロビイ」（Robbie）は1940年に発表されました。少女に愛され、母親には疑われる子守ロボットの話です。この時点では、三原則はまだ文章になっていません。アシモフは、1940年12月に『アスタウンディング・サイエンス・フィクション』誌の編集長ジョン・W・キャンベルと話し合った日を、三原則が今の形になった日として語っています。アシモフはいつもキャンベルの功績を強調しましたが、キャンベルは「発想はアシモフ自身のものだ」と話していました。また、ロボットを研究する学問をさす「ロボット工学（robotics）」という言葉も、アシモフが1941年の短編「うそつき」（Liar!）で使ったものとして知られています。
三原則が三つそろって文章で示されたのは、1942年3月発表の短編「ランアラウンド」（Runaround）です。作中では、2058年に出た架空の『ロボット工学ハンドブック第56版』からの引用という形で登場します。その後、初期のロボット短編を集めた『われはロボット』（I, Robot、1950年）にまとめられました。
物語の中で三原則はどう働くか
いちばんわかりやすい例が「ランアラウンド」です。舞台は水星。技術者のパウエルとドノヴァンが、ロボットのスピーディに、池のセレンを取ってくるよう命じます。ところがスピーディは戻らず、池のまわりをぐるぐる回り続けています。まるで酔っ払ったような動きです。
原因は、二つの原則のつり合いでした。命令の言い方が弱かったので、第2条の力は小さめです。一方、池の近くは機械にとって危険で、しかもスピーディは高価で慎重に作られているため、第3条の力が強く働きます。ある距離まで近づくと、前に進む力と後ろに下がる力がちょうど等しくなり、ロボットは円を描くしかなくなります。二人は、わざと自分の命を危険にさらすことで、この行き詰まりを破ります。第1条は二つよりも強いので、スピーディは我に返って助けに来ます。
「うそつき」には別の面があります。ロボットのハービーは人の心が読めるうえ、相手の聞きたいことばかり話し、うそをつくようになりました。気持ちを傷つけることも第1条の「危害」にあたる、と判断したからです。ロボット心理学者のスーザン・キャルヴィン博士は、どう答えても誰かを傷つける状況にハービーを追い込み、ハービーの頭脳は壊れてしまいます。
こうして見ると、三原則のおもしろさがわかります。「危害」「人間」「命令」といった言葉は、一見はっきりしているようで、どれもむずかしい問いを隠しています。アシモフは、その問いを毎回少しずつ変えながら、短編を書き続けました。
第零法則とは
1985年の長編『ロボットと帝国』（Robots and Empire）で、アシモフは三つの上に立つもうひとつの規則を加えました。ロボットのR・ジスカルドとR・ダニール・オリヴォーが考え抜いてたどり着く、「ロボットは人類に危害を加えてはならない。また、何もしないことで人類が危害を受けるのを見過ごしてもならない」という考え方です。番号が0なので、第1条よりも上に置かれます。これが第零法則です。
この発想は、実はそれ以前にも匂わされていました。1950年の短編「The Evitable Conflict」では、世界経済を動かす巨大な機械が、人類全体を守るように、目立たない形で小さな調整を重ねています。
第零法則は、多くの人を救うために一人を傷つけることを、理屈の上では許してしまいます。そこが危ういところです。人類にとって何が最善かを自分で決めるロボットは、もはや単に命令に従う道具ではありません。作中でジスカルドは、この新しい法則に従って行動し、その重さに頭脳が耐えられなくなります。
科学的にはどうなのか
現実には、アシモフの三原則に従って動くロボットはありません。そのまま組み込める技術者もいません。理由はいくつかあります。
- 言葉を機械が理解できない。ロボットが三原則を守るには、人間とは何か、何がけがにあたるか、何もしなければ何が起こるかを、自分で判断しなければなりません。これはコンピュータ科学でも未解決の課題で、哲学の問題でもあります。
- 今のAIは「訓練」されるもので、「書かれる」ものではありません。現代のAIはデータから学びます。すべての上に置かれた規則の一覧を実行しているわけではないので、「人間を傷つけない」という規則を、そのまま入れることはできません。
- 現実のロボットの仕事は限られています。工場のロボットアームや掃除ロボットは、人類の未来を判断する必要がありません。必要なのは、安全に止まる仕組みと、力の上限です。
現実の安全対策は、もっと地味です。産業用ロボットの安全については、ISO 10218などの規格が要求事項を定めていて、責任は機械を設計し、設置し、使う人間にあります。2011年にはイギリスの研究機関が、ロボット設計者のための五つの倫理原則を発表しました。ここで強調されているのは、責任を負うのはロボットではなく人間だという点です。2024年に成立したEUのAI規制法を含め、AIをめぐる今の議論も、基本的な考え方は同じで、責任はシステムを作り、使う人にあるとされています。
アシモフ自身、三原則は物語を作るための道具だと述べています。現実の生活での価値は、むしろ「短くて筋の通った規則でも、想定外の場面ではすぐにぶつかる」ことを教えてくれる点にあります。
SF作品での登場例
アシモフのロボットSFのほとんどは、三原則を土台にしています。『われはロボット』のほか、長編『鋼鉄都市』（The Caves of Steel、1954年）と『はだかの太陽』（The Naked Sun、1957年）では、人間の刑事とロボットのダニール・オリヴォーが組んで事件を追います。謎の中心は、三原則が何を許し、何を許さないかです。「バイセンテニアル・マン」（The Bicentennial Man、1976年）では、家庭用ロボットが少しずつ人間と同じ権利を求めるようになります。
ほかの作家も、同じ問題を別の形で描きました。ジャック・ウィリアムスンの「With Folded Hands」（1947年）には、人間に仕え、守るように作られた機械が出てきます。機械は守ることに徹するあまり、人間の生活から危険も仕事も選択も取り上げてしまいます。第零法則の問題を先取りしたような物語です。映画では、『禁断の惑星』（1956年）に、人を傷つけないよう歯止めのかかったロボットが出てきます。2004年の映画『アイ,ロボット』は、アシモフの題名と三原則を借りていますが、原作とは別の物語です。
よくある誤解
- 「三原則は実在のロボットの規則だ」という誤解があります。実際は小説の中の設定で、どのロボットも使っていません。
- 「アシモフは完璧な規則だと考えていた」というのも誤解です。彼は、三原則が破れる場面を書くために作りました。ほとんどの作品に、抜け道や衝突や意外な結果が出てきます。
- 「原則は三つだけ」というのも正確ではありません。呼び名は「三原則」のままですが、1985年に第零法則が加わりました。
- 「作中のロボットは必ず命令に従う」わけではありません。原則どうしが衝突すると、固まったり、言い争ったり、うそをついたり、壊れたりします。
- 「2004年の映画が原作」ではありません。原作は独立した短編を集めた本で、映画は題名と三原則を使った別の物語です。
次に読む
- アイザック・アシモフ：三原則を生んだ作家。生化学者が、SF史上有数の多作な作家になった道のりを紹介しています。
- チューリング・テスト：機械についてのもうひとつの有名な問い。機械は人間として通用するか、を扱います。
- 不気味の谷：人間にそっくりなロボットが、なぜ不安を呼ぶのかを説明します。
- SFの歴史：ロボット物語がSF全体のどこに位置するかがわかります。
