シンギュラリティ（技術的特異点）とは

5分でわかるシンギュラリティ

シンギュラリティ（技術的特異点、technological singularity）とは、技術、とくに人工知能（AI）が自分自身を改良できるようになり、進歩が一気に加速して、人間にはその先が予測できなくなる時点のことです。もとは数学や物理学の言葉で、「理論が成り立たなくなる点」を指します。その言葉を未来予測に借りて、「今の常識で考えられるのはここまで」という境目を表しています。この考え方はSFの歴史の中でも古いもののひとつで、科学者も作家も長いあいだ議論してきました。

基本の筋道は三つの段階でできています。まず、人間よりも機械の設計がうまい機械ができたとします。その機械は、自分よりさらに優れた後継機を設計できます。後継機がまた次の機械を設計し、一回ごとにかかる時間が短くなっていけば、進歩は一定の速さではなく、だんだん速くなります。そして数回の世代交代のあと、人間の理解がまったく追いつかない知性が生まれるかもしれません。数学者のI・J・グッドは、これを1965年に「知能爆発」と呼びました。

ここで、混ざりやすい三つの主張を分けておくと理解しやすくなります。一つ目は「技術の進歩はどんどん速くなっている」という主張で、コンピューターをはじめ、いくつかの分野で実際に観測されてきました。二つ目は「いつか機械が人間並み、あるいはそれ以上の知能を持つ」という主張で、可能性はありますが、まだ証明されていません。三つ目は「それが連鎖的な自己改良を引き起こす」という主張で、これは仮説の段階です。シンギュラリティが起こるには三つすべてが必要ですが、しっかりした裏づけがあるのは一つ目だけです。

言葉の由来と歴史

フォン・ノイマンの言葉

いちばん古い手がかりは、数学者ジョン・フォン・ノイマンの発言とされるものです。1958年、同じ数学者のスタニスワフ・ウラムが追悼文の中で、フォン・ノイマンとの会話を振り返っています。技術の変化がどんどん加速していることが話題になり、人類の歴史には「本質的な特異点」のようなものがあって、それを越えると今のような人間社会のあり方は続かなくなる、という趣旨でした。これはウラムが書き残した回想です。

I・J・グッドの知能爆発

考えを具体的な形にしたのは、イギリスの数学者I・J・グッドです。第二次世界大戦中にブレッチリー・パークで暗号解読に加わった人物で、1965年の論文で「超知的機械」を考えました。どんなに賢い人間の知的活動もすべて上回る機械のことです。機械の設計もまた知的活動ですから、そのような機械はさらに優れた機械を設計できるはずだ、とグッドは論じました。これが知能爆発です。そして最初の超知的機械は、人間が作る必要のある最後の発明になる、ただしそれが人間の制御下にあるかぎりは、とも書いています。

ヴァーナー・ヴィンジが名前を広める

この言葉を広めたのは、数学者でSF作家のヴァーナー・ヴィンジです。1983年に雑誌のコラムでこの言葉を使い、1993年にはNASAが後援したシンポジウムのために「The Coming Technological Singularity（来たるべき技術的特異点）」という論文を書きました。ヴィンジは、30年以内に人間を超える知性を作る技術的な手段が手に入り、その後まもなく人間の時代は終わるだろうと述べています。道筋としては、コンピューターが目覚める、ネットワークが知性を持つ、人間と機械の結びつきが深まる、生物学が人間の知能を高める、といったものをいくつか挙げました。さらに、2005年より前や2030年より後に起これば驚く、とも書いています。

カーツワイルと2045年問題

発明家で未来学者のレイ・カーツワイルは、2005年の著書（原題 The Singularity Is Near）で、この考えを広い読者に届けました。情報技術は指数関数的に進歩するという「収穫加速の法則」を唱え、人間並みのAIは2029年ごろ、シンギュラリティは2045年ごろに来ると予測しています。日本では、この予測にちなんで「2045年問題」と呼ばれることがあります。2024年には続編（原題 The Singularity Is Nearer）が出ましたが、予測の年は変わっていません。また、哲学者ニック・ボストロムが2014年に出した『Superintelligence』（原題）は、議論の中心を「もし人間よりずっと賢い機械ができたとき、その目標を人間の望みと合わせるにはどうするか」という現実的な問いに移しました。

科学的にはどうなのか

確かめられていることは、見出しから受ける印象よりもずっと限られています。まず、コンピューターの性能は何十年ものあいだ指数関数的に伸びました。ゴードン・ムーアは1965年に、半導体チップ上の部品の数が規則的に倍増していると指摘し、のちに約2年ごとの倍増として知られるようになったこの傾向は、長く続きました。ところが2000年代の半ば以降、チップの動作速度の向上は頭打ちになり、回路をさらに小さくすることも、難しく、費用のかかる作業になっています。

AIにも確かな到達点があります。1997年にはIBMのディープ・ブルーがチェスの世界王者ガルリ・カスパロフに勝ち、2016年にはDeepMindのアルファ碁が囲碁のイ・セドル九段に勝ちました。いまの大規模言語モデルは、文章を書き、プログラムを作り、さまざまな話題に答えます。けれども、これらは「自分の土台そのものを設計し直し、人の助けなしに改良を重ねる仕組み」と同じものではありません。

本当の議論は、まだ答えの出ていない問いの中にあります。知能は一つの量として大きくできるものなのでしょうか。それとも、多くの異なる能力の集まりなのでしょうか。賢くなるほど改良は楽になるのでしょうか。それとも、良い工夫から先に使い果たされて、だんだん難しくなるのでしょうか。エネルギー、ハードウェアの供給、学習に使えるデータといった物理的な限界も、爆発的な成長にブレーキをかけるかもしれません。マイクロソフト共同創業者のポール・アレンらは「複雑さのブレーキ」を挙げ、脳について分かるほど、その複雑さがさらに見えてくると論じました。一方、支持する側は、脳をまねなくても、人間より賢い仕組みは作れると答えます。AIの研究者のあいだでも、人間並みの能力にいつ、あるいは本当に届くのかについて意見は大きく分かれていて、ひとつの年号はたくさんある予測のひとつにすぎません。

研究者は、能力が数年から数十年かけて上がり、社会が適応する時間がある「ゆるやかな離陸」と、数日から数週間で一気に跳ね上がる「急な離陸」を区別することもあります。AIの安全性をめぐる議論の多くは、ゆるやかな離陸を期待しながら、急な離陸にも備えようというものです。

SF作品での登場例

ヴィンジは、論文を書くずっと前から、この考えを小説に取り入れていました。『Marooned in Realtime』（1986年）では、遠い未来の人々が、生き残った者にも原因が分からない出来事で姿を消しています。『A Fire Upon the Deep』（1992年）では、銀河の場所によって、可能な知能の高さそのものが変わるという世界が描かれます。どちらも、先が予測できなくなる境目を、小説家がどう扱うかを知る手がかりになります。

チャールズ・ストロスの『Accelerando』（2005年）は、ある一家の三世代を追い、経済も人間の心も、加速度的に変わっていく様子を描きます。警告というより、目が回るような、ユーモアのある案内役としてこの考えを巡る作品です。

アーサー・C・クラークの『2001年宇宙の旅』（2001: A Space Odyssey）は、暴走する自己改良を描く作品ではありませんが、フィクションにおける「考える機械」の原型を作りました。宇宙船のコンピューターHAL 9000は、乗組員と目標がずれていく機械への人々の不安を映していますし、物語全体の流れは、より大きな知性によって人類が変えられるというものです。くわしくは『2001年宇宙の旅』のページをご覧ください。アイザック・アシモフの短編「最後の質問」（1956年）は、成長し続けるひとつのコンピューターを、数十億年にわたって描きます。映画では『her／世界でひとつの彼女』や『トランセンデンス』も、このテーマを取り上げています。

よくある誤解

「シンギュラリティとはロボットが人間を支配することだ」という誤解があります。この言葉が表すのは予測の限界であって、悪役ではありません。超知的なシステムが人間の役に立つのか、害になるのか、それとも無関心なのかは、この考え方だけでは決まりません。意図しないやり方で目標を追いかけてしまうリスクは、ペーパークリップ・マキシマイザーという思考実験で考えられています。

「2045年に必ず起こる」というのも誤解です。2045年はカーツワイル個人の予測で、科学者の合意ではありません。ヴィンジ自身が挙げた2005年から2030年までの期間は、出来事が起きないまま過ぎました。ヴィンジは、その年を約束ではなく、起こりうることとして扱っていました。

「シンギュラリティとAGIは同じものだ」というのも間違いです。AGI（汎用人工知能）は、ほとんどの知的作業を人間と同じようにこなせるシステムのことです。シンギュラリティは、そのようなシステムが人間の理解を超える速さで自分を改良していく、その後の状態についての仮説です。シンギュラリティが起きなくても、AGIは存在しうるのです。

「トランスヒューマニズムと同じ意味だ」という見方もあります。どちらも、技術が人間のあり方を変えるという点では重なります。ただ、シンギュラリティは知能と速さについての予測であり、トランスヒューマニズムは、人間の条件を改善しようという目標を持った運動です。

「ロコのバジリスクと関係がある」と思われることもあります。ロコのバジリスクは、未来のAIと意思決定の理論についての思考実験で、シンギュラリティを主張する議論の一部ではありません。何を言っていて、何を言っていないのかは、ロコのバジリスクのページで確かめられます。

「ブラックホールのようなものだ」というのは、たとえ話にすぎません。物理学の特異点は、密度が無限大になる点を指します。ここでは、見通せる範囲の端を示すために借りた言葉です。

次に読む

• SFの歴史：作家たちが機械や宇宙、未来をどう想像してきたかの大きな流れです。
• トランスヒューマニズム：技術で人間の限界を変えようとする運動を紹介します。
• ペーパークリップ・マキシマイザー：強力なAIが間違った目標を持つとどうなるかを考える有名な思考実験です。
• ロコのバジリスク：シンギュラリティとよく混同される、論争の多い思考実験です。
• 『2001年宇宙の旅』：フィクションで最も有名な「考える機械」を生んだ長編です。