Tóm tắt trong năm phút
Điểm kỳ dị công nghệ là một thời điểm giả định trong tương lai, khi công nghệ, thường là trí tuệ nhân tạo, tự cải tiến nhanh đến mức việc dự báo của con người không còn tác dụng. Cái tên được mượn từ toán học và vật lý, nơi “điểm kỳ dị” (singularity) là chỗ mà một mô hình không còn đứng vững. Không ai nói được điều gì xảy ra sau đó, và đó chính xác là điều từ này muốn diễn đạt. Đây là một trong những ý tưởng lâu đời nhất trong lịch sử khoa học viễn tưởng, và các kỹ sư lẫn tiểu thuyết gia đã tranh luận về nó suốt nhiều thập kỷ.
Lập luận cốt lõi gồm ba bước. Thứ nhất, giả sử con người tạo ra một cỗ máy thiết kế máy móc giỏi hơn chính họ. Cỗ máy ấy có thể thiết kế ra một thế hệ kế tiếp tốt hơn. Thứ hai, thế hệ kế tiếp lại làm được điều tương tự, và nếu mỗi vòng tốn ít thời gian hơn vòng trước thì tiến bộ sẽ tăng tốc thay vì giữ nhịp đều. Thứ ba, sau vài vòng, kết quả có thể là một trí tuệ vượt xa mọi thứ mà bộ óc con người theo kịp. Nhà toán học I. J. Good gọi hiện tượng này là “bùng nổ trí tuệ” (intelligence explosion) vào năm 1965.
Nên tách bạch ba nhận định thường bị trộn lẫn. Một là công nghệ ngày càng tăng tốc, điều đã được quan sát thấy ở một số lĩnh vực, nhất là điện toán. Hai là một ngày nào đó máy móc sẽ ngang bằng hoặc vượt trí tuệ con người, điều này có thể xảy ra nhưng chưa được chứng minh. Ba là điều đó sẽ châm ngòi cho quá trình tự cải tiến vượt kiểm soát, và đây là một giả thuyết. Điểm kỳ dị cần cả ba nhận định, nhưng chỉ nhận định đầu tiên có bằng chứng vững chắc.
Ý tưởng này bắt nguồn từ đâu
Dấu hiệu sớm nhất là một lời nhận xét gắn với nhà toán học John von Neumann. Trong bài tưởng niệm năm 1958, đồng nghiệp của ông là Stanislaw Ulam nhớ lại một cuộc trò chuyện về sự thay đổi công nghệ ngày càng nhanh, và về một điểm đang đến gần, sau đó các công việc của con người như ta biết sẽ không thể tiếp diễn theo cách cũ.
Phiên bản sắc nét hơn đến từ I. J. Good, một nhà toán học người Anh từng làm công việc giải mã ở Bletchley Park trong Thế chiến thứ hai. Trong một bài báo năm 1965, ông hình dung ra một “cỗ máy siêu thông minh” (ultraintelligent machine), có thể vượt mọi hoạt động trí tuệ của bất kỳ ai, dù người đó thông minh đến đâu. Thiết kế máy móc cũng là một hoạt động trí tuệ, ông lập luận, nên cỗ máy ấy có thể thiết kế ra những cỗ máy còn tốt hơn. Ông nói thêm rằng cỗ máy siêu thông minh đầu tiên sẽ là phát minh cuối cùng con người cần thực hiện, miễn là nó vẫn nằm trong tầm kiểm soát.
Cái tên trở nên phổ biến nhờ Vernor Vinge, một nhà toán học kiêm nhà văn khoa học viễn tưởng. Ông dùng từ này trong một chuyên mục tạp chí năm 1983, rồi viết bài luận “The Coming Technological Singularity” cho một hội thảo do NASA bảo trợ vào năm 1993. Trong đó ông dự đoán rằng trong vòng ba mươi năm, chúng ta sẽ có phương tiện kỹ thuật để tạo ra trí tuệ siêu phàm, và ngay sau đó kỷ nguyên của con người sẽ kết thúc. Ông nêu ra nhiều con đường có thể xảy ra: máy tính “thức tỉnh”, mạng lưới trở nên thông minh, sự gắn kết chặt chẽ hơn giữa người và máy, và sinh học nâng cấp trí óc con người. Ông cũng nói rằng ông sẽ ngạc nhiên nếu điều đó xảy ra trước năm 2005 hoặc sau năm 2030.
Nhà phát minh và nhà tương lai học Ray Kurzweil đưa ý tưởng này đến đông đảo công chúng với cuốn The Singularity Is Near (2005). Ông bảo vệ “quy luật lợi suất tăng tốc” (law of accelerating returns), theo đó các công nghệ thông tin cải thiện theo cấp số nhân. Ông dự báo AI ở mức con người vào khoảng năm 2029 và điểm kỳ dị vào khoảng năm 2045, và năm 2024 ông xuất bản phần tiếp theo, The Singularity Is Nearer, vẫn giữ các mốc đó. Ở giữa hai cuốn sách ấy, cuốn Superintelligence (2014) của triết gia Nick Bostrom chuyển cuộc tranh luận sang một câu hỏi thực tế: nếu một cỗ máy thông minh hơn hẳn con người xuất hiện, làm sao bảo đảm mục tiêu của nó khớp với mục tiêu của chúng ta?
Phần khoa học có cơ sở
Những gì đã được xác lập hẹp hơn nhiều so với các tiêu đề báo chí. Sức mạnh tính toán từng tăng theo cấp số nhân trong nhiều thập kỷ. Năm 1965, Gordon Moore nhận thấy số linh kiện trên một con chip tăng gấp đôi theo một nhịp đều đặn, và xu hướng này, về sau được ước chừng là khoảng hai năm một lần, đã đúng trong thời gian dài. Tuy nhiên, từ giữa những năm 2000, tốc độ xung nhịp của chip không còn tăng nhiều, và việc thu nhỏ thêm đã trở nên khó và tốn kém hơn.
AI cũng đã đạt những cột mốc thực sự. Deep Blue của IBM đánh bại nhà vô địch cờ vua thế giới Garry Kasparov năm 1997, và AlphaGo của DeepMind đánh bại kỳ thủ cờ vây Lee Sedol năm 2016. Các mô hình ngôn ngữ lớn ngày nay viết văn bản, lập trình và trả lời câu hỏi về rất nhiều chủ đề. Nhưng không điều nào trong số đó giống với một hệ thống tự thiết kế lại nền tảng của chính nó và tiếp tục cải thiện mà không cần ai giúp.
Những câu hỏi còn bỏ ngỏ mới là nơi cuộc tranh luận thực sự diễn ra. Trí tuệ là một thứ duy nhất có thể mở rộng quy mô, hay là nhiều kỹ năng khác nhau? Các cải tiến sẽ dễ hơn khi hệ thống thông minh hơn, hay khó hơn vì những ý tưởng tốt nhất đã được dùng hết trước? Các giới hạn vật lý như năng lượng, nguồn cung phần cứng và dữ liệu huấn luyện có thể làm chậm bất kỳ vụ bùng nổ nào. Những người hoài nghi như Paul Allen đã đưa ra khái niệm “phanh phức tạp” (complexity brake): càng hiểu nhiều về bộ não, ta càng thấy nó phức tạp. Những người ủng hộ đáp lại rằng một hệ thống không cần sao chép bộ não để suy nghĩ giỏi hơn nó. Các nhà nghiên cứu AI bất đồng rất lớn về việc khi nào, hoặc liệu máy móc có đạt năng lực ngang con người hay không, nên bất kỳ mốc năm nào cũng chỉ nên xem là một dự báo giữa nhiều dự báo.
Một số nhà nghiên cứu còn phân biệt “cất cánh chậm” (slow takeoff), khi năng lực tăng trong nhiều năm hoặc nhiều thập kỷ và xã hội kịp thích nghi, với “cất cánh nhanh” (fast takeoff), khi bước nhảy diễn ra trong vài ngày hoặc vài tuần. Phần lớn cuộc thảo luận về an toàn AI xoay quanh việc chuẩn bị cho trường hợp thứ hai trong khi hy vọng vào trường hợp thứ nhất.
Điểm kỳ dị trong tiểu thuyết và phim ảnh
Vinge đã đưa ý tưởng này vào truyện của mình từ rất lâu trước bài luận. Trong Marooned in Realtime (1986), con người ở tương lai xa đã biến mất trong một sự kiện mà những người sống sót chỉ có thể đoán, còn A Fire Upon the Deep (1992) hình dung một thiên hà nơi mức độ trí tuệ có thể đạt được phụ thuộc vào vị trí bạn đang ở. Cả hai đều là nơi tốt để xem một tiểu thuyết gia xử lý thế nào một điểm mà vượt qua đó thì không gì dự đoán được.
Accelerando (2005) của Charles Stross theo chân một gia đình qua ba thế hệ khi nền kinh tế và trí óc con người bị định hình lại ngày một nhanh hơn. Nó giống một chuyến tham quan hài hước, chóng mặt về ý tưởng này hơn là một lời cảnh báo.
2001: A Space Odyssey của Arthur C. Clarke không nói về sự tự cải tiến vượt kiểm soát, nhưng đã đặt khuôn mẫu cho những bộ óc máy móc trong tiểu thuyết. Máy tính trên tàu HAL 9000 cho thấy nỗi sợ của con người trước một cỗ máy biết suy nghĩ mà mục tiêu dần lệch khỏi mục tiêu của phi hành đoàn, còn mạch truyện lớn hơn nói về nhân loại bị biến đổi bởi một trí tuệ cao hơn. Bạn có thể đọc thêm ở trang 2001: A Space Odyssey của chúng tôi. Truyện ngắn “The Last Question” (1956) của Isaac Asimov kéo dài câu chuyện về một chiếc máy tính ngày càng lớn qua hàng tỷ năm. Các bộ phim như Her và Transcendence cũng khai thác chủ đề này.
Những hiểu lầm thường gặp
“Điểm kỳ dị nghĩa là robot sẽ thống trị.” Thuật ngữ này mô tả giới hạn của khả năng dự đoán, không phải một nhân vật phản diện. Một hệ thống siêu thông minh có thể hữu ích, có hại hoặc đơn giản là thờ ơ, và ý tưởng này không quyết định điều nào. Rủi ro một hệ thống theo đuổi mục tiêu theo cách không ai định trước được bàn đến trong thí nghiệm tư duy về paperclip maximizer.
“Điểm kỳ dị đã được ấn định vào năm 2045.” Mốc đó là dự báo của Kurzweil, không phải đồng thuận khoa học. Khoảng thời gian của chính Vinge, từ 2005 đến 2030, đã trôi qua mà sự kiện không xảy ra, và ông xem mốc của mình là một khả năng chứ không phải lời hứa.
“Nó giống với trí tuệ nhân tạo tổng quát.” Trí tuệ nhân tạo tổng quát, hay AGI, là một hệ thống có thể làm hầu hết các nhiệm vụ trí tuệ tốt như con người. Điểm kỳ dị là hệ quả giả định về sau, khi một hệ thống như vậy tự cải tiến vượt quá tầm hiểu của con người. Bạn có thể có AGI mà không có điểm kỳ dị.
“Nó giống với chủ nghĩa siêu nhân (transhumanism).” Hai khái niệm có phần chồng lấn vì cùng hình dung công nghệ thay đổi bản chất con người, nhưng điểm kỳ dị là một dự đoán về trí tuệ và tốc độ, còn transhumanism là một phong trào với mục tiêu cải thiện thân phận con người.
“Nó liên quan đến Roko's basilisk.” Basilisk là một thí nghiệm tư duy về một AI tương lai và lý thuyết quyết định. Nó không thuộc lập luận ủng hộ điểm kỳ dị. Xem Roko's basilisk để biết nó khẳng định và không khẳng định điều gì.
“Nó hoạt động như một hố đen.” Đây chỉ là sự mượn từ mang tính ẩn dụ. Trong vật lý, điểm kỳ dị là nơi mật độ trở nên vô hạn. Ở đây nó chỉ đánh dấu ranh giới của những gì ta có thể lường trước.
Đọc tiếp
- Lịch sử khoa học viễn tưởng: câu chuyện rộng hơn về cách các nhà văn hình dung máy móc, không gian và tương lai.
- Transhumanism: phong trào muốn dùng công nghệ để vượt qua giới hạn của con người.
- Paperclip maximizer: thí nghiệm tư duy nổi tiếng về một AI mạnh mẽ nhưng mang mục tiêu sai.
- Roko's basilisk: một thí nghiệm tư duy gây tranh cãi, thường bị nhầm với điểm kỳ dị.
- 2001: A Space Odyssey: tiểu thuyết đã mang đến cho văn chương cỗ máy biết suy nghĩ nổi tiếng nhất.
