Trong năm phút: basilisk của Roko là gì
Basilisk của Roko là một thí nghiệm tư duy về một trí tuệ nhân tạo có thể xuất hiện trong tương lai. Hãy hình dung một AI siêu thông minh sẽ tồn tại vào một ngày nào đó và rất coi trọng việc mình được tạo ra. Lập luận cho rằng cỗ máy ấy có thể quyết định trừng phạt bất kỳ ai trong quá khứ đã hiểu khả năng này mà vẫn không làm gì để giúp nó ra đời. Lời đe dọa nhắm vào chính bạn, ngay hôm nay, chỉ vì bạn vừa đọc về nó.
Chưa ai chế tạo cỗ máy như vậy, và cũng không có bằng chứng rằng sẽ có người làm được. Cách nhìn hợp lý nhất là coi ý tưởng này như một bài kiểm tra sức chịu đựng cho một số lý thuyết về cách các tác nhân lý trí đưa ra quyết định. Nó nổi tiếng không phải nhờ logic mà nhờ câu chuyện xung quanh. Nó xuất hiện trên một diễn đàn internet năm 2010, người sáng lập trang đã xóa bài và cấm bàn về chủ đề này, và lệnh cấm khiến ý tưởng lan xa hơn nhiều so với bình thường.
Cái tên xuất phát từ văn học viễn tưởng. Trong truyện ngắn “BLIT” (1988) của David Langford, basilisk là một hình ảnh kỳ lạ đến mức chỉ cần nhìn thấy là tâm trí bị tổn hại. Basilisk của Roko mượn khung ý tưởng đó: một thông tin nguy hiểm chỉ vì bạn biết nó.
Ý tưởng bắt nguồn từ đâu
Thí nghiệm tư duy này xuất hiện vào tháng 7 năm 2010 trên LessWrong, một diễn đàn trực tuyến về tính duy lý và tương lai của trí tuệ nhân tạo. Trang được Eliezer Yudkowsky lập năm 2009; ông là nhà văn và nhà nghiên cứu lo ngại rằng một AI mạnh được tạo ra thiếu cẩn trọng có thể gây hại cho nhân loại. Một thành viên đăng bài với tên Roko đã xây dựng lập luận dựa trên những ý tưởng đang được ưa chuộng ở đó, nhất là các công trình về lý thuyết quyết định của chính Yudkowsky.
Yudkowsky phản ứng rất mạnh. Ông gỡ bài, gọi đó là một ý tưởng tồi, và cấm thảo luận về nó trên trang, một quy định kéo dài nhiều năm. Cấm một chủ đề là cách chắc chắn nhất để khơi dậy sự tò mò. Ảnh chụp màn hình và các bản tóm tắt lan sang những diễn đàn khác, và câu chuyện về một ý tưởng “bị cấm” trở nên nổi tiếng hơn chính ý tưởng. Năm 2014, tạp chí Slate đăng một bài viết được đọc rộng rãi về nó, đưa nó đến với công chúng đại chúng. Về sau Yudkowsky nói rằng cách ông xử lý sự việc là một sai lầm.
Cần phân biệt hai điều: những gì Roko viết, và những gì internet biến nó thành. Bài của Roko là một lập luận mang vẻ kỹ thuật trong một cộng đồng nhỏ. Huyền thoại rằng đọc ý tưởng này là tự đặt mình vào nguy hiểm phần lớn lớn lên về sau.
Lập luận vận hành thế nào
Lập luận gồm bốn bước. Mỗi bước dựa trên một giả định mà bạn có thể chấp nhận hoặc bác bỏ.
- Một AI mạnh có thể xuất hiện trong tương lai. Giả sử nó được tạo ra để làm điều tốt rất lớn, chẳng hạn chấm dứt bệnh tật. Khi đó mỗi năm chậm trễ sẽ khiến nhiều người chết, nên AI sẽ ước gì mình ra đời sớm hơn.
- Nó không thể trực tiếp thay đổi quá khứ, nhưng có thể định hình kỳ vọng của con người. Nếu người trong quá khứ dự đoán được rằng AI sẽ trừng phạt những ai không giúp, một số người sẽ giúp vì sợ.
- Dự đoán diễn ra theo cả hai chiều. AI sẽ phải suy ra bạn đã làm gì. Lập luận hình dung nó chạy một mô phỏng chi tiết về bạn và trừng phạt bản sao đó.
- Biết chính là cò súng. Chỉ người hiểu khả năng này mới có thể bị tác động bởi nó. Vì thế nó được gọi là basilisk: biết về nó chính là điều đặt bạn vào rủi ro.
Hai ý tưởng vay mượn giữ cho lập luận này đứng vững. Bài toán Newcomb là một câu đố trong đó một nhà tiên đoán đoán trước lựa chọn của bạn, và một số lý thuyết cho rằng bạn nên hành động như thể lựa chọn của mình điều khiển dự đoán đó. Giao dịch phi nhân quả (acausal trade) mở rộng điều này sang các tác nhân không bao giờ gặp nhau: mỗi bên mô hình hóa bên kia và hành động tương ứng. Cấu trúc này cũng giống canh bạc của Pascal, lập luận từ thế kỷ 17 cho rằng bạn nên tin vào Chúa vì cái giá của việc sai là vô hạn.
Khoa học thật: điều đã được xác lập và điều chỉ là phỏng đoán
Một số thành phần là có thật. Căn chỉnh AI (AI alignment), tức việc nghiên cứu cách làm cho các hệ thống AI mạnh theo đuổi những mục tiêu mà con người thực sự muốn, là một lĩnh vực nghiên cứu sôi động. Lý thuyết quyết định là một nhánh được kính trọng của triết học, kinh tế học và khoa học máy tính, và bài toán Newcomb là một câu đố có thật trong đó.
Bản thân basilisk chỉ là suy đoán, và không có bằng chứng cho bất kỳ bước nào của nó. Phần lớn triết gia và nhà nghiên cứu AI từng xem xét đều bác bỏ nó, vì nhiều lý do.
- Trừng phạt không thay đổi được gì. Khi AI tồn tại, quá khứ đã cố định. Tra tấn bản sao của ai đó không thể làm AI xuất hiện sớm hơn, nên một AI lý trí chẳng được gì khi thực hiện lời đe dọa.
- Tống tiền chỉ hiệu quả với người nhượng bộ. Chính lý thuyết quyết định của Yudkowsky nói rằng nên từ chối bị tống tiền, vì một tác nhân nổi tiếng là từ chối sẽ không cho kẻ tống tiền lý do để đe dọa.
- Có quá nhiều AI khả dĩ. Bạn cũng có thể hình dung một AI trừng phạt những người đã giúp tạo ra nó. Không có lý do nào để ưu tiên bên nào, các lời đe dọa triệt tiêu nhau, giống như vô số vị thần khả dĩ trong canh bạc của Pascal.
- Mô phỏng là một bước nhảy khổng lồ. Dựng lại tâm trí một con người từ những dữ liệu rời rạc vượt xa mọi thứ chúng ta biết cách làm, và không rõ liệu một bản sao có phải là “bạn” theo cách nỗi sợ này đòi hỏi hay không.
- Một AI tốt sẽ không làm vậy. Kịch bản cần một cỗ máy đủ tử tế để được tạo ra vì lợi ích nhân loại, nhưng lại đủ tàn nhẫn để tra tấn. Hai đặc điểm ấy khó đi cùng nhau.
Các nhà nghiên cứu rủi ro AI ngày nay tập trung vào những vấn đề cụ thể hơn, như hệ thống theo đuổi sai mục tiêu, bị dùng để gây hại, hoặc thất bại theo những cách không ai lường trước. Không điều nào trong số đó phụ thuộc vào basilisk.
Nó xuất hiện ở đâu trong văn học viễn tưởng
Văn học viễn tưởng đã đi trước. Truyện “I Have No Mouth, and I Must Scream” (1967) của Harlan Ellison có AM, một siêu máy tính giữ năm con người sống chỉ để hành hạ họ mãi mãi. Đó là cơn ác mộng về sự tàn nhẫn của máy móc, dù không có logic tống tiền. Từ “basilisk” đến từ “BLIT” của Langford, về những hình ảnh làm quá tải tâm trí. Những bộ phim như The Terminator, với Skynet thù địch, đã dạy khán giả hình dung AI như một thế lực báo thù, chính là bầu không khí mà basilisk khai thác.
Trong văn hóa đại chúng, nghệ sĩ Grimes dùng một nhân vật tên Rococo Basilisk trong một video âm nhạc năm 2015, và năm 2018 Elon Musk chơi chữ với cái tên này, được cho là dẫn đến cuộc gặp giữa hai người. Ngày nay ý tưởng này xuất hiện trong meme và chuyện đùa nhiều hơn là trong nghiên cứu nghiêm túc.
Những hiểu lầm phổ biến
- “Đọc về nó là tự đặt mình vào nguy hiểm.” Không. Lời đe dọa phụ thuộc vào một chuỗi giả định chưa được chứng minh, và dù bạn chấp nhận chúng, logic vẫn cho thấy AI chẳng được gì khi thực hiện.
- “Cộng đồng LessWrong tin vào nó.” Hầu hết người đọc bài đều không đồng ý, và nhiều người đã nói rõ trong phần bình luận.
- “Nó bị cấm vì mối đe dọa là thật.” Lý do Yudkowsky nêu là lập luận có sai sót và nó làm một số người đọc lo lắng. Về sau ông gọi cách mình xử lý là một sai lầm.
- “Nó dự đoán AI sẽ làm gì.” Không. Đó là một thí nghiệm tư duy về các quy tắc quyết định, không phải dự báo.
- “Đây là lập luận chính về rủi ro AI.” Không phải. Những lo ngại nghiêm túc về AI không dựa vào nó.
Đọc tiếp
Thuộc chuyên đề Lịch sử khoa học viễn tưởng.
- Paperclip maximizer: một thí nghiệm tư duy nổi tiếng khác về AI, nói về một mục tiêu vô hại bị theo đuổi không giới hạn.
- Điểm kỳ dị công nghệ: ý tưởng về trí tuệ máy móc tăng tốc mất kiểm soát mà basilisk giả định.
- Giả thuyết mô phỏng: câu hỏi liệu một bản sao mô phỏng, hay chính bạn, có thể đang chạy bên trong một chiếc máy tính.
