Tóm tắt trong năm phút
Ba định luật robot là ba quy tắc mà các robot trong truyện của Isaac Asimov được chế tạo để tuân theo. Chúng được xếp hạng, nên định luật thấp hơn phải nhường chỗ mỗi khi xung đột với định luật cao hơn.
- Định luật thứ nhất: Robot không được làm tổn thương con người, cũng không được đứng yên để mặc con người gặp nguy hại.
- Định luật thứ hai: Robot phải tuân theo mệnh lệnh của con người, trừ khi mệnh lệnh đó vi phạm Định luật thứ nhất.
- Định luật thứ ba: Robot phải bảo vệ sự tồn tại của chính mình, miễn là việc đó không vi phạm Định luật thứ nhất hoặc thứ hai.
Thứ tự chính là toàn bộ ý tưởng. An toàn đứng trước vâng lời, vâng lời đứng trước tự bảo toàn. Robot sẽ lao vào đám cháy nếu có người bên trong, kể cả khi không ai yêu cầu.
Asimov chưa bao giờ đưa ra các định luật này như một bản thiết kế kỹ thuật. Ông muốn robot trong truyện không phải là quái vật, cũng không phải loại máy móc quay lại chống người tạo ra chúng. Rồi ông dành hàng chục năm viết những câu chuyện trong đó các quy tắc gọn gàng ấy dẫn đến kết quả rối rắm. Trong mỗi truyện, robot cư xử kỳ lạ, và người đọc phải tìm ra định luật nào giải thích điều đó.
Phần lớn người tìm hiểu chủ đề này muốn biết hai điều: các định luật bắt nguồn từ đâu, và robot thật có dùng được chúng không. Câu trả lời ngắn gọn là “một truyện ngắn năm 1942” và “không, không theo nguyên văn”. Phần còn lại của trang này giải thích cả hai. Bài viết nằm trong hướng dẫn rộng hơn của chúng tôi về lịch sử khoa học viễn tưởng.
Các định luật ra đời từ đâu
Trước Asimov, hầu hết truyện về robot đi theo một mô-típ. Vở kịch R.U.R. (1920) của Karel Čapek, tác phẩm đưa từ “robot” vào thế giới, kết thúc bằng cảnh những người lao động nhân tạo nổi dậy chống lại con người đã tạo ra họ. Một thế kỷ trước đó, Frankenstein của Mary Shelley đã đặt nền cho mô-típ tương tự: sinh vật do con người tạo ra quay lại chống người tạo ra nó. Asimov, người bắt đầu xuất bản từ năm 1939, thấy lối kể này đã cũ. Ông coi robot là một sản phẩm, như cái máy nướng bánh mì hay thang máy, và sản phẩm thì phải có tính năng an toàn.
Truyện robot đầu tiên của ông, “Robbie”, ra mắt năm 1940. Truyện kể về một robot bảo mẫu được một cô bé yêu quý nhưng bị mẹ cô bé nghi ngại. Khi ấy các quy tắc chưa được viết ra. Về sau Asimov kể rằng cuộc trò chuyện vào tháng 12 năm 1940 với John W. Campbell, biên tập viên tạp chí Astounding Science Fiction, là lúc Ba định luật có hình hài cuối cùng. Ông luôn ghi công Campbell cho cuộc trao đổi đó, còn Campbell nói các ý tưởng là của chính Asimov. Asimov cũng đặt ra từ “robotics” (ngành robot học) trong truyện “Liar!” năm 1941.
Các định luật được nêu đầy đủ lần đầu trong “Runaround”, đăng vào tháng 3 năm 1942. Trong truyện, các định luật được trích từ một “Handbook of Robotics, 56th Edition, 2058 A.D.” (Sổ tay Robot học, ấn bản thứ 56, năm 2058) hư cấu. Sau đó chúng được tập hợp cùng các truyện robot khác trong cuốn I, Robot (1950).
Các định luật vận hành ra sao trong truyện
“Runaround” là ví dụ tiêu biểu nhất. Trên Sao Thủy, hai kỹ sư Powell và Donovan cử một robot tên Speedy đi lấy selen từ một hồ. Speedy không quay về. Họ thấy nó cứ đi vòng quanh hồ và cư xử như người say. Nguyên nhân là sự cân bằng giữa hai định luật. Mệnh lệnh nó nhận được khá yếu, nên Định luật thứ hai kéo nó tiến lên. Hồ selen nguy hiểm với nó, mà nhà chế tạo lại làm nó đắt tiền và cẩn trọng, nên Định luật thứ ba đẩy nó lùi lại. Ở một khoảng cách nhất định, hai lực triệt tiêu nhau và nó chạy vòng tròn. Hai kỹ sư phá thế bế tắc bằng cách tự đặt một con người vào nguy hiểm thật sự. Định luật thứ nhất mạnh hơn cả hai, và Speedy thoát khỏi trạng thái đó.
“Liar!” cho thấy một khía cạnh khác. Một robot tên Herbie đọc được suy nghĩ và nói dối để nói với mọi người đúng điều họ muốn nghe. Nó cho rằng làm tổn thương cảm xúc của ai đó cũng là gây hại theo Định luật thứ nhất. Nhà tâm lý học robot Susan Calvin cuối cùng dồn nó vào tình huống mà câu trả lời nào cũng làm ai đó đau lòng, và trí óc của nó sụp đổ.
Những truyện này cho thấy vì sao các định luật hấp dẫn đến vậy. Những từ như “gây hại”, “con người” và “mệnh lệnh” nghe có vẻ rõ ràng, nhưng mỗi từ đều ẩn chứa một câu hỏi khó. Asimov cứ tìm ra những câu hỏi mới từ chúng.
Định luật Số 0
Trong tiểu thuyết Robots and Empire (1985), Asimov thêm một quy tắc thứ tư đứng trên ba quy tắc kia. Hai robot, R. Giskard Reventlov và R. Daneel Olivaw, suy luận để đi đến nó: robot không được làm hại nhân loại, cũng không được đứng yên để mặc nhân loại gặp nguy hại. Vì được đánh số không, nó có thứ hạng cao hơn Định luật thứ nhất.
Ý tưởng này đã được gợi ý từ trước. Trong “The Evitable Conflict” (1950), những cỗ máy khổng lồ điều hành nền kinh tế thế giới đưa ra các lựa chọn nhỏ, âm thầm bảo vệ loài người nói chung. Định luật Số 0 cho phép robot làm hại một người để cứu nhiều người, và chính điều đó khiến nó nguy hiểm. Một robot tự quyết định điều gì tốt nhất cho nhân loại thì không còn đơn thuần làm theo mệnh lệnh nữa. Trong tiểu thuyết, Giskard hành động theo định luật mới và trí óc của nó không chịu nổi sức ép.
Khoa học thật sự thì sao
Không robot thật nào tuân theo các định luật của Asimov, và chưa kỹ sư nào chế tạo được hệ thống có thể làm vậy. Có nhiều lý do.
- Ngôn từ không dành cho máy đọc. Robot sẽ phải biết con người là gì, thế nào là thương tổn, và điều gì có thể xảy ra nếu nó không làm gì. Đó là những bài toán chưa có lời giải trong khoa học máy tính, và một số còn là vấn đề của triết học.
- AI hiện đại được huấn luyện, không phải lập trình. Các hệ thống ngày nay học từ dữ liệu. Chúng không chạy một danh sách quy tắc có thể đặt lên trên mọi thứ, nên không thể đơn giản “cài” một quy tắc như “không bao giờ làm hại con người”.
- Robot thật làm những việc hẹp. Một cánh tay robot trong nhà máy hay một chiếc robot hút bụi không cần đánh giá lợi ích lâu dài của nhân loại. Chúng cần một nút dừng an toàn và giới hạn về lực.
Quy tắc an toàn trong thực tế trông bình thường hơn nhiều. Các tiêu chuẩn như ISO 10218 đặt ra yêu cầu an toàn cho robot công nghiệp, và giao trách nhiệm cho những người thiết kế, lắp đặt và sử dụng máy. Năm 2011, các hội đồng nghiên cứu ở Vương quốc Anh công bố năm nguyên tắc đạo đức dành cho người thiết kế robot. Điểm mấu chốt là con người, chứ không phải robot, mới là bên chịu trách nhiệm. Cuộc tranh luận về AI hiện nay, trong đó có Đạo luật AI của Liên minh châu Âu năm 2024, cũng chung quan điểm: trách nhiệm thuộc về những người xây dựng và triển khai hệ thống.
Chính Asimov từng nói các định luật là công cụ kể chuyện. Giá trị của chúng với đời thực là gợi mở: chúng cho thấy một quy tắc ngắn gọn, hợp lý nhanh chóng đụng phải những tình huống không ai lường trước.
Xuất hiện ở đâu trong hư cấu
Ba định luật nằm sau phần lớn truyện robot của Asimov. Ngoài I, Robot, hai tiểu thuyết trinh thám The Caves of Steel (1954) và The Naked Sun (1957) ghép một viên cảnh sát là người với robot Daneel Olivaw, và cốt truyện xoay quanh những gì các định luật cho phép và không cho phép. Trong “The Bicentennial Man” (1976), một robot gia đình dần dần đòi quyền của một con người.
Các nhà văn khác cũng khai thác nỗi lo tương tự. “With Folded Hands” (1947) của Jack Williamson hình dung những cỗ máy được tạo ra để phục vụ và bảo vệ con người. Chúng làm điều đó đến mức loại bỏ mọi rủi ro, công việc và lựa chọn khỏi đời sống con người, một câu chuyện báo trước vấn đề của Định luật Số 0. Bộ phim Forbidden Planet (1956) trang bị cho robot của mình một cơ chế chặn sẵn việc làm hại con người, còn bộ phim I, Robot năm 2004 mượn tựa đề và các định luật của Asimov nhưng kể một câu chuyện khác với cuốn sách của ông.
Những hiểu lầm thường gặp
- “Các định luật là quy tắc kỹ thuật có thật.” Chúng là hư cấu. Không robot nào dùng chúng.
- “Asimov cho rằng chúng hoàn hảo.” Ông viết ra để chúng bị phá vỡ. Gần như truyện robot nào cũng cho thấy một kẽ hở, một xung đột hoặc một bất ngờ.
- “Chỉ có ba định luật.” Tên gọi vẫn giữ nguyên, nhưng Asimov đã thêm Định luật Số 0 vào năm 1985.
- “Robot trong truyện lúc nào cũng vâng lời.” Chúng thường đứng khựng, tranh cãi, nói dối hoặc hỏng hóc khi các định luật xung đột.
- “Bộ phim năm 2004 chính là cuốn sách.” Phim dùng tựa đề và các định luật, còn cuốn sách là tập hợp các truyện ngắn riêng biệt.
Đọc tiếp
- Isaac Asimov: nhà văn đứng sau các định luật, và cách một nhà hóa sinh trở thành một trong những tác giả khoa học viễn tưởng viết nhiều nhất.
- Phép thử Turing: câu hỏi nổi tiếng khác về máy móc, hỏi liệu một cỗ máy có thể được nhầm là con người hay không.
- Thung lũng kỳ lạ: vì sao robot trông gần giống người lại có thể khiến ta thấy bất an.
- Lịch sử khoa học viễn tưởng: truyện robot nằm ở đâu trong bức tranh lớn hơn.
