Trong năm phút: lập luận căn phòng Trung Hoa
Lập luận căn phòng Trung Hoa là một thí nghiệm tư tưởng đặt câu hỏi: máy tính thật sự hiểu ngôn ngữ, hay chỉ xử lý ký hiệu? Triết gia John Searle công bố nó năm 1980 để lập luận rằng chạy đúng chương trình chưa đủ để một cỗ máy có tâm trí.
Hãy hình dung một người không biết tiếng Trung bị nhốt trong căn phòng cùng một cuốn sách quy tắc viết bằng tiếng Anh. Những mẩu giấy tiếng Trung được đưa vào qua khe cửa, người đó làm theo quy tắc để tạo câu trả lời, rồi đưa ra ngoài.
Với người bên ngoài, căn phòng nói tiếng Trung rất lưu loát. Còn bên trong, không ai hiểu một chữ nào.
Ý của Searle là chương trình chỉ xử lý hình dạng của ký hiệu, trong khi hiểu biết đòi hỏi ý nghĩa. Đây là phản đối nổi tiếng nhất nhắm vào phép thử Turing, và là một trong những ý tưởng được bàn cãi nhiều nhất trong triết học tâm trí.
Thí nghiệm tư tưởng từng bước
Searle, khi đó giảng dạy tại Đại học California, Berkeley, trình bày kịch bản này trong bài “Minds, Brains, and Programs” đăng trên tạp chí Behavioral and Brain Sciences. Ông viết nó để đáp lại quan điểm cho rằng máy tính chạy đúng chương trình sẽ thật sự hiểu, chứ không chỉ bắt chước.
Ông tự đặt mình vào vai người trong phòng. Ông chỉ biết tiếng Anh, và có một bộ quy tắc tiếng Anh dày cho biết nên đưa ra ký hiệu tiếng Trung nào ứng với mỗi loạt ký hiệu được đưa vào.
Những người bên ngoài gọi các loạt ký hiệu đi vào là “câu hỏi” và các loạt đi ra là “câu trả lời”. Nếu quy tắc đủ tốt, câu trả lời không thể phân biệt với câu trả lời của người bản ngữ.
Searle sau đó hỏi một câu hiển nhiên: ông có hiểu tiếng Trung không? Ông trả lời là không, vì ông chỉ ghép hình dạng này với hình dạng kia.
Theo ông, máy tính ở đúng vị trí của người trong phòng. Nó xử lý ký hiệu theo hình thức, và riêng hình thức thì không mang ý nghĩa.
Searle phản đối điều gì
Searle phân biệt hai tuyên bố. “AI yếu” cho rằng máy tính là công cụ hữu ích để nghiên cứu tâm trí, còn “AI mạnh” cho rằng một máy tính được lập trình phù hợp thật sự có tâm trí.
Ông chấp nhận tuyên bố đầu và công kích tuyên bố sau. Một trong những mục tiêu của ông lúc bấy giờ là nhóm chương trình hiểu truyện do Roger Schank và các đồng nghiệp xây dựng, có thể trả lời câu hỏi về những đoạn văn ngắn.
Lập luận của ông có thể chia thành ba bước. Chương trình thuần túy mang tính cú pháp, tức là xử lý hình thức của ký hiệu, tâm trí có ngữ nghĩa, tức là có nội dung, và riêng cú pháp thì không đủ để tạo ra ngữ nghĩa.
Searle không nói máy móc không bao giờ có thể suy nghĩ. Ông nói bộ não là một cỗ máy thật sự tạo ra tâm trí, nên bất cứ thứ gì làm được việc đó phải có năng lực nhân quả phù hợp, chứ không chỉ có đúng chương trình.
Vì vậy, câu hỏi không phải là một vật có phải máy móc hay không. Câu hỏi là chạy một chương trình có đủ hay không.
Khoa học thật: điều đã chắc chắn, điều chưa
Chưa ai xây căn phòng Trung Hoa, và xây xong cũng không giải quyết được vấn đề. Đây là một thí nghiệm tư tưởng, nên nó kiểm tra ý tưởng chứ không kiểm tra phần cứng.
Điều đã rõ là cách dựng lập luận, thời điểm công bố và các phản hồi sau đó. Điều chưa ngã ngũ là lập luận có đúng hay không, và các triết gia lẫn nhà khoa học nhận thức vẫn chia rẽ.
Một phản đối thực tế là quy mô. Một chương trình trò chuyện thật không phải cuốn sách quy tắc mà một người có thể tra bằng tay, và giới phê bình cho rằng trực giác của ta về một người với một cuốn sách có thể không áp dụng cho hệ thống có tốc độ và độ phức tạp khổng lồ.
Câu hỏi này quay lại với các mô hình ngôn ngữ lớn, vốn tạo ra văn bản trôi chảy từ các mẫu học được từ dữ liệu. Ngày nay người ta viện dẫn căn phòng Trung Hoa khi hỏi liệu đầu ra trôi chảy có chứng tỏ sự hiểu hay không, và chưa có câu trả lời thống nhất.
Cần tách nó khỏi phép thử Turing. Đề xuất năm 1950 của Alan Turing đánh giá máy qua hành vi, còn lập luận của Searle nói rằng vượt qua phép thử như vậy chưa chứng minh được sự hiểu.
Các phản biện chính
Ngay trong bài gốc năm 1980, Searle đã liệt kê các phản đối và trả lời chúng. Những phản biện nổi tiếng nhất vẫn giữ nguyên tên gọi.
- Phản biện hệ thống: người trong phòng không hiểu, nhưng cả hệ thống gồm người, sách quy tắc và giấy thì hiểu. Searle đáp rằng người đó có thể học thuộc quy tắc và làm việc trong đầu, mà vẫn không hiểu gì.
- Phản biện người máy: đặt chương trình vào một người máy có camera và tay chân, để ký hiệu gắn với thế giới thực. Searle nói tín hiệu từ camera chỉ là thêm ký hiệu đối với người trong phòng.
- Phản biện mô phỏng não: mô phỏng từng nơ-ron của một người nói tiếng Trung. Searle nói mô phỏng bộ não không phải bộ não, cũng như một cơn bão mô phỏng không làm ai ướt.
- Phản biện tâm trí khác: ta chỉ đánh giá người khác qua hành vi, nên cũng nên đánh giá máy móc như vậy. Searle nói vấn đề không phải ta biết bằng cách nào, mà là ta đang tuyên bố biết điều gì.
Sau đó, năm 1990, Paul và Patricia Churchland đề xuất “phòng tập Trung Hoa”, một đại sảnh đầy người truyền tín hiệu để vận hành như một mạng nơ-ron, nhằm thách thức trực giác của Searle. Searle vẫn giữ nguyên lập trường.
Vì sao lập luận này bền bỉ
Một phần sức bền của nó là ai cũng theo dõi được mà không cần kiến thức kỹ thuật. Bạn không cần biết máy tính hoạt động thế nào, chỉ cần biết cảm giác làm theo những chỉ dẫn mà mình không hiểu.
Phần còn lại là nó chạm vào một khoảng trống có thật. Ta mô tả được chi tiết chương trình làm gì và bộ não làm gì, nhưng chưa có cách giải thích thống nhất về việc cái nào tạo ra ý nghĩa hay trải nghiệm.
Người ủng hộ nói lập luận cho thấy ý nghĩa cần nhiều hơn việc làm theo quy tắc, có thể là một cơ thể, một lịch sử hay một bộ não sống. Người phê bình nói nó dựa vào một trực giác có thể sai, như các trực giác trước đây về sự sống và vật chất từng hóa ra sai.
Với học sinh, kỹ năng hữu ích là nêu rõ điều gì được coi là hiểu. Khi đã quyết định, bạn sẽ thấy phản biện nào thuyết phục mình.
Căn phòng trong tiểu thuyết
Căn phòng Trung Hoa là một ý tưởng triết học, nhưng các câu chuyện đã xoay quanh cùng câu hỏi từ lâu hơn. Năm 1714, Gottfried Leibniz hình dung việc bước vào bên trong một cỗ máy biết suy nghĩ như đi vào một chiếc cối xay, và chỉ thấy các bộ phận đẩy nhau, không bao giờ thấy một nhận thức.
Trong khoa học viễn tưởng, căn phòng xuất hiện mỗi khi một câu chuyện hỏi liệu cỗ máy nói giỏi có biết mình đang nói gì không. Tiểu thuyết Blindsight (2006) của Peter Watts đề cập trực tiếp căn phòng Trung Hoa khi bàn về trí tuệ không có ý thức.
Các truyện về người máy biết nói và chatbot nêu cùng nỗi lo ấy dưới những hình thức khác. Để xem bối cảnh rộng hơn, hãy đọc lịch sử khoa học viễn tưởng.
Những hiểu lầm thường gặp
- “Searle đã chứng minh máy không thể suy nghĩ.” Ông chỉ lập luận rằng chạy một chương trình là chưa đủ. Ông thừa nhận một cỗ máy, như bộ não, có thể suy nghĩ.
- “Lập luận này nói về tiếng Trung.” Bất kỳ ngôn ngữ nào người đó không biết đều dùng được. Tiếng Trung được chọn vì ký hiệu của nó trông như những hình dạng thuần túy với người đọc tiếng Anh.
- “Vấn đề đã được giải quyết từ lâu.” Chưa hề. Các phản biện nêu trên vẫn được thảo luận trong các lớp và bài viết triết học.
- “Nó giống phép thử Turing.” Phép thử Turing kiểm tra hành vi, còn căn phòng Trung Hoa là sự phản đối về điều mà việc vượt qua phép thử đó chứng tỏ.
Đọc tiếp
Đọc Phép thử Turing để biết bài kiểm tra hành vi mà Searle đã đáp lại.
Đọc Bộ não trong thùng để biết một thí nghiệm tư tưởng khác về những gì tâm trí biết và những gì nó chỉ nhận như tín hiệu.
Quay lại lịch sử khoa học viễn tưởng để xem bản đồ lớn hơn.