Eliezer Yudkowsky
Có hai hộp được niêm phong đang được đấu giá, hộp A và hộp B. Chỉ có một trong hai hộp này chứa một viên kim cương quý giá. Có rất nhiều dấu hiệu và điềm báo cho biết liệu một hộp có chứa kim cương hay không; nhưng tôi không có dấu hiệu nào mà tôi biết là hoàn toàn đáng tin cậy. Ví dụ, một hộp có một con dấu màu xanh, và tôi biết rằng những hộp chứa kim cương thường có con dấu màu xanh hơn so với những hộp trống. Hoặc một hộp có bề mặt sáng bóng, và tôi có linh cảm—tôi không chắc chắn—rằng không có hộp nào chứa kim cương mà lại sáng bóng.
Giờ giả sử có một người tranh luận thông minh, cầm một tờ giấy, và họ nói với chủ nhân của hộp A và hộp B: “Hãy đấu giá dịch vụ của tôi, và ai thắng sẽ được tôi lập luận rằng hộp của họ chứa kim cương, để hộp đó nhận được giá cao hơn.” Các chủ hộp tham gia đấu giá, và chủ hộp B đặt giá cao hơn, thắng được dịch vụ của người tranh luận thông minh.
Người tranh luận thông minh bắt đầu sắp xếp suy nghĩ. Đầu tiên, họ viết, “Và do đó, hộp B chứa kim cương!” ở cuối tờ giấy. Sau đó, ở đầu tờ giấy, người tranh luận khôn ngoan viết: “Hộp B có dấu màu xanh”, và bên dưới là “Hộp A sáng bóng”, rồi “Hộp B nhẹ hơn hộp A”, và tiếp tục như vậy với nhiều dấu hiệu và điềm báo; nhưng người tranh luận khôn ngoan bỏ qua tất cả những dấu hiệu có thể ủng hộ hộp A. Rồi người tranh luận khôn ngoan đến gặp tôi và đọc từ tờ giấy của mình: “Hộp B có một con dấu màu xanh, và hộp A sáng bóng,” và tiếp tục cho đến khi họ đến: “và do đó, hộp B chứa viên kim cương.”
Nhưng hãy xem xét: Vào khoảnh khắc người tranh luận khôn ngoan viết ra kết luận của mình, vào khoảnh khắc họ đặt mực lên tờ giấy, sự ràng buộc bằng chứng giữa mực trên giấy và các hộp đã trở nên cố định.
Có thể hình dung một tập hợp các thế giới — nhánh Everett hoặc bản sao Tegmark — trong đó có một tần suất khách quan mà hộp A hoặc hộp B chứa kim cương.1
Mực trên giấy được hình thành thành các hình dạng và đường cong kỳ lạ, trông giống như văn bản này: “Và do đó, hộp B chứa kim cương.” Nếu bạn là người biết đọc tiếng Việt, bạn có thể sẽ bối rối và nghĩ rằng hình dạng của mực này có nghĩa là hộp B chứa viên kim cương. Những đối tượng được yêu cầu nói màu của hình ảnh in và được cho xem từ "Green" (màu xanh lá cây) bằng mực đỏ thường nói "red" (màu đỏ) thay vì "green" (màu xanh lá cây). Việc không biết chữ sẽ giúp bạn không bị bối rối bởi hình dạng của mực.
Đối với chúng ta, ý nghĩa thực sự của một thứ là sự liên kết của nó với những thứ khác. Hãy xem xét lại tập hợp các thế giới, các nhánh Everett hoặc các bản sao Tegmark. Vào thời điểm tất cả những người tranh luận thông minh trong tất cả các thế giới viết mực vào dòng cuối cùng của tờ giấy của họ — giả sử đây là một khoảnh khắc duy nhất — nó đã cố định mối tương quan giữa mực và các hộp. Người tranh luận thông minh viết bằng bút không thể xóa; mực sẽ không thay đổi. Các hộp sẽ không thay đổi. Trong tập con các thế giới nơi mực viết “Và do đó, hộp B chứa kim cương”, đã có một tỷ lệ cố định các thế giới nơi hộp A chứa kim cương. Điều này sẽ không thay đổi bất kể điều gì được viết trên các dòng trống phía trên.
Vì vậy, sự liên kết bằng chứng của mực là cố định, và tôi để bạn quyết định nó có thể là gì. Có lẽ những chủ hộp tin rằng họ có thể đưa ra lý lẽ tốt hơn sẽ có xu hướng thuê quảng cáo nhiều hơn; có lẽ những chủ hộp lo sợ những thiếu sót của mình sẽ trả giá cao hơn. Nếu chính các chủ hộp không hiểu các dấu hiệu và điềm báo, thì mực sẽ hoàn toàn không liên quan đến nội dung của các hộp, mặc dù nó có thể cho bạn biết điều gì đó về tài chính và thói quen đấu giá của các chủ hộp.
Giờ giả sử có một người khác có mặt, họ thực sự tò mò, và họ đầu tiên ghi lại tất cả các dấu hiệu phân biệt của cả haihộp lên một tờ giấy, sau đó áp dụng kiến thức và các quy luật xác suất để ghi xuống phía dưới: “Vì vậy, tôi ước tính có 85% khả năng hộp B chứa viên kim cương.” Bằng chứng của chữ viết tay này là gì? Khi xem xét chuỗi nguyên nhân và kết quả dẫn đến mực vật lý trên giấy vật lý, tôi thấy rằng chuỗi nhân quả chạy qua tất cả các dấu hiệu và điềm báo của các hộp, và phụ thuộc vào những dấu hiệu này; vì trong các thế giới có điềm báo khác nhau, xác suất được ghi ở phía dưới sẽ khác nhau.
Vì vậy, chữ viết tay của người tò mò là sự đan xen giữa các dấu hiệu, điềm báo và nội dung của các hộp, trong khi chữ viết tay của người tranh luận thông minh chỉ là bằng chứng cho thấy ai là người trả giá cao hơn. Có một sự khác biệt lớn trong ý nghĩa của mực, mặc dù một người ngu ngốc đọc to các hình mực có thể nghĩ rằng các từ tiếng Việt nghe giống nhau.
Hiệu quả của bạn với tư cách là một người duy lý được quyết định bởi thuật toán nào thực sự viết ra kết luận của suy nghĩ của bạn. Nếu xe của bạn phát ra tiếng rít kim loại khi bạn phanh, và bạn không sẵn sàng chi trả chi phí thay phanh, bạn có thể quyết định tìm kiếm lý do tại sao xe của bạn có thể không cần sửa chữa. Nhưng tỷ lệ phần trăm thực tế của bạn sống sót trong các nhánh Everett hoặc thế giới Tegmark — mà chúng ta sẽ dùng để mô tả hiệu quả của bạn với tư cách là một người duy lý — được quyết định bởi thuật toán đã quyết định bạn sẽ tìm kiếm lý lẽ cho kết luận nào. Trong trường hợp này, thuật toán thực sự là “Không bao giờ sửa chữa bất cứ thứ gì đắt tiền”. Nếu đây là một thuật toán tốt, thì tốt; nếu đây là một thuật toán xấu, thì cũng không sao. Những lý lẽ bạn viết sau đó, phía trên dòng cuối cùng, sẽ không thay đổi gì cả.
Điều này nhằm mục đích cảnh báo cho suy nghĩ của bạn, không phải là một phản luận hoàn toàn chung chung chống lại những kết luận mà bạn không thích. Vì quả thực, nếu bạn trả tiền cho chính mình để giữ bất kỳ niềm tin nào bạn có từ đầu, thì nói “Đối thủ của tôi là một người tranh luận thông minh” là một lập luận thông minh. Người tranh luận thông minh nhất thế giới có thể chỉ ra rằng mặt trời đang chiếu sáng, và thế nên có lẽ vẫn còn có ban ngày.
1. Max Tegmark, “Parallel Universes,” trong Science and Ultimate Reality: Quantum Theory, Cosmology, and Complexity, biên tập bởi John D. Barrow, Paul C. W. Davies, và Charles L. Harper Jr. (New York: Cambridge University Press, 2004), 459–491, .