Eliezer Yudkowsky
Trong bài viết “Câu Kết Luận", tôi đã trình bày tình huống khó xử của hai chiếc hộp, chỉ có một chiếc chứa kim cương, với nhiều dấu hiệu và điềm báo làm bằng chứng. Tôi đã phân loại người tò mò và người tranh luận thông minh thành hai loại. Người tò mò ghi lại tất cả các dấu hiệu và điềm báo, xử lý chúng, và cuối cùng viết ra: "Do đó, tôi ước tính 85% khả năng hộp B chứa viên kim cương." Người tranh luận thông minh làm việc cho người trả giá cao nhất, và bắt đầu bằng cách viết: "Do đó, hộp B chứa viên kim cương," và sau đó chọn các dấu hiệu và điềm báo có lợi để liệt kê ở các dòng trên.
Phương pháp đầu tiên là duy lý. Thủ tục thứ hai thường được gọi là "duy lý hóa".
"Duy lý hóa". Thật là một thuật ngữ kỳ lạ. Tôi sẽ gọi nó là một từ sai. Bạn không thể "duy lý hóa" những gì vốn phi duy lý. Nó giống như gọi "nói dối" là "nói thật".
Ở cấp độ tính toán thuần túy, có một sự khác biệt khá lớn giữa:
Ai là kẻ ngốc đã nghĩ ra những từ giống nhau đến mức khó phân biệt như "duy lý" và "duy lý hóa" để mô tả hai quá trình tinh thần khác nhau đến vậy? Tôi thà dùng những từ thể hiện rõ sự khác biệt về thuật toán, như "duy lý" và "hố đen nhận thức khổng lồ".
Không phải mọi thay đổi đều là cải tiến, nhưng mọi cải tiến nhất thiết phải là thay đổi. Bạn không thể có được nhiều sự thật hơn cho một đề xuất cố định bằng cách tranh luận về nó; bạn có thể khiến nhiều người tin vào nó hơn, nhưng bạn không thể làm cho nó trở nên đúng hơn. Để cải thiện niềm tin của mình, chúng ta nhất thiết phải thay đổi niềm tin của mình. Duy lý là hoạt động mà chúng ta sử dụng để có được sự chính xác hơn cho niềm tin của mình bằng cách thay đổi chúng. Duy lý hóa hoạt động để cố định niềm tin; từ này nên được gọi là "chống duy lý" vì kết quả thực dụng và thuật toán ngược của nó.
"Duy lý" là dòng chảy tiến thu thập bằng chứng, cân nhắc và đưa ra kết luận. Người tò mò đã sử dụng thuật toán dòng chảy tiến: đầu tiên thu thập bằng chứng, viết ra danh sách tất cả các dấu hiệu và điềm báo có thể thấy, sau đó xử lý tiếnđể thu được xác suất trước đó chưa biết cho hộp chứa viên kim cương. Trong toàn bộ thời gian quá trình duy lý diễn ra, người tò mò vẫn chưa biết đích đến của mình, đó là lý do tại sao họ tò mò. Trong Phương pháp Bayes, xác suất trước bằng xác suất sau dự kiến: Nếu bạn biết điểm đến của mình, bạn đã ở đó rồi.
“Duy lý hóa” là một dòng chảy lùi từ kết luận đến bằng chứng đã chọn. Đầu tiên, bạn viết ra kết luận, là điều đã biết và cố định; mục đích của quá trình xử lý là tìm ra những luận điểm bạn nên viết vào các dòng trên. Đây, chứ không phải kết luận, là biến số chưa biết trong quá trình đang diễn ra.
Tôi e rằng Duy lý truyền thống không làm cho người dùng nhận thức rõ sự khác biệt giữa dòng chảy tiến và dòng chảy lùi. Trong Duy lý truyền thống, không có gì sai khi một nhà khoa học đưa ra một giả thuyết yêu thích và sau đó bắt tay tìm kiếm một thí nghiệm để chứng minh nó. Một người duy lý truyền thống sẽ nhìn nhận điều này một cách tán thành và nói: “Niềm tự hào này là động lực thúc đẩy Khoa học tiến lên”. Vâng, đó là động lực thúc đẩy Khoa học tiến lên. Dễ dàng tìm thấy một công tố viên và một luật sư bào chữa có quan điểm trái ngược nhau hơn là tìm thấy một người không có thành kiến.
Nhưng chỉ vì mọi người đều làm điều đó không có nghĩa là điều đó là đúng. Sẽ tốt hơn nếu nhà khoa học, khi đưa ra một giả thuyết yêu thích, bắt đầu kiểm tra giả thuyết đó vì tò mò — tạo ra các thí nghiệm để thúc đẩy niềm tin của họ theo một hướng chưa biết.
Nếu bạn thực sự không biết mình đang đi đâu, bạn có thể sẽ cảm thấy tò mò về điều đó. Tò mò là đức tính đầu tiên, nếu không có nó, những câu hỏi của bạn sẽ trở nên vô nghĩa và kỹ năng của bạn sẽ mất phương hướng.
Hãy cảm nhận dòng chảy của Sức mạnh và đảm bảo rằng nó không chảy ngược lại.