Đừng nói "Phức tạp"

Ngày xửa ngày xưa . . .

Đây là câu chuyện về lần đầu tiên tôi gặp Marcello, người mà sau này tôi đã làm việc cùng trong một năm về lý thuyết AI; nhưng vào thời điểm đó, tôi vẫn chưa chấp nhận anh ấy làm học trò của mình. Tôi biết anh ấy đã tham gia các cuộc thi toán và tính toán cấp quốc gia, điều đó đủ để thu hút sự chú ý của tôi; nhưng tôi vẫn chưa biết anh ấy có thể học cách suy nghĩ về AI hay không.

Tôi đã hỏi Marcello rằng anh ấy nghĩ AI có thể khám phá ra cách giải khối Rubik như thế nào. Không phải theo cách được lập trình sẵn, điều đó quá đơn giản, mà là cách AI tự mình tìm ra các quy luật của vũ trụ Rubik và suy luận ra cách khai thác chúng. Làm thế nào để AI tự mình phát minh ra khái niệm "toán tử" hay "macro", vốn là chìa khóa để giải khối Rubik?

Tại một thời điểm nào đó trong cuộc thảo luận, Marcello nói: «Tôi nghĩ AI cần phức tạp hơn để làm X, và phức tạp hơn để làm Y...»

Tôi nói: «Đừng nói 'phức tạp'. "

Marcello nói, "Tại sao không?"

Tôi nói, "Sự phức tạp không bao giờ nên là mục tiêu. Bạn có thể cần sử dụng một thuật toán cụ thể làm tăng thêm sự phức tạp, nhưng sự phức tạp chỉ vì sự phức tạp sẽ làm mọi thứ trở nên khó khăn hơn." (Tôi đang nghĩ đến tất cả những người mà tôi đã nghe nói rằng Internet sẽ "thức tỉnh" và trở thành AI khi nó trở nên "đủ phức tạp".)

Và Marcello nói: “Nhưng phải có một mức độ phức tạp nào đó để làm được điều đó.”

Tôi nhắm mắt lại trong giây lát và cố gắng nghĩ cách giải thích tất cả bằng lời. Đối với tôi, nói “phức tạp” đơn giản cảm thấy như một bước đi sai trong “điệu nhảy trí tuệ” của AI. Không ai có thể suy nghĩ đủ nhanh để cân nhắc, bằng lời, về từng câu trong dòng suy nghĩ của mình; vì điều đó đòi hỏi một sự hồi quy vô hạn. Chúng ta suy nghĩ bằng lời nói, nhưng dòng ý thức của chúng ta được điều khiển ở mức dưới lời nói, bởi những tàn dư của những hiểu biết và kinh nghiệm khắc nghiệt trong quá khứ đã được rèn luyện...

Tôi nói: "Bạn đã đọc 'Giải thích kỹ thuật về giải thích kỹ thuật' chưa?"1

"Có," Marcello trả lời.

"Được rồi," tôi nói. "Nói 'phức tạp' không tập trung khối lượng xác suất của bạn."

"Ồ," Marcello nói, "giống như 'sự xuất hiện'. Huh. Vậy... bây giờ tôi phải nghĩ về cách X có thể thực sự xảy ra..."

Đó là khi tôi nghĩ thầm: "Có lẽ người này còn có thể dạy được."

Sự phức tạp không phải là một khái niệm vô dụng. Nó có các định nghĩa toán học đi kèm, chẳng hạn như độ phức tạp Kolmogorov và độ phức tạp Vapnik-Chervonenkis. Ngay cả ở mức độ trực quan, sự phức tạp cũng thường đáng để suy nghĩ — bạn phải đánh giá mức độ phức tạp của một giả thuyết và quyết định xem nó có “quá phức tạp” hay không dựa trên bằng chứng hỗ trợ, hoặc xem xét một thiết kế và cố gắng làm cho nó đơn giản hơn.

Nhưng các khái niệm không tự bản thân nó hữu ích hay vô dụng. Chỉ có cách sử dụng mới là đúng hay sai. Trong bước nhảy mà Marcello đang cố gắng thực hiện, anh ấy đang cố gắng giải thích một điều miễn phí, muốn có được một cái gì đó mà không phải trả giá. Đây là một sai lầm cực kỳ phổ biến, ít nhất là trong lĩnh vực của tôi. Bạn có thể tham gia một cuộc thảo luận về trí tuệ nhân tạo tổng quát và quan sát mọi người làm điều tương tự, lặp đi lặp lại, liên tục bỏ qua những điều họ không hiểu mà không nhận ra rằng họ đang làm như vậy.

Chỉ trong chớp mắt, điều đó đã xảy ra: đặt một node nhân quả không kiểm soát đằng sau một điều bí ẩn, một node nhân quả có vẻ như là một lời giải thích nhưng thực ra không phải. Sai lầm xảy ra ở cấp độ dưới ngôn từ. Nó không đòi hỏi một khuyết điểm đặc biệt nào; đó là cách con người suy nghĩ theo mặc định, cách họ đã suy nghĩ từ thời cổ đại.

Điều bạn phải tránh là bỏ qua phần bí ẩn; bạn phải dừng lại ở bí ẩn để đối mặt trực tiếp với nó. Có nhiều từ có thể bỏ qua những bí ẩn, và một số trong số đó có thể hợp lý trong những bối cảnh khác — ví dụ như “phức tạp”. Nhưng sai lầm cơ bản là bỏ qua, bất kể nút nhân quả đằng sau nó là gì. Bỏ qua không phải là một suy nghĩ, mà là một suy nghĩ vi mô. Bạn phải chú ý kỹ để phát hiện ra mình đang làm điều đó. Và khi bạn rèn luyện bản thân để tránh bỏ qua, nó sẽ trở thành bản năng, không phải lý luận bằng lời. Bạn phải cảm nhận những phần nào của bản đồ của bạn vẫn còn trống, và quan trọng hơn, chú ý đến cảm giác đó.

Tôi nghi ngờ rằng trong giới học thuật, có một áp lực rất lớn để che giấu các vấn đề để bạn có thể trình bày một bài báo có vẻ hoàn chỉnh. Bạn sẽ nhận được nhiều lời khen ngợi hơn cho một mô hình có vẻ hoàn chỉnh bao gồm một số "hiện tượng mới xuất hiện" so với một bản đồ rõ ràng không hoàn chỉnh với chú thích "Tôi không biết phần này hoạt động như thế nào" hoặc "sau đó một phép màu xảy ra". Một tạp chí có thể thậm chí không chấp nhận bài báo thứ hai, vì ai biết được những bước chưa biết đó có thực sự là nơi mọi điều thú vị xảy ra hay không?2

Và nếu bạn đang làm việc cho một công ty khởi nghiệp AI mang tính cách mạng, áp lực che giấu vấn đề còn lớn hơn nữa; nếu không, bạn sẽ phải thừa nhận với chính mình rằng bạn chưa biết cách xây dựng AI đúng đắn, và kế hoạch cuộc đời hiện tại của bạn sẽ sụp đổ tan tành. Nhưng có lẽ tôi đang giải thích quá nhiều, vì bỏ qua là phản ứng mặc định của con người. Nếu bạn đang tìm kiếm ví dụ, hãy xem mọi người thảo luận về tôn giáo, triết học, tâm linh hoặc bất kỳ lĩnh vực khoa học nào mà họ không được đào tạo chuyên nghiệp. 

Marcello và tôi đã phát triển một quy ước trong công việc AI của mình: khi gặp điều gì đó không hiểu, vốn là điều thường xuyên xảy ra, chúng tôi sẽ nói "phép thuật" — như trong "X phép thuật làm Y" — để nhắc nhở bản thân rằng đây là một vấn đề chưa giải quyết, một khoảng trống trong hiểu biết của chúng ta. 

Nói "phép thuật" tốt hơn nhiều so với "phức tạp" hoặc "xuất hiện"; những từ sau tạo ra ảo tưởng về sự hiểu biết. Khôn ngoan hơn là nói "phép thuật" và để lại cho mình một chỗ trống, một lời nhắc nhở về công việc bạn sẽ phải làm sau này.

1. http://lesswrong.com/rationality/a-technical-explanation-of-technical-explanation2. Và vâng, đôi khi tất cả các phần không phải là phép thuật trong bản đồ của bạn cũng hóa ra là không quan trọng. Đó là cái giá bạn phải trả đôi khi, khi bước vào vùng đất lạ và cố gắng giải quyết vấn đề từng bước. Nhưng điều đó khiến việc biết khi nào bạn chưa hoàn thành trở nên quan trọng hơn. Hầu hết mọi người không dám bước vào vùng đất lạ vì sợ lãng phí thời gian.