Mốc Thời Điểm AI: Các lập luận và ý kiến các “chuyên gia”

Bài viết này bắt đầu bằng một bản tóm tắt về thời điểm chúng ta nên mong đợi AI biến đổi phát triển, dựa trên nhiều góc độ đề cập trước đó trong loạt bài này. Tôi nghĩ điều này rất hữu ích, ngay cả khi bạn đã đọc tất cả các phần trước đó, nhưng nếu bạn muốn bỏ qua, hãy nhấp vào đây.

Sau đây, tôi giải quyết câu hỏi: "Tại sao không có các đồng thuận mạnh mẽ của chuyên gia về chủ đề này, và điều đó có ý nghĩa gì đối với chúng ta?"

Tôi ước tính rằng có hơn 10% cơ hội chúng ta sẽ được thấy AI biến đổi trong vòng 15 năm (vào năm 2036); ~50% cơ hội chúng ta sẽ thấy nó trong vòng 40 năm (vào năm 2060); và ~2/3 cơ hội chúng ta sẽ thấy nó trong thế kỷ này (vào năm 2100).

("AI biến đổi", Ý tôi là "AI đủ mạnh để đưa chúng ta đến một tương lai mới, khác biệt về chất". Tôi đặc biệt tập trung vào thứ mà tôi gọi là PASTA: Các hệ thống AI về cơ bản có thể tự động hóa tất cả các hoạt động của con người, để tăng tốc độ tiến bộ khoa học và công nghệ cần thiết.  Tôi lập luận rằng PASTA có thể đủ để biến thế kỷ này trở thành thế kỷ quan trọng nhất, thông qua tiềm năng từ việc bùng nổ năng suất cũng như rủi ro từ AI sai lệch).

Đây là kết luận tổng thể của tôi dựa trên một số báo cáo kỹ thuật tiếp cận dự báo AI từ các góc độ khác nhau, nhiều trong số đó được sản xuất bởi Từ thiện mở trong vài năm qua khi chúng tôi cố gắng phát triển bức tranh toàn cảnh về dự báo AI biến đổi để cung cấp thông tin cho việc cấp tài trợ dài hạn.

Dưới đây là bài tóm tắt một bảng về các góc độ khác nhau trong việc dự báo AI biến đổi mà tôi đã thảo luận, từ các liên kết cho đến thảo luận chi tiết hơn ở các bài viết trước đó cũng như cho đến các báo cáo kỹ thuật cơ bản:

‍

Để cho rõ ràng, lưu ý rằng các bài báo cáo kỹ thuật đều là các phân tích của Open Philanthropy. Và tôi là đồng Giám đốc điều hành của Open Philanthropy.

‍

Sau khi xem xét những điều trên, tôi hy vọng một số độc giả vẫn cảm thấy khó chịu.  Ngay cả khi họ nghĩ rằng lập luận của tôi có ý nghĩa, họ vẫn có thể tự hỏi: Nếu điều này đúng, tại sao nó không được thảo luận và chấp nhận rộng rãi hơn?

Tóm tắt của tôi về tình trạng ý kiến chuyên gia tại thời điểm này là:

• Những tuyên bố tôi đưa ra không mâu thuẫn với bất kỳ đồng thuận cụ thể nào của chuyên gia. (Trên thực tế, xác suất tôi đưa ra không quá xa so với những gì các nhà nghiên cứu AI phỏng đoán, như đã nói ở hàng đầu tiên). Nhưng có một số dấu hiệu cho thấy họ đã không suy nghĩ quá nhiều về vấn đề này.
• Tôi dựa trên các báo cáo kỹ thuật của Từ thiện mở đã nhận được đánh giá đáng kể từ các chuyên gia bên ngoài. Các nhà nghiên cứu học máy xem xét Điểm neo sinh học; các nhà thần kinh học xem xét Tính toán não bộ; các nhà kinh tế thì xem xét Tăng trưởng bùng nổ; các nhà khoa học thì tập trung vào các chủ đề liên quan đến sự không chắc chắn và/hoặc xác suất để xem xét Tiên nghiệm bán thông tin.² (Một số đánh giá này có những điểm bất đồng đáng kể, nhưng dường như không có điểm nào trong số này là báo cáo mâu thuẫn với sự đồng thuận rõ ràng của các chuyên gia hoặc tài liệu).
• Tuy nhiên, cũng không có sự đồng thuận chuyên môn mạnh mẽ, tích cực nào ủng hộ các tuyên bố như "Có ít nhất 10% khả năng AI biến đổi sẽ xuất hiện vào năm 2036" hoặc "Có nhiều khả năng chúng ta đang ở trong thế kỷ quan trọng nhất đối với nhân loại" - một cách có sự hỗ trợ, chẳng hạn như: cần thiết phải hành động chống lại biến đổi khí hậu.

Cuối cùng, tuyên bố của tôi là về các chủ đề mà đơn giản là không có "lĩnh vực" từ chuyên gia nào dành riêng để nghiên cứu. Đó tự bản thân nó đã là một sự thật đáng lo ngại và tôi hy vọng rằng điều này cuối cùng sẽ thay đổi.

Nhưng liệu chúng ta có nên sẵn sàng hành động dựa trên giả thuyết "thế kỷ quan trọng nhất" trong thời gian chờ đợi hay không?

Dưới đây, tôi sẽ thảo luận về:

• "Lĩnh vực dự báo AI" sẽ trông như thế nào.
• Một "quan điểm hoài nghi" cho rằng ngày nay, các cuộc thảo luận về chủ đề này quá nhỏ, đồng nhất và khép kín (điều tôi đồng ý) và vì thế chúng ta không nên hành động dựa trên giả thuyết "thế kỷ quan trọng nhất" cho đến khi có một lĩnh vực trưởng thành và vững mạnh (điều tôi không đồng ý).
• Lý do tôi nghĩ chúng ta nên xem xét giả thuyết này một cách nghiêm túc trong lúc chờ đợi, cho đến khi và trừ khi một lĩnh vực như vậy phát triển:
  
  • Chúng ta không có thời gian để chờ những đồng thuận vững chắc từ giới chuyên gia.
  • Giả sử có những phản bác hay ngoài kia, hoặc những chuyên gia tiềm năng trong tương lai có thể mở rộng những phản bác đó, nhưng chúng ta vẫn chưa tìm thấy họ. Giả thuyết này càng được xem xét nghiêm túc, thì khả năng xuất hiện những phản bác đó càng cao. (Còn gọi là lý thuyết Luật Cunningham: "Cách tốt nhất để nhận được câu trả lời đúng là đăng một câu trả lời sai".)
  • Tôi nghĩ việc kiên quyết đòi hỏi sự đồng thuận vững chắc của giới chuyên gia là một kiểu suy luận nguy hiểm. Theo tôi, gặp một số rủi ro về tự lừa dối và tính biệt lập là điều chấp nhận được, để đổi lấy việc làm điều đúng đắn vào thời điểm quan trọng nhất.

Kiểu chuyên môn nào là chuyên môn dự báo AI?

Các câu hỏi phân tích trong các báo cáo kỹ thuật đã liệt kê ở trên bao gồm:

• Các khả năng của AI có ngày càng ấn tượng hơn theo thời gian không? (AI, lịch sử AI)
• Làm thế nào chúng ta có thể so sánh các mô hình AI với bộ não động vật/con người? (AI, khoa học thần kinh)
• Làm thế nào chúng ta có thể so sánh khả năng của AI với khả năng của động vật? (AI, tập tính học)
• Làm thế nào chúng ta có thể ước tính chi phí đào tạo một hệ thống AI lớn dành cho nhiệm vụ khó, dựa trên những thông tin chúng ta có được về việc đào tạo các hệ thống AI trong quá khứ? (AI, khớp đường cong)
• Làm thế nào chúng ta có thể đưa ra ước tính tối thiểu về AI biến đổi, chỉ dựa trên số năm/số nhà nghiên cứu/số Đô-la đã được đầu tư vào lĩnh vực này cho đến nay? (Triết học, xác suất)
• Khả năng tăng trưởng kinh tế bùng nổ trong thế kỷ này là bao nhiêu, dựa trên lý thuyết và xu hướng lịch sử? (Kinh tế học tăng trưởng, lịch sử kinh tế)
• Sự "cường điệu về AI" như thế nào trong quá khứ? (Lịch sử)

Khi nói về những ý nghĩa rộng hơn của AI biến đổi đối với "thế kỷ quan trọng nhất”, tôi cũng đã thảo luận về những điều như "Tính khả thi của người kỹ thuật số và việc thiết lập các khu định cư trong không gian khắp thiên hà là như thế nào?" Những chủ đề này liên quan đến vật lý, khoa học thần kinh, kỹ thuật, triết học tâm trí, và nhiều hơn nữa.

 Không có một công việc hay bằng cấp rõ ràng nào khiến ai đó trở thành chuyên gia về câu hỏi khi nào chúng ta có thể mong đợi AI biến đổi, hoặc câu hỏi liệu chúng ta có đang ở trong thế kỷ quan trọng nhất hay không.

(Tôi đặc biệt không đồng ý với bất kỳ khẳng định nào cho rằng chúng ta nên chỉ dựa vào các nhà nghiên cứu AI cho những dự báo này. Ngoài việc họ dường như không suy nghĩ quá nhiều về chủ đề này, thì tôi nghĩ rằng việc dựa vào những người chuyên xây dựng các mô hình AI luôn mạnh hơn để biết khi nào AI biến đổi đến cũng giống như dựa vào các công ty nghiên cứu và phát triển năng lượng mặt trời, hoặc các công ty khai thác dầu, tùy thuộc vào cách bạn nhìn nhận - để dự báo lượng khí thải carbon và biến đổi khí hậu. Họ chắc chắn có một phần của bức tranh. Nhưng dự báo là một hoạt động khác biệt so với việc đổi mới hoặc xây dựng các hệ thống tiên tiến.)

Và tôi thậm chí còn không chắc những câu hỏi này có hình dạng phù hợp cho lĩnh vực học thuật hay không. Cố gắng dự báo AI biến đổi, hoặc xác định khả năng chúng ta đang ở trong thế kỷ quan trọng nhất, dường như:

• Giống mô hình bầu cử Năm Ba Mươi Tám ("Ai sẽ thắng cử?") hơn là khoa học chính trị học thuật ("Chính phủ và cử tri tương tác như thế nào?");
• Giống như trong giao dịch thị trường tài chính ("Giá này sẽ lên hay xuống trong tương lai?") hơn là kinh tế học học thuật ("Tại sao suy thoái tồn tại?");
• Giống nghiên cứu của Give Well ("Tổ chức từ thiện nào sẽ giúp được nhiều người nhất, với mỗi Đô-la?") hơn là kinh tế học phát triển học thuật ("Điều gì gây ra đói nghèo và làm thế nào để giảm nó?").⁴

Tức là, tôi không rõ "ngôi nhà thể chế" tự nhiên cho chuyên môn về dự báo AI biến đổi, và cả "thế kỷ quan trọng nhất", sẽ trông như thế nào. Nhưng có vẻ công bằng khi nói rằng hiện nay không có các tổ chức lớn, vững chắc nào dành chuyên về loại câu hỏi này.

Chúng ta nên hành động như thế nào khi không có sự đồng thuận vững chắc của giới chuyên gia?

Quan điểm hoài nghi

Khi thiếu sự đồng thuận vững chắc của giới chuyên gia, tôi kỳ vọng một số (thực ra là hầu hết) mọi người sẽ hoài nghi bất kể lập luận nào được đưa ra.

Đây là một phiên bản của phản ứng hoài nghi rất chung chung mà tôi khá đồng cảm:

1. Tất cả những điều này chỉ quá hoang đường.
2. Bạn đang đưa ra một tuyên bố quá lời về việc sống ở thế kỷ quan trọng nhất. Điều này khớp với mô hình tự lừa dối.
3. Bạn lập luận rằng nghĩa vụ chứng minh không nên quá cao, vì có rất nhiều cách khi chúng ta đang sống trong một thời đại đáng chú ý và không ổn định. Nhưng... tôi không tin tưởng vào bản thân để đánh giá những tuyên bố đó, hay những tuyên bố của bạn về AI, hay thực sự bất cứ điều gì về những chủ đề hoang đường này.
4. Tôi lo lắng vì dường như có quá ít người đang tham gia vào các tranh luận này. Về việc cuộc thảo luận có vẻ nhỏ, đồng nhất và khép kín như thế nào. Nhìn chung, điều này cảm thấy giống như một câu chuyện mà những người thông minh đang tự kể cho mình về vị trí của họ trong lịch sử, với rất nhiều biểu đồ và con số để hợp lý hóa nó. Nó không cảm thấy "có thật”.
5. Vì vậy, hãy gọi cho tôi khi có một lĩnh vực trưởng thành với hàng trăm hoặc hàng nghìn chuyên gia, chỉ trích và đánh giá lẫn nhau, và họ đã đạt được cùng một loại đồng thuận như chúng ta thấy đối với biến đổi khí hậu.

Tôi có thể hiểu bạn cảm thấy như thế nào, và đôi khi chính tôi cũng đã cảm thấy như vậy, đặc biệt là ở các điểm #1 đến #4. Nhưng tôi sẽ đưa ra ba lý do mà điểm #5 dường như không đúng.

Lý do 1: Chúng ta không có thời gian để chờ đợi sự đồng thuận vững chắc của giới chuyên gia

Tôi lo lắng rằng sự xuất hiện của AI biến đổi có thể diễn ra như một phiên bản chậm hơn và có rủi ro cao hơn của đại dịch COVID-19. Lý do để mong đợi điều gì đó lớn lao sẽ xảy ra là có, nếu bạn nhìn vào những thông tin và phân tích tốt nhất hiện có ngày nay. Nhưng tình hình nhìn chung là xa lạ; nó không phù hợp với những khuôn mẫu mà các thể chế của chúng ta thường xử lý. Và mỗi năm hành động thêm đều có giá trị.

Bạn cũng có thể xem nó như một phiên bản tăng tốc của động lực với biến đổi khí hậu. Hãy tưởng tượng nếu lượng khí thải nhà kính chỉ mới bắt đầu tăng gần đây ⁵ (thay vì vào giữa những năm 1800), và nếu không có một lĩnh vực khoa học khí hậu nào được thiết lập. Sẽ là ý tưởng thực sự tồi tệ nếu chờ đợi cả hàng thập kỷ để thấy một lĩnh vực xuất hiện, trước khi tìm cách giảm khí thải.

Lý do 2: Luật Cunningham ("cách tốt nhất để nhận được câu trả lời đúng là đăng một câu trả lời sai") có thể là hy vọng tốt nhất của chúng ta khi tìm ra sai sót trong những lập luận này

Mặc dù vậy, tôi nói nghiêm túc đấy.

Vài năm trước, một số đồng nghiệp và tôi đã nghi ngờ rằng giả thuyết "thế kỷ quan trọng nhất" là đúng. Nhưng trước khi hành động quá nhiều dựa trên nó, chúng tôi muốn xem liệu mình có thể tìm ra những sai sót chí mạng trong đó hay không.

Một cách để diễn giải hành động của chúng tôi trong vài năm qua là như thể chúng tôi đang làm mọi thứ có thể để biết rằng giả thuyết đó là sai.

Đầu tiên, chúng tôi đã cố gắng nói chuyện với mọi người về những lập luận chính, như các nhà nghiên cứu AI, nhà kinh tế học, v.v. Nhưng:

• Chúng tôi có những ý tưởng mơ hồ về các lập luận trong chuỗi bài này (chủ yếu hoặc có lẽ là hoàn toàn lấy từ những người khác). Chúng tôi không thể trình bày chúng một cách sắc nét và cụ thể.
• Có rất nhiều điểm thực tế quan trọng mà chúng tôi nghĩ có thể sẽ đúng ⁶, nhưng chưa xác định được và không thể thể hiện phê bình.
• Nhìn chung, chúng tôi thậm chí không thể trình bày đủ một trường hợp cụ thể để tạo cơ hội công bằng cho người khác bác bỏ nó.

Vì vậy, chúng tôi đã bỏ rất nhiều công sức vào việc tạo ra các báo cáo kỹ thuật về các lập luận chính. (Những báo cáo này hiện đã được công khai và đưa vào bảng ở đầu bài viết này.) Điều này giúp chúng tôi có thể công bố các lập luận, và có khả năng gặp phải những phản biện chí mạng.

Sau đó, chúng tôi đã ủy thác các đánh giá chuyên gia từ bên ngoài. ⁷

Chỉ nói riêng quan điểm của tôi, giả thuyết "thế kỷ quan trọng nhất" dường như đã sống sót sau tất cả những điều này. Thật vậy, sau khi đã xem xét nhiều góc độ và đi sâu hơn vào các chi tiết, tôi tin tưởng nó sẽ mạnh mẽ hơn trước đây.

Nhưng giả sử rằng điều này chỉ là vì các chuyên gia thực sự, là những người mà chúng tôi chưa tìm thấy, với những phản biện tàn khốc, thấy toàn bộ điều này quá ngớ ngẩn đến nỗi họ không buồn tham gia. Hoặc, giả sử rằng ngày nay có những người ngoài kia vào một ngày nào đó sẽ trở thành chuyên gia về các chủ đề này, rồi đánh sập những lập luận này. Chúng ta có thể làm gì để biến điều này thành hiện thực?

Câu trả lời tốt nhất tôi nghĩ ra được là: "Nếu giả thuyết này trở nên nổi tiếng hơn, được chấp nhận rộng rãi hơn và có ảnh hưởng hơn, thì nó sẽ nhận nhiều sự xem xét chỉ trích hơn”.

Chuỗi bài viết này là một bước đi nỗ lực theo hướng đó - để tiến tới một giả thuyết "thế kỷ quan trọng nhất" có độ tin cậy rộng lớn hơn. Đây sẽ là điều tốt nếu giả thuyết này đúng; nó cũng có vẻ là bước tiếp theo tốt nhất nếu mục tiêu duy nhất của tôi là thách thức niềm tin của mình và biết rằng nó sai.

Tất nhiên, tôi không nói rằng hãy chấp nhận hoặc quảng bá giả thuyết "thế kỷ quan trọng nhất" nếu nó có vẻ không đúng với bạn. Nhưng tôi nghĩ rằng nếu sự dè dặt duy nhất của bạn là vì thiếu sự đồng thuận vững chắc, thì việc tiếp tục phớt lờ tình hình có vẻ kỳ lạ. Nếu mọi người hành xử theo cách này nói chung (phớt lờ bất kỳ giả thuyết nào không có những đồng thuận vững chắc hỗ trợ), thì tôi không chắc là tôi sẽ thấy mọi giả thuyết, kể cả những giả thuyết đúng, sẽ đi từ bên lề đến lúc được chấp nhận như thế nào.

Lý do 3: Hoài nghi quá mức như thế này dường như là một ý tưởng tồi

Khi tôi còn tập trung vào Give Well, mọi người thỉnh thoảng sẽ nói một điều gì đó đại loại như: "Bạn biết đấy, bạn không thể giữ mọi lập luận theo tiêu chuẩn mà GiveWell giữ các tổ chức từ thiện hàng đầu của ông, như tìm kiếm các thử nghiệm ngẫu nhiên có đối chứng, dữ liệu thực nghiệm vững chắc, v.v. Một số cơ hội tốt nhất để làm điều tốt là những cơ hội ít rõ ràng hơn, vì vậy tiêu chuẩn này có nguy cơ loại trừ một số cơ hội tiềm năng lớn nhất của bạn để tạo ra tác động”.

Tôi nghĩ điều này là đúng. Tôi nghĩ điều quan trọng là phải kiểm tra cách tiếp cận chung của mình đối với lý luận, các tiêu chuẩn của bằng chứng và hỏi: “Những kịch bản nào tôi có cách tiếp cận thất bại và trong đó tôi thực sự muốn nó thành công không?" Theo tôi, việc chấp nhận một số rủi ro về sự tự lừa dối và tính khép kín là điều chấp nhận được, để đổi lấy việc làm điều đúng đắn vào thời điểm quan trọng nhất.

Tôi nghĩ rằng việc thiếu sự đồng thuận vững chắc của giới chuyên gia và những lo ngại về tự lừa dối và tính khép kín sẽ cung cấp lý do tốt để đào sâu vào giả thuyết "thế kỷ quan trọng nhất", thay vì chấp nhận nó ngay lập tức. Để hỏi xem có thể có sai sót chưa được khám phá ở đâu, để tìm kiếm một số thành kiến hướng đến việc thổi phồng tầm quan trọng của chính chúng ta, để nghiên cứu những phần đáng ngờ nhất của lập luận, v.v.

Nhưng nếu bạn đã điều tra vấn đề nhiều nhất có thể/một cách thực tế đối với bạn - và chưa tìm thấy một sai sót nào khác ngoài những cân nhắc như "Không có các đồng thuận vững chắc của giới chuyên gia" và "Tôi lo lắng về sự tự lừa dối và tính khép kín" - thì tôi nghĩ việc gạt bỏ giả thuyết này là thứ điều mà về cơ bản đảm bảo bạn sẽ không nằm trong số những người đầu tiên nhận thấy và hành động dựa trên một vấn đề cực kỳ quan trọng, nếu cơ hội đó xuất hiện. Tôi nghĩ đó là một sự hy sinh quá lớn, xét về việc từ bỏ các cơ hội tiềm năng để làm nhiều điều tốt đẹp.

*Chú thích:

1. Về mặt kỹ thuật, những xác suất này là dành cho “trí tuệ máy móc cấp độ con người”. Nhìn chung, biểu đồ này đã đơn giản hóa vấn đề bằng cách đưa ra một bộ xác suất thống nhất. Một cách tổng quan, tất cả những xác suất này đều đề cập đến thứ gì đó ít nhất phải có khả năng như PASTA, vì vậy chúng định hướng nên là ước tính thấp hơn xác suất đạt được PASTA (mặc dù tôi không nghĩ đây là một vấn đề lớn).
2. Các đánh giá về Điểm neo Sinh học có tại đây; các đánh giá về Tăng trưởng Bùng nổ có tại đây; các đánh giá về Tiên nghiệm bán thông tin có tại đây. Tính toán não bộ đã được đánh giá vào thời điểm trước đó khi chúng tôi chưa thiết kế quy trình để công bố đánh giá, nhưng hơn 20 cuộc trò chuyện với các chuyên gia đã cung cấp thông tin cho báo cáo có tại đây. Quỹ đạo Con người chưa được đánh giá, mặc dù phần lớn phân tích và kết luận của nó đã xuất hiện trong báo cáo Tăng trưởng Bùng nổ, vốn đã được đánh giá.
3. Các lĩnh vực học thuật này khá rộng, và tôi chỉ đưa ra các câu hỏi ví dụ mà chúng giải quyết.
4. Mặc dù khoa học khí hậu là một ví dụ về một lĩnh vực học thuật đầu tư rất nhiều vào việc dự báo tương lai.
5. Lĩnh vực AI đã tồn tại từ năm 1956, nhưng chỉ trong khoảng thập kỷ qua, các mô hình học máy mới bắt đầu nằm trong phạm vi kích thước của bộ não côn trùng và hoạt động tốt trên các nhiệm vụ tương đối khó khăn.
6. Thông thường, chúng tôi chỉ đơn giản dựa trên ấn tượng của mình về những gì những người khác đã suy nghĩ rất nhiều về chủ đề này nghĩ.
7. Các đánh giá về Điểm neo Sinh học có tại đây; các đánh giá về Tăng trưởng Bùng nổ có tại đây; các đánh giá về Tiên nghiệm Bán thông tin có tại đây. Tính toán não bộ đã được đánh giá vào thời điểm trước đó khi chúng tôi chưa thiết kế quy trình để công bố đánh giá, nhưng hơn 20 cuộc trò chuyện với các chuyên gia đã cung cấp thông tin cho báo cáo có tại đây. Quỹ đạo Con người chưa được đánh giá, mặc dù phần lớn phân tích và kết luận của nó đã xuất hiện trong báo cáo Tăng trưởng Bùng nổ, vốn đã được đánh giá.

Tác phẩm này được cấp phép theo Giấy phép Quốc tế Creative Commons Ghi công 4.0.

‍