Dự báo AI biến đổi: Phải chăng chúng ta đang "có xu hướng hướng theo" AI biến đổi (Làm thế nào mà ta biết?)

Đây là một trong 4 bài viết tóm tắt hàng trăm trang báo cáo kỹ thuật mà tập trung gần như hoàn toàn vào việc dự báo một con số: năm AI biến đổi phát triển.¹

 "AI biến đổi", ý tôi là "AI đủ mạnh để đưa chúng ta đến một tương lai mới và khác biệt về chất". Tôi đặc biệt tập trung vào thứ mà tôi gọi là PASTA: Các hệ thống AI về cơ bản có thể tự động hóa tất cả các hoạt động của con người, để tăng tốc độ tiến bộ khoa học và công nghệ cần thiết. 

 PASTA càng sớm phát triển, thế giới càng có khả năng thay đổi hoàn toàn, và điều đó càng trở nên quan trọng khi chúng ta suy nghĩ ngay từ hôm nay về cách để sự thay đổi đó diễn ra tốt đẹp thay vì tồi tệ.

Trong bài đăng này và bài tiếp theo, tôi sẽ nói về các phương pháp dự báo dựa trên quan điểm hiện tại của tôi: Tôi tin rằng có hơn 10% cơ hội chúng ta sẽ thấy một cái gì đó đủ giống như PASTA để đủ điều kiện là "AI biến đổi" trong vòng 15 năm (vào năm 2036); có khoảng 50% chúng ta sẽ thấy nó trong vòng 40 năm (vào năm 2060); và khoảng 2/3 cơ hội chúng ta sẽ thấy nó trong thế kỷ này (vào năm 2100).

Dưới đây, tôi sẽ:

• Thảo luận về loại dự báo tôi đưa ra.
  
  • Tôi không chắc liệu có cảm giác rằng AI biến đổi đang "trên đường" rất lâu trước khi nó thực sự xuất hiện hay không. Thay vào đó, tôi hy vọng rằng chúng ta có thể sử dụng các xu hướng trong các sự kiện cơ bản quan trọng về thế giới (chẳng hạn như khả năng AI, quy mô mô mô hình, v.v.) để dự báo một tương lai không quen thuộc về mặt chất lượng.
  • Một phép loại suy cho loại dự báo này sẽ kiểu như: "Nước này không sủi bọt, và không có dấu hiệu sủi bọt, nhưng nhiệt độ đã giảm từ 70° Fahrenheit ² đến 150°, và nếu nó chạm 212°, nước sẽ sủi bọt". Hoặc: "Như dự báo đóng cửa trường học và bệnh viện quá tải, khi chưa có dự báo này, thì dựa trên xu hướng lây nhiễm đã báo cáo".
• Thảo luận về khi chúng ta có thể tìm kiếm xu hướng trong việc các hệ thống AI “ấn tượng” hay “có khả năng” như thế nào. Tôi nghĩ rằng cách tiếp cận này không đáng tin cậy: (a) Quá trình AI progress có thể không được “xu hướng” như chúng ta mong đợi; (b) trong trải nghiệm của tôi, các nhà nghiên cứu AI khác nhau sẽ có những trực giác hoàn toàn khác biệt về những hệ thống AI nào thì ấn tượng hoặc có khả năng, và quá trình thì đi như thế nào.   
• Thảo luận ngắn của Grace và các cộng sự năm 2017, khảo sát tồn tại tốt nhất của các nhà nghiên cứu AI về các mốc thời gian AI biến đổi. Kết luận của bài khảo sát phần lớn dường như khớp với các dự báo của tôi, dù có những dấu hiệu cho biết nhà nghiên cứu đã không nghĩ quá khó về phần câu hỏi. 

Bài viết tiếp theo trong chuỗi bài này sẽ tập trung vào “Dự báo AI biến đổi cùng với các điểm neo sinh học của Ajeya Cotra (dưới đây tôi sẽ viết là “điểm neo sinh học”), là dự báo tôi tìm thấy có nhiều thông tin nhất cho AI biến đổi.

Tôi sẽ dự báo theo kiểu như thế nào?

Có một vài cách dự báo AI biến đổi khác với loại hình dự báo có thể chúng ta đã quen thuộc. 

Đầu tiên, tôi dự báo qua khoảng thời gian rất dài (nhiều thập kỷ), không giống như dự báo thời tiết (theo ngày) hoặc dự báo bầu cử (theo tháng). Điều này làm cho nhiệm vụ trở nên khó khăn hơn một chút,³ nó khó đánh giá hơn đối với người ngoài vì tôi không có hồ sơ theo dõi rõ ràng có liên quan để đưa ra dự báo về các chủ đề tương tự.

Thứ hai, tôi thiếu các nguồn dữ liệu phong phú, có liên quan rõ ràng và tôi không thể nhìn lại một loạt các dự báo tương tự từ quá khứ. Dự báo bầu cử của siêu máy tính FiveThirtyEight xem xét hàng trăm cuộc thăm dò, họ có mô hình về việc các cuộc thăm dò giúp dự đoán các cuộc bầu cử trong quá khứ tốt như thế nào. Dự báo AI biến đổi cần dựa nhiều hơn vào trực giác, phỏng đoán và phán đoán, về mặt xác định các dữ liệu có liên quan nhất và nó có liên quan như thế nào.

Cuối cùng, tôi cố gắng dự báo một tương lai không quen thuộc về mặt chất lượng. AI biến đổi và khi tương lai kỳ lạ của nó đến - sẽ không thấy giống như thứ gì đó mà chúng ta đang "hướng tới" hàng năm.

• Nếu tôi cố gắng dự đoán khi nào dân số thế giới sẽ đạt 10 tỷ người, tôi có thể chỉ cần ngoại suy các xu hướng hiện có của dân số thế giới. Bản thân dân số thế giới được biết là đang tăng lên và có thể ước tính trực tiếp. Theo quan điểm của tôi, ngoại suy ra một xu hướng dài hạn là một trong những cách đưa ra dự báo tốt hơn.
• Khi FiveThirtyEight đưa ra dự báo bầu cử, điều cơ bản cần biết là có một cuộc bầu cử vào một ngày nhất định và bất cứ ai thắng sẽ nhậm chức vào một ngày khác. Tất cả chúng ta đều tin vào khuôn khổ cơ bản đó, và ta đều hiểu rằng việc bỏ phiếu tốt hơn có nghĩa là cơ hội chiến thắng cao hơn.
• Ngược lại, AI biến đổi và tương lai kỳ lạ của nó lại không phải là thứ chúng ta "hướng tới" theo bất kỳ cách nào có thể đo lường rõ ràng. Không có số liệu rõ ràng nào như "tính biến đổi của AI" hay "sự kỳ lạ của thế giới" đang tăng lên thường xuyên mỗi năm để chúng ta có thể dự đoán trong tương lai và có được ngày khi một thứ gì đó như PASTA phát triển.

Có lẽ đối với một số người, những điều này cung cấp đủ lý do để bỏ qua toàn bộ khả năng của AI biến đổi, hoặc cho rằng nó rất xa. Nhưng tôi không nghĩ đây là một ý tưởng hay, bởi có một vài lý do.

Trước hết, tôi có một quan điểm rằng thứ gì đó giống như PASTA theo nghĩa nào đó là "không thể tránh khỏi", giả sử có những tiến bộ liên tục trong xã hội và điện toán. Trực giác cơ bản ở đây, điều tôi có thể mở rộng nếu như có sự quan tâm, là thứ bộ não con người có rất nhiều và dường như không cần các vật liệu hiếm đặc biệt để sản xuất, vì vậy đến một lúc nào đó trực giác có thể tái tạo tổng hợp các phần chức năng chính của nó.⁴

Đồng thời, tôi không tự tin là PASTA sẽ mang lại cảm giác về mặt chất lượng như thể nó đang "trên đường" rất lâu trước khi nó đến. (Tìm hiểu thêm về điều này dưới đây). Vì vậy, tôi có xu hướng tìm cách ước tính khi nào chúng ta có thể mong đợi sự phát triển này, bất chấp những thách thức và bất chấp thực tế rằng hôm nay nó không vẻ như sắp xảy ra.

Tôi nghĩ rằng có rất nhiều trường hợp điển hình khi có thể nhìn thấy trước một tương lai khác biệt về chất bằng cách vẽ biểu đồ xu hướng của một số sự thật cơ bản, có liên quan về thế giới. Một vài điều bạn cần lưu ý:

• Khi COVID-19 xuất hiện lần đầu, rất nhiều người gặp khó khăn khi thực hiện nghiêm túc vì họ không cảm thấy như thể chúng ta đang "có xu hướng" hoặc "hướng tới" một thế giới tràn đầy bệnh viện, văn phòng và trường học đóng cửa, v.v. Vào thời điểm đó (giả sử, tháng 1 năm 2020), số ca bệnh tương đối nhỏ, số ca tử vong thậm chí còn nhỏ hơn và không có cảm nhận định tính về tình trạng khẩn cấp toàn cầu. Điều đáng báo động duy nhất về COVID-19 lúc đầu là số ca bệnh đang tăng với tốc độ nhanh theo cấp số nhân (mặc dù tổng số ca bệnh vẫn còn nhỏ). Nhưng có thể ngoại suy từ sự tăng trưởng nhanh chóng trong các ca bệnh được tính là nguy cơ khẩn cấp toàn cầu, và rồi một số người đã làm. (Một số người thì không làm.)
• Các nhà khí hậu học dự báo sự gia tăng nhiệt độ toàn cầu nhiều hơn đáng kể so với những gì chúng ta đã thấy trong vài thập kỷ qua và có thể gây nên những hậu quả lớn vượt xa những gì chúng ta đang thấy ngày nay. Họ làm điều này bằng cách dự báo xu hướng phát thải khí nhà kính và ngoại suy từ đó đến nhiệt độ và hậu quả. Nếu bạn chỉ đơn giản hỏi là "Nhiệt độ đang tăng nhanh như thế nào?" hoặc "Bão có đang trở nên tồi tệ hơn không?", và nếu bạn để tất cả các dự báo tương lai của mình dựa vào những điều đó, có lẽ bạn sẽ không dự báo được các loại sự kiện cực đoan giống nhau vào khoảng năm 2100.⁵
• Cho một ví dụ dài hạn hơn, chúng ta có thể dự đoán một ngày khi Mặt Trời tắt và kết luận rằng thế giới sẽ trông rất khác vào ngày đó so với hiện tại, mặc dù ngày hôm nay mọi thứ không có xu hướng trở nên lạnh hơn hoặc tối hơn.

Các ca bệnh COVID-19 từ WHO. Đóng cửa nơi làm việc lấy từ dữ liệu OWiD này đánh số đơn giản với 1 cho "khuyến nghị", 2 là "bắt buộc đối với một số người" và 3 là "bắt buộc đối với tất cả trừ những người lao động chính" và được tổng hợp trên tất cả các quốc gia.

Tương tự cho loại dự báo này là một cái gì đó như: "Nước này không sủi bọt, và không có dấu hiệu sủi bọt, nhưng nhiệt độ đã giảm từ 70° Fahrenheit ⁶ đến 150°, và nếu nó chạm 212°, thì nước sẽ sủi bọt”.

Lý tưởng nhất, tôi có thể tìm thấy một số yếu tố cơ bản đang thay đổi đủ thường xuyên để chúng ta dự đoán (chẳng hạn như sự tăng trưởng về quy mô và chi phí của các mô hình AI), và sau đó lập luận rằng nếu những yếu tố đó đạt đến một điểm nhất định, thì tỷ lệ AI biến đổi sẽ cao.

Bạn có thể xem cách tiếp cận này như trả lời câu hỏi: "Nếu tôi nghĩ rằng một cái gì đó giống như PASTA là không thể tránh khỏi, và tôi đang cố gắng đoán thời gian của nó bằng cách sử dụng một vài phương pháp phân tích khác nhau, thì tôi sẽ đoán gì?". Chúng ta có thể đặt câu hỏi riêng: "Và liệu có lý do nào khiến cho phỏng đoán này không hợp lý, không đáng tin cậy, hay quá 'táo bạo'?" — điều này đã được đề cập trong bài viết trước của loạt bài này.

Ngoại suy chủ quan và "ấn tượng AI"

Để biết về bài thuyết trình khác cho một số nội dung tương tự, hãy xem phần này của Các điểm neo sinh học.

Nếu chúng ta tìm kiếm một số yếu tố cơ bản trên thế giới giúp dự đoán khi nào AI biến đổi sẽ xuất hiện, có lẽ điều đầu tiên chúng ta nên tìm kiếm là xu hướng về mức độ "ấn tượng" hoặc "có khả năng" của các hệ thống AI.

Phiên bản dễ nhất của điều này sẽ là nếu thế giới tình cờ được sắp đặt theo cách mà:

• Một ngày nọ, lần đầu tiên, hệ thống AI đã vượt qua bài kiểm tra khoa học lớp 4.
• Sau đó, chúng ta thấy AI đầu tiên vượt qua (và đạt thành tích xuất sắc) kỳ thi lớp 5, sau đó là kỳ thi lớp 6, v.v.
• Sau đó chúng ta thấy AI đầu tiên kiếm được bằng tiến sĩ, sau đó là AI đầu tiên viết một bài báo được xuất bản, v.v. cho đến AI đầu tiên có thể thực hiện công việc khoa học đáng độ giải thưởng Nobel.
• Tất cả những điều này được trải ra đều đặn qua nhiều thập kỷ, nhờ đó chúng ta có thể thấy rõ sự phát triển của công nghệ tiên tiến từ lớp 4 lên lớp 5 lên lớp 6, cho đến trình độ 'sau tiến sĩ' và hơn thế nữa. Và tất cả những điều này diễn ra từ từ và đủ thường xuyên để chúng ta có thể bắt đầu định ngày cho "Nhà khoa học toàn diện AI" trước vài thập kỷ.

Nói một cách "lịch sự" thì sẽ rất thuận tiện cho các hệ thống AI khi tiến bộ theo cách này. Cũng sẽ là "lịch sự" nếu AI tiến bộ theo cách mà một số người hầu như tình cờ tưởng tượng: đầu tiên đảm nhận các công việc như "tài xế xe tải" và "công nhân dây chuyền lắp ráp", sau đó là các công việc như "giáo viên" và "hỗ trợ Công nghệ thông tin", và sau đó là các công việc như "bác sĩ" và "luật sư", trước khi tiến tới "nhà khoa học".

Một trong hai điều này sẽ cho chúng ta nhiều thời gian và cơ sở vững chắc để dự đoán khi nào AI tự động hóa khoa học xuất hiện. Thật không may, tôi không nghĩ là chúng ta có thể tin tưởng vào một điều như vậy.

• AI dường như tiến bộ rất khác so với con người. Ví dụ, có những người chơi cờ vua AI siêu phàm ⁷ từ lâu trước khi có AI có thể phân biệt được hình ảnh của chó và mèo một cách đáng tin cậy.⁸
• Một khả năng là các hệ thống AI sẽ có khả năng thực hiện những nhiệm vụ trí tuệ khó khăn nhất côn trùng có thể làm, sau đó là những nhiệm vụ khó khăn nhất mà chuột và các động vật có vú nhỏ khác làm được, sau đó là khỉ, rồi tới con người - phù hợp với khả năng của bộ não ngày càng lớn hơn một cách hiệu quả. Nếu điều này xảy ra, chúng ta sẽ không nhất thiết phải thấy các dấu hiệu cho thấy AI có thể, ví dụ như làm khoa học, cho đến khi chúng ta ở rất gần mốc đó. Chuyện AI đạt được trình độ của học sinh lớp 4 có thể sẽ không xảy ra cho đến khi tới tận giai đoạn cuối cùng.
• Một khả năng khác là các hệ thống AI sẽ có thể làm bất cứ điều gì con người làm trong vòng 1 giây, rồi bất cứ điều gì mà con người có thể làm trong vòng 10 giây, v.v. Đây cũng là một tiến trình khá khó hiểu khiến cho việc dự báo tiến độ trở nên không rõ ràng.

Trên thực tế, nếu chúng ta chưa biết con người có xu hướng trưởng thành như thế nào, chúng ta có thể thấy sự tiến bộ của một đứa trẻ khá khó hiểu và khó ngoại suy. Xem một người tiến bộ từ sơ sinh đến 8 tuổi sẽ không nhất thiết cho bạn biết rằng họ đã đi được 1/3 chặng đường để có thể bắt đầu kinh doanh, thực hiện một khám phá khoa học quan trọng ban đầu, v.v. (Ngay cả khi đã biết quá trình phát triển bình thường của con người, vẫn thật khó để nói rằng quan sát một đứa trẻ 8 tuổi có những khả năng chuyên môn gì mà chúng có thể/sẽ kết thúc ở tuổi trưởng thành.)

Nhìn chung, không rõ chúng ta nên nghĩ như thế nào đối với phổ từ "không ấn tượng/có khả năng" cho đến "rất ấn tượng/có khả năng" của AI. Và thực sự, theo kinh nghiệm của tôi, các nhà nghiên cứu AI khác nhau sẽ có trực giác hoàn toàn khác nhau về hệ thống nào ấn tượng hoặc có khả năng, và tiến trình hệ thống đang diễn ra như thế nào. Tôi thường có trải nghiệm về việc nhìn thấy một người bạn nghiên cứu AI chỉ vào một số kết quả mới và nói "Điều này rất lớn, làm sao mà mọi người lại không nhận thấy chúng ta đang tiến gần đến AI mạnh mẽ như thế nào?", trong khi người khác lại nói "Đây là một bước tiến nhỏ có ít ý nghĩa".⁹

Sẽ thật tuyệt nếu chúng ta có thể dự báo ra năm AI biến đổi phát triển, bằng cách sử dụng biểu đồ như thế này (từ Các điểm neo sinh học; "TAI" có nghĩa là "AI biến đổi"):

Nhưng theo như tôi có thể nói, không có cách nào để xác định trục y mà không gây tranh cãi giữa các chuyên gia.

Chuyên gia khảo sát

Một cách để đối phó với sự không chắc chắn và nhầm lẫn này là thực hiện khảo sát số lượng lớn các chuyên gia và chỉ cần hỏi rằng họ mong AI biến đổi phát triển khi nào. Chúng ta có thể hy vọng rằng mỗi chuyên gia (hoặc ít nhất là nhiều người trong số họ) đang thực hiện phiên bản riêng của mình về "phép ngoại suy ấn tượng" ở trên, hoặc nếu không, thì là họ làm một cái gì đó khác để có được một ước tính hợp lý. Bằng cách tính trung bình cho nhiều ước tính, chúng ta sẽ có được một tổng hợp phản ánh "sự khôn ngoan của đám đông". ¹⁰

Tôi nghĩ rằng phiên bản tốt nhất của bài tập này là tại Grace và cộng sự năm 2017, có một cuộc khảo sát 352 nhà nghiên cứu AI với một câu hỏi về "khi nào máy móc không được hỗ trợ có thể hoàn thành mọi nhiệm vụ tốt hơn và rẻ hơn so với người lao động con người" (điều có thể bao gồm các nhiệm vụ thúc đẩy phát triển khoa học và công nghệ, và do đó sẽ đủ điều kiện như PASTA). Hai bài học lớn từ cuộc khảo sát này, theo Các điểm neo sinh học và tôi, là:

• Xác suất khoảng 20% của loại AI này vào năm 2036; xác suất khoảng 50% vào năm 2060; xác suất khoảng 70% vào năm 2100. Những con số này phù hợp với những con số tôi đưa ra trong phần giới thiệu.
• Các câu hỏi diễn đạt hơi khác một chút có ước tính muộn hơn nhiều (đặt ra cho nhóm các đối tượng khảo sát nhỏ hơn), cho biết (với tôi) rằng các nhà nghiên cứu đơn giản là đã không suy nghĩ kỹ về các câu hỏi.¹¹

Điểm mấu chốt của tôi: bằng chứng này phù hợp với xác suất hiện tại tôi có, mặc dù nó có khả năng không cung cấp nhiều thông tin. Phần tiếp theo trong loạt bài viết này sẽ hoàn toàn tập trung vào "Dự báo AI biến đổi với neo sinh học" của Ajeya Cotra, là phương pháp dự báo tôi thấy có nhiều thông tin nhất ở đây.

‍

*Chú thích:

1. Tất nhiên, câu trả lời có thể là “Một thời gian vô cùng dài trong tương lai” hoặc không bao giờ.
2. Các giá trị tương đương theo độ C cho câu này: 21°, 66°, 100°.
3. Một số lưu ý về dự báo dài hạn ở đây.
4. Cũng xem thêm bài viết dưới đây để có lập luận chi tiết hơn theo hướng này, điều tôi không hoàn toàn đồng ý như đã nêu (tôi không nghĩ nó sẽ đưa ra một trường hợp mạnh cho AI biến đổi trong tương lai gần), nhưng tôi cho rằng nó mang lại cho trực giác của tôi một cái nhìn tốt trong tính khả thi về nguyên tắc. Cũng xem bài "Điều bất khả thi của những cỗ máy siêu lớn” để biết một số câu trả lời ngầm (cười) cho những lập luận phổ biến về lý do tại sao AI biến đổi có thể không tạo ra được.
5. Ví dụ: xem biểu đồ nhiệt độ ở đây - đường thấp nhất vẻ như là một phép chiếu hợp lý, nếu nhiệt độ là thứ duy nhất bạn xem.
6. Các giá trị tương đương theo độ C cho câu này: 21°, 66°, 100°.
7. 1997.
8. Thử thách Kaggle "chó so với mèo" tạo ra vào năm 2013.
9. Từ Các điểm neo sinh học: "Chúng tôi đã nghe các chuyên gia học máy với các mốc thời gian tương đối ngắn, cho rằng các hệ thống AI ngày nay về cơ bản có thể nhìn thấy như con người, hiểu thông tin bằng văn bản và đánh bại con người ở hầu hết các trò chơi chiến lược, và tập hợp những điều chúng có thể làm là mở rộng nhanh chóng, khiến các chuyên gia hy vọng rằng sẽ tạo được AI biến đổi trong một hoặc hai thập kỷ tới, bằng cách đào tạo các mô hình lớn hơn trên sự phân bố vấn đề học máy rộng hơn có nhắm vào việc tạo giá trị kinh tế. Trái lại, chúng tôi cũng nghe các chuyên gia học máy với các mốc thời gian tương đối dài tranh luận rằng các hệ thống học máy đòi hỏi nhiều dữ liệu để học hơn con người, không thể chuyển những gì chúng học trong một bối cảnh sang một bối cảnh hơi khác và dường như không có khả năng suy luận logic và suy luận nhân quả có nhiều cấu trúc; điều này khiến họ tin rằng chúng ta sẽ cần phải tạo ra nhiều đột phá lớn để phát triển TAI. Ít nhất một cố vấn kỹ thuật của Từ thiện Mở đã nâng cao từng quan điểm này”.
10. Wikipedia: "Phát hiện trí tuệ đám đông cổ điển ... Tại một hội chợ nông thôn năm 1906 ở Plymouth, có 800 người tham gia một cuộc thi để ước tính trọng lượng của một con bò đực mặc quần áo bị giết mổ. Nhà thống kê Francis Galton quan sát thấy rằng dự đoán trung bình là 1207 pound, chính xác trong vòng 1% trọng lượng thực sự của 1198 pound.
11. Các điểm neo sinh học:
    
    • Một số nhà nghiên cứu được yêu cầu dự báo "HLMI" như định nghĩa ở trên [trí thông minh máy móc ở cấp độ con người, mà tôi cho rằng bao gồm những thứ như PASTA, trong khi một nhóm chọn ngẫu nhiên khác lại được yêu cầu dự đoán về “tự động hóa hoàn toàn lao động”, thời điểm khi “tất cả các ngành nghề đều có thể tự động hóa hoàn toàn.” Mặc dù thực tế là việc đạt được HLMI có vẻ như sẽ nhanh chóng dẫn đến tự động hóa hoàn toàn lao động, ước tính trung bình cho tự động hóa hoàn toàn lao động là vào khoảng năm 2138 trong khi ước tính trung bình cho HLMI là khoảng 2061, gần 80 năm trước đó.
    • Các nhóm nhỏ những người khảo sát ngẫu nhiên được yêu cầu dự báo khi nào sẽ đạt được các cột mốc cá nhân (ví dụ: gấp quần áo, StarCraft ở cấp độ con người hoặc nghiên cứu toán học ở cấp độ con người). Năm trung bình những người khảo sát dự kiến máy móc có thể tự động hóa nghiên cứu AI là khoảng 2104, trong khi ước tính trung bình cho HLMI là khoảng 2061 - một mâu thuẫn rõ ràng khác bởi vì "nghiên cứu AI" là một nhiệm vụ thực hiện bởi các lao động là con người.

‍