Tất Cả Các Quan Điểm Khả Thi Về Tương Lai Của Con Người Đều Hoang Đường

‍

‍

Tóm tắt:

• Trong một loạt bài viết bắt đầu từ bài này, tôi sẽ lập luận rằng: ngay trong thế kỷ 21, chúng ta có thể chứng kiến nền văn minh nhân loại phát triển các công nghệ cho phép mở rộng nền văn minh nhanh chóng ra khắp thiên hà hiện còn đang rỗng không này. Và do đó, thế kỷ này có thể quyết định toàn bộ tương lai của thiên hà trong hàng chục tỷ năm, hoặc hơn nữa.
• Quan điểm này có vẻ "điên rồ": chúng ta nên xem xét kỹ lưỡng bất kỳ quan điểm nào cho rằng chúng ta đang sống trong một thời điểm đặc biệt như vậy. Tôi minh họa điều này bằng một dòng thời gian của thiên hà. (Ở cấp độ cá nhân, sự "điên rồ" này có lẽ là lý do lớn nhất khiến tôi hoài nghi trong nhiều năm về các lập luận được trình bày trong loạt bài này. Những tuyên bố như vậy về tầm quan trọng của thời đại chúng ta đang sống có vẻ "điên rồ" đến mức đáng ngờ.)
• Nhưng tôi không nghĩ thực sự có thể giữ một quan điểm không "điên rồ" về chủ đề này. Tôi thảo luận các lựa chọn thay thế cho quan điểm của mình: một quan điểm "bảo thủ" cho rằng các công nghệ tôi đang mô tả là khả thi, nhưng sẽ mất nhiều thời gian hơn tôi nghĩ, và một quan điểm "hoài nghi" cho rằng sự mở rộng quy mô cấp thiên hà sẽ không bao giờ xảy ra. Mỗi quan điểm này đều có vẻ "điên rồ" theo cách riêng của nó.
• Cuối cùng, theo gợi ý từ nghịch lý Fermi, có vẻ như loài người của chúng ta đơn giản là đang ở trong một tình huống "điên rồ".

‍

Trước khi tiếp tục, tôi phải nói rằng tôi không nghĩ việc nhân loại (hoặc một hậu duệ kỹ thuật số nào đó của nhân loại) mở rộng khắp thiên hà nhất thiết là một điều tốt , đặc biệt nếu điều này ngăn cản các dạng sống khác xuất hiện. Tôi nghĩ khá khó để có một quan điểm tự tin về việc điều này sẽ tốt hay xấu. Tôi muốn giữ trọng tâm vào ý tưởng rằng tình huống của chúng ta là "điên rồ". Tôi không ủng hộ sự phấn khích hay vui mừng trước viễn cảnh mở rộng khắp thiên hà. Tôi đang ủng hộ sự nghiêm túc về những rủi ro to lớn tiềm tàng.

‍

Quan điểm của tôi

Đây là bài đầu tiên trong một loạt bài viết về giả thuyết rằng chúng ta đang sống trong thế kỷ quan trọng nhất đối với nhân loại.

Trong loạt bài này, tôi sẽ lập luận rằng có khả năng cao sẽ có một sự bùng nổ năng suất vào năm 2100, điều này có thể nhanh chóng dẫn đến cái mà người ta có thể gọi là một nền văn minh "trưởng thành về công nghệ"[1]. Điều đó có nghĩa là:

• Chúng ta sẽ có thể bắt đầu gửi tàu vũ trụ đi khắp thiên hà và xa hơn nữa.

• Những tàu vũ trụ này có thể khai thác vật liệu, chế tạo robot và máy tính, và xây dựng các khu định cư rất vững chắc, bền vững trên các hành tinh khác, khai thác năng lượng mặt trời từ các ngôi sao và hỗ trợ số lượng lớn người (và/hoặc "hậu duệ kỹ thuật số" của chúng ta).

• Tham khảo "Trong 6 giờ vĩnh hằng" để có cuộc thảo luận hấp dẫn và ngắn gọn, dù mang tính kỹ thuật, về những gì điều này đòi hỏi.
• Tôi cũng sẽ lập luận trong một bài viết tương lai rằng có khả năng "khóa giá trị" (value lock-in) ở đây: bất cứ ai điều hành quá trình mở rộng không gian có thể xác định những loại người nào sẽ phụ trách các khu định cư và những loại giá trị xã hội nào họ có, theo cách ổn định trong hàng tỷ năm.[2] Nếu điều đó xảy ra, bạn có thể hình dung câu chuyện về thiên hà của chúng ta[3] như thế này. Tôi đã đánh dấu các cột mốc quan trọng trên hành trình từ "không có sự sống" đến "sự sống thông minh tự xây dựng máy tính và du hành qua không gian."

‍

‍

Cảm ơn Ludwig Schubert đã cung cấp hình ảnh trực quan. Nhiều ngày tháng chỉ là ước tính cao và/hoặc dễ bị đánh giá chủ quan và/hoặc chỉ được lấy từ Wikipedia (nguồn ở đây), nhưng những thay đổi hợp lý sẽ không làm thay đổi bức tranh tổng thể. Khoảng 1,4 tỷ năm để hoàn thành việc mở rộng không gian dựa trên khoảng cách đến rìa ngoài của Dải Ngân Hà, chia cho tốc độ của một tàu vũ trụ do con người chế tạo hiện có (chi tiết trong bảng tính vừa được liên kết); theo tôi, đây có thể là một ước tính quá cao về thời gian cần thiết để mở rộng khắp toàn bộ thiên hà. Xem chú thích để biết lý do tại sao tôi không sử dụng trục logarit.[4] 

‍

??? Thật điên rồ! Theo tôi, có một khả năng khá lớn là chúng ta đang sống ở giai đoạn rất đầu của một khoảng thời gian nhỏ bé mà trong đó thiên hà chuyển từ gần như không có sự sống sang phần lớn có dân cư. Rằng trong số một số lượng người khổng lồ sẽ từng tồn tại, chúng ta là một trong những người đầu tiên. Và rằng trong số hàng trăm tỷ ngôi sao trong thiên hà của chúng ta, ngôi sao của chúng ta sẽ tạo ra những sinh vật lấp đầy nó.

Tôi biết bạn đang nghĩ gì: "Xác suất chúng ta có thể sống trong một thời kỳ quan trọng như vậy dường như vô cùng nhỏ bé; xác suất Holden đang có ảo tưởng về sự vĩ đại (thay mặt cho toàn bộ Trái Đất, nhưng vẫn vậy) dường như cao hơn nhiều."[5]

Nhưng:

Quan điểm "bảo thủ"

Giả sử bạn đồng ý với tôi về nơi mà nhân loại cuối cùng có thể hướng tới, rằng chúng ta cuối cùng sẽ có công nghệ để tạo ra các khu định cư vững chắc, ổn định trên khắp thiên hà của chúng ta và xa hơn nữa. Nhưng bạn nghĩ rằng sẽ mất nhiều thời gian hơn tôi đang nói.

Một phần quan trọng trong quan điểm của tôi (mà tôi sẽ viết chi tiết hơn sau này) là trong thế kỷ này, chúng ta có thể phát triển AI đủ tiên tiến để khởi đầu một sự bùng nổ năng suất. Giả sử bạn không tin điều đó.

• Bạn nghĩ tôi đang đánh giá thấp những giới hạn cơ bản của các hệ thống AI cho đến nay.
• Bạn nghĩ chúng ta sẽ cần một số lượng lớn các đột phá khoa học mới để xây dựng các AI thực sự lập luận hiệu quả như con người.
• Và ngay cả khi chúng ta làm được điều đó, việc mở rộng khắp thiên hà vẫn sẽ là một con đường dài hơn nữa.

Bạn không nghĩ bất kỳ điều nào trong số này sẽ xảy ra trong thế kỷ này - thay vào đó, bạn nghĩ rằng sẽ mất khoảng 500 năm. Đó là gấp 5-10 lần thời gian đã trôi qua kể từ khi chúng ta bắt đầu chế tạo máy tính. Đó là nhiều thời gian hơn đã trôi qua kể từ khi Isaac Newton thực hiện nỗ lực đáng tin cậy đầu tiên về các định luật vật lý. Đó là khoảng thời gian tương đương với thời gian đã trôi qua kể từ khi Cách mạng Khoa học bắt đầu.

‍

Thực ra, không, hãy đi theo hướng bảo thủ hơn nữa. Bạn nghĩ rằng tiến bộ kinh tế và khoa học của chúng ta sẽ trì trệ. Các nền văn minh ngày nay sẽ sụp đổ, và nhiều nền văn minh khác sẽ suy tàn rồi lại trỗi dậy. Chắc chắn, chúng ta cuối cùng sẽ có khả năng mở rộng khắp thiên hà. Nhưng sẽ mất 100.000 năm. Đó là gấp 10 lần thời gian đã trôi qua kể từ khi nền văn minh nhân loại bắt đầu ở Levant.

‍

Đây là phiên bản dòng thời gian của bạn:

Sự khác biệt giữa dòng thời gian của bạn và của tôi thậm chí không phải là một pixel, nên nó không hiển thị trên biểu đồ. Nhìn chung, quan điểm "bảo thủ" này và quan điểm của tôi là như nhau.

‍

Đúng là quan điểm "bảo thủ" không có cùng mức độ cấp bách đối với thế hệ của chúng ta nói riêng. Nhưng nó vẫn đặt chúng ta vào một tỷ lệ nhỏ người trong một khoảng thời gian vô cùng quan trọng. Và nó vẫn đặt ra câu hỏi liệu những điều chúng ta làm để thế giới tốt đẹp hơn - ngay cả khi chúng chỉ có tác động nhỏ đến thế giới 100.000 năm sau - có thể được khuếch đại đến mức độ ngoại lệ trong lịch sử thiên hà hay không.

‍

Quan điểm hoài nghi

Quan điểm "hoài nghi" về cơ bản là nhân loại (hoặc một hậu duệ nào đó của nhân loại, bao gồm cả hậu duệ kỹ thuật số) sẽ không bao giờ lan rộng khắp thiên hà. Có nhiều lý do khiến điều đó có thể không xảy ra:

• Có lẽ một điều gì đó về du hành không gian - và/hoặc việc thiết lập robot khai thác, tấm pin mặt trời, v.v. trên các hành tinh khác - là thực sự bất khả thi đến mức ngay cả 100.000 năm nữa của nền văn minh nhân loại cũng sẽ không đạt được điểm đó.[6]
• Hoặc có lẽ vì lý do nào đó, điều đó sẽ khả thi về mặt công nghệ, nhưng nó sẽ không xảy ra (vì không ai muốn làm, vì những người không muốn sẽ ngăn cản những người muốn làm, v.v.)
• Có lẽ có thể mở rộng khắp thiên hà, nhưng không thể duy trì sự hiện diện trên nhiều hành tinh trong hàng tỷ năm, vì lý do nào đó.
• Có lẽ nhân loại đã được định sẵn để tự hủy diệt trước khi đạt đến giai đoạn này.

• Nhưng lưu ý rằng nếu cách chúng ta tự hủy diệt là thông qua AI sai lệch,[7] thì AI có thể tự xây dựng công nghệ của mình và lan rộng khắp thiên hà, điều này vẫn có vẻ phù hợp với tinh thần của các phần trên. Thực tế, điều này nhấn mạnh rằng cách chúng ta xử lý AI trong thế kỷ này có thể có những hệ quả kéo dài hàng tỷ năm. Vì vậy, nhân loại sẽ phải tuyệt chủng theo một cách nào đó mà không để lại bất kỳ sự sống thông minh nào khác (hoặc máy móc thông minh) phía sau.

• Có lẽ một loài ngoài hành tinh sẽ lan rộng khắp thiên hà trước chúng ta (hoặc cùng thời điểm).

• Tuy nhiên, lưu ý rằng điều này dường như chưa xảy ra trong khoảng 13.77 tỷ năm kể từ khi vũ trụ bắt đầu, và theo các phần trên, chỉ còn khoảng 1.5 tỷ năm nữa để điều đó xảy ra trước khi chúng ta lan rộng khắp thiên hà.

• Có lẽ một số loài ngoài hành tinh đã thực sự lan rộng khắp thiên hà của chúng ta, và vì lý do nào đó chúng ta không nhìn thấy chúng. Có lẽ chúng đang cố tình che giấu sự hiện diện của mình, vì lý do này hay lý do khác, trong khi sẵn sàng ngăn cản chúng ta lan rộng quá xa.

• Điều này ngụ ý rằng chúng đang chọn không khai thác năng lượng từ bất kỳ ngôi sao nào chúng ta có thể nhìn thấy, ít nhất là không theo cách mà chúng ta có thể nhìn thấy. Điều đó, đến lượt nó, sẽ ngụ ý rằng chúng đang kiêng khai thác một lượng lớn năng lượng mà chúng có thể sử dụng để làm bất cứ điều gì chúng muốn,[8] bao gồm cả việc tự vệ chống lại các loài như chúng ta.

• Có lẽ đây chỉ là một giấc mơ. Hoặc một mô phỏng.
• Có lẽ có điều gì khác mà tôi chưa nghĩ đến.

Đó là một số lượng khả năng khá lớn, mặc dù nhiều khả năng có vẻ khá "điên rồ" theo cách riêng của chúng. Nhìn chung, tôi sẽ nói rằng: cộng tất cả chúng lại sẽ có xác suất hơn 50%... nhưng tôi sẽ cảm thấy rất kỳ lạ khi tuyên bố rằng chúng có khả năng xảy ra áp đảo một cách tổng thể.

Cuối cùng, rất khó để tôi tìm ra lý do phản đối việc nghĩ rằng điều gì đó như thế này ít nhất là khá có khả năng: "Chúng ta cuối cùng sẽ tạo ra các khu định cư vững chắc, ổn định trên khắp thiên hà của chúng ta và xa hơn nữa." Dường như việc nói "không đời nào" với tuyên bố đó sẽ đòi hỏi sự tự tin "điên rồ" vào một điều gì đó về giới hạn của công nghệ, và/hoặc những lựa chọn lâu dài mà con người sẽ đưa ra, và/hoặc sự không thể tránh khỏi của sự tuyệt chủng của loài người, và/hoặc điều gì đó về người ngoài hành tinh hoặc mô phỏng.

Tôi hình dung tuyên bố này sẽ trực quan đối với nhiều độc giả, nhưng không phải tất cả. Việc bảo vệ nó một cách sâu sắc không nằm trong chương trình nghị sự của tôi vào lúc này, nhưng tôi sẽ xem xét lại nếu nhận được đủ yêu cầu.

‍

Tại sao tất cả các quan điểm khả thi đều "điên rồ": nghịch lý Fermi

Tôi đang tuyên bố rằng: sẽ là "điên rồ" khi nghĩ về cơ bản chúng ta được đảm bảo sẽ không bao giờ lan rộng khắp thiên hà, nhưng cũng là "điên rồ" khi nghĩ rằng chúng ta có một cơ hội khá tốt để lan rộng khắp thiên hà.

Nói cách khác, tôi đang gọi mọi niềm tin có thể có về chủ đề này là "điên rồ." Đó là vì tôi nghĩ chúng ta đang ở trong một tình huống "điên rồ".

Dưới đây là một số tình huống thay thế mà chúng ta có thể đã gặp phải, mà tôi sẽ không coi là quá "điên rồ".

• Chúng ta có thể sống trong một thiên hà phần lớn đã có dân cư, dù là bởi loài của chúng ta hay bởi một số loài ngoài hành tinh. Chúng ta sẽ ở một vùng không gian đông dân cư, được bao quanh bởi các hành tinh có dân cư. Có lẽ chúng ta sẽ đọc về lịch sử nền văn minh của chính mình. Chúng ta sẽ biết (từ lịch sử và từ việc không có các ngôi sao trống rỗng) rằng chúng ta không phải là những dạng sống xuất hiện sớm bất thường với những cơ hội bất thường phía trước.
• Chúng ta có thể sống trong một thế giới mà những loại công nghệ tôi đã thảo luận dường như không bao giờ có thể thực hiện được. Chúng ta sẽ không có hy vọng du hành vũ trụ, hoặc nghiên cứu thành công bộ não của chính mình hay xây dựng máy tính của riêng mình. Có lẽ chúng ta có thể bằng cách nào đó phát hiện sự sống trên các hành tinh khác, nhưng nếu làm vậy, chúng ta sẽ thấy chúng cũng thiếu loại công nghệ đó.

Nhưng việc mở rộng không gian dường như khả thi, và thiên hà của chúng ta thì trống rỗng. Hai điều này dường như mâu thuẫn. Một sự mâu thuẫn tương tự - câu hỏi tại sao chúng ta không thấy dấu hiệu của người ngoài hành tinh, mặc dù thiên hà có rất nhiều ngôi sao tiềm năng mà họ có thể xuất hiện từ đó - thường được thảo luận dưới tiêu đề Nghịch lý Fermi.

‍

Wikipedia có một danh sách các giải pháp khả thi cho nghịch lý Fermi. Nhiều giải pháp tương ứng với các khả năng quan điểm hoài nghi mà tôi đã liệt kê ở trên. Một số dường như ít liên quan đến bài viết này. (Ví dụ, có nhiều lý do khác nhau khiến người ngoài hành tinh có thể hiện diện nhưng không bị phát hiện. Nhưng tôi nghĩ bất kỳ thế giới nào mà người ngoài hành tinh không ngăn cản loài của chúng ta mở rộng quy mô thiên hà đều trở nên "điên rồ", ngay cả khi người ngoài hành tinh có mặt ở đó.)

‍

Cảm nhận hiện tại của tôi là phân tích tốt nhất về Nghịch lý Fermi hiện có ủng hộ lời giải thích rằng sự sống thông minh cực kỳ hiếm: điều gì đó về sự xuất hiện của sự sống ngay từ đầu, hoặc sự tiến hóa của bộ não, là quá khó xảy ra đến mức nó chưa từng xảy ra ở nhiều (hoặc bất kỳ) phần nào khác của thiên hà.[9]

‍

Điều đó sẽ ngụ ý rằng những bước khó khăn nhất, ít có khả năng xảy ra nhất trên con đường mở rộng quy mô thiên hà là những bước mà loài của chúng ta đã thực hiện. Và điều đó, đến lượt nó, ngụ ý rằng chúng ta đang sống trong một thời kỳ kỳ lạ: vô cùng sớm trong lịch sử của một ngôi sao vô cùng bất thường.

‍

Nếu chúng ta bắt đầu tìm thấy dấu hiệu của sự sống thông minh ở những nơi khác trong thiên hà, tôi sẽ coi đó là một sự thay đổi lớn so với quan điểm "khó tin" hiện tại của mình. Điều đó ngụ ý rằng bất cứ điều gì đã ngăn cản các loài khác mở rộng khắp thiên hà cũng sẽ ngăn cản chúng ta.

‍

Chấm xanh nhạt này có thể có ý nghĩa vô cùng lớn.

Mô tả Trái Đất như một chấm nhỏ bé trong bức ảnh chụp từ không gian, Ann Druyan và Carl Sagan đã viết:

‍

Trái Đất là một sân khấu rất nhỏ trong đấu trường vũ trụ bao la. Hãy nghĩ về những dòng sông máu đã đổ bởi tất cả các tướng lĩnh và hoàng đế đó để, trong vinh quang và chiến thắng, họ có thể trở thành những người chủ tạm thời của một phần nhỏ của một chấm... Những tư thế của chúng ta, sự tự cho mình là quan trọng, ảo tưởng rằng chúng ta có một vị trí đặc quyền trong Vũ trụ, đều bị thách thức bởi đốm sáng nhợt này... Người ta nói rằng thiên văn học là một trải nghiệm giúp con người khiêm tốn và rèn luyện nhân cách. Có lẽ không có minh chứng nào tốt hơn về sự ngu ngốc của thói tự phụ của con người hơn hình ảnh xa xôi này về thế giới nhỏ bé của chúng ta.

‍

Đây là một quan điểm khá phổ biến – rằng khi bạn nhìn lại và nghĩ về cuộc sống của chúng ta trong bối cảnh hàng tỷ năm và hàng tỷ ngôi sao, bạn sẽ thấy tất cả những điều chúng ta quan tâm hôm nay thực sự vô nghĩa đến mức nào.

‍

Nhưng ở đây tôi đang đưa ra quan điểm ngược lại.

‍

Dường như "chấm nhỏ bé" của chúng ta có cơ hội thực sự để trở thành nguồn gốc của một nền văn minh quy mô thiên hà. Có vẻ vô lý, thậm chí là ảo tưởng khi tin vào khả năng này. Nhưng dựa trên những quan sát của chúng ta, việc bác bỏ nó cũng có vẻ kỳ lạ không kém.

‍

Và nếu điều đó đúng, những lựa chọn được đưa ra trong 100.000 năm tới – hoặc thậm chí là thế kỷ này – có thể quyết định liệu nền văn minh quy mô thiên hà đó có tồn tại hay không, và nó sẽ có những giá trị gì, trên khắp hàng tỷ ngôi sao và hàng tỷ năm sắp tới.

‍

Vì vậy, khi tôi nhìn lên không gian bao la rộng lớn, tôi không nghĩ thầm, "À, cuối cùng thì tất cả những điều này đều không quan trọng." Tôi nghĩ: "Chà, một số việc chúng ta làm có lẽ không quan trọng. Nhưng một số việc chúng ta làm có thể quan trọng hơn bất cứ điều gì từng có… Sẽ rất tốt nếu chúng ta có thể tập trung vào điều quan trọng. ...[nuốt nước bọt]".

‍

Tác phẩm này được cấp phép theo Giấy phép Quốc tế Creative Commons Ghi công 4.0.

‍

*Chú thích:

1. Hoặc nền văn minh loại III trên thang đo Kardashev III. ↩︎
2. Nếu chúng ta có thể tạo ra các bản tải lên tâm trí, hoặc các mô phỏng máy tính chi tiết về con người có ý thức như chúng ta, thì có thể đặt chúng vào các môi trường ảo tự động đặt lại, hoặc "điều chỉnh" môi trường, bất cứ khi nào xã hội có thể thay đổi theo những cách nhất định (ví dụ, nếu một tôn giáo nhất định trở nên chiếm ưu thế hoặc mất đi sự chiếm ưu thế). Điều này có thể mang lại cho những người thiết kế các "môi trường ảo" này khả năng "khóa chặt" các tôn giáo, người cai trị cụ thể, v.v. Tôi sẽ thảo luận thêm về điều này trong một bài viết trong tương lai. ↩︎
3. Tôi đã tập trung vào "thiên hà" một cách hơi tùy tiện. Việc lan rộng khắp toàn bộ vũ trụ có thể tiếp cận được sẽ mất nhiều thời gian hơn so với việc lan rộng khắp thiên hà, và cho đến khi chúng ta làm được điều đó, vẫn có thể hình dung rằng một số loài từ bên ngoài thiên hà của chúng ta sẽ phá vỡ "nền văn minh quy mô thiên hà ổn định", nhưng tôi nghĩ việc tính toán điều này một cách chính xác sẽ làm tăng thêm một lượng đáng kể sự phức tạp mà không làm thay đổi bức tranh tổng thể. Tuy nhiên, tôi có thể đề cập đến điều đó trong một bài viết trong tương lai. ↩︎
4. Một phiên bản logarit trông không kém phần kỳ lạ, bởi vì khoảng cách giữa các mốc "giữa" là rất nhỏ so với cả khoảng thời gian trước và sau các mốc này. Về cơ bản hơn, tôi đang nói về việc đáng chú ý như thế nào khi được ở trong [số nhỏ] năm quan trọng nhất trong số [số lớn] năm – điều đó được hiển thị tốt nhất bằng cách sử dụng trục tuyến tính. Thường thì các biểu đồ trông kỳ lạ trở nên hợp lý hơn với trục logarit, nhưng trong trường hợp này, tôi nghĩ biểu đồ trông kỳ lạ vì tình huống kỳ lạ. Có lẽ phiên bản ít kỳ lạ nhất của biểu đồ này sẽ có trục x là một cái gì đó giống như khoảng cách logarit từ năm 2100, nhưng đó sẽ là một tiền đề khó chấp nhận cho một biểu đồ – về cơ bản nó sẽ củng cố lập luận của tôi rằng đây dường như là một khoảng thời gian rất đặc biệt. ↩︎
5. Đây chính xác là kiểu suy nghĩ đã khiến tôi hoài nghi trong nhiều năm về những lập luận tôi sẽ trình bày trong phần còn lại của loạt bài này về những tác động tiềm tàng, và thời điểm, của các công nghệ tiên tiến. Trực tiếp đối mặt với việc tình huống của chúng ta dường như ~không thể phủ nhận là "khó tin" đến mức nào đã là chìa khóa đối với tôi. ↩︎
6. Việc lan rộng khắp thiên hà chắc chắn sẽ khó khăn hơn nếu không có gì giống như tải tâm trí lên máy tính (điều mà tôi sẽ thảo luận trong một bài viết trong tương lai, và đó là một phần lý do tại sao tôi nghĩ các khu định cư không gian trong tương lai có thể bị "khóa giá trị" như đã thảo luận ở trên) có thể thực hiện được. Tôi sẽ thấy quan điểm rằng "không thể tải lên tâm trí lên máy tính" là "khó tin" theo cách riêng của nó, bởi vì nó ngụ ý rằng bộ não con người đặc biệt đến mức đơn giản là không có cách nào, hay không bao giờ, tái tạo kỹ thuật số những gì não làm được. (Cảm ơn David Roodman vì điểm này.) ↩︎
7. Tức là, AI tiên tiến theo đuổi các mục tiêu riêng của nó, không tương thích với sự tồn tại của con người. Tôi sẽ viết thêm về ý tưởng này. Các cuộc thảo luận hiện có về chủ đề này bao gồm các cuốn sách Siêu trí tuệ, Tương thích với con người, Sự sống 3.0 và Vấn đề căn chỉnh. Bài viết ngắn gọn và dễ tiếp cận nhất mà tôi biết là Lý do tại sao chúng ta nên coi trí tuệ nhân tạo (AI) là một mối đe dọa đối với nhân loại (bài viết trên Vox của Kelsey Piper). Báo cáo về rủi ro hiện sinh từ trí tuệ nhân tạo tìm kiếm quyền lực của Joe Carlsmith từ Từ thiện Mở trình bày chi tiết các giả định mà người ta phải tin tưởng để coi vấn đề này là nghiêm túc. ↩︎
8. Cảm ơn Carl Shulman về góc nhìn này. ↩︎
9. Xem thêm  https://arxiv.org/pdf/1806.02404.pdf ↩︎