Người Kỹ Thuật Số Thậm Chí Là Một Vấn Đề Lớn Hơn

Holden Karnofsky

07/2021

Đây là bài viết thứ ba trong loạt bài giải thích quan điểm của tôi rằng: chúng ta có thể đang ở trong thế kỷ quan trọng nhất từ trước đến nay. (Đây là lộ trình cho loạt bài này.)

‍

Bài viết đầu tiên trong loạt bài này thảo luận về kỷ nguyên khác thường của chúng ta, kỷ nguyên có thể rất gần với quá trình chuyển đổi giữa một nền văn minh giới hạn ở Trái Đất sang một nền văn minh toàn thiên hà ổn định.

Bài viết này thảo luận về "người kỹ thuật số", một loại công nghệ có thể là chìa khóa cho sự chuyển đổi này (và sẽ có những tác động thậm chí còn lớn hơn cả Máy sao chép (Duplicator) giả định đã được thảo luận trước đây).
Nhiều ý tưởng ở đây xuất hiện đâu đó trong Khoa học viễn tưởng hoặc phi hư cấu tự biện, nhưng tôi không biết có bài viết nào khác trình bày (một cách cô đọng) ý tưởng cơ bản về người kỹ thuật số và những lý do chính khiến thế giới có người kỹ thuật số sẽ rất khác biệt so với thế giới ngày nay.
Ý tưởng về người kỹ thuật số cung cấp một cách hình dung cụ thể loại công nghệ phù hợp (mà tôi tin là gần như chắc chắn khả thi) có thể thay đổi thế giới một cách triệt để, đến mức "con người như chúng ta biết" sẽ không còn là lực lượng chính.
Điều quan trọng là phải có bức tranh này, bởi vì tôi sẽ lập luận rằng những tiến bộ của AI trong thế kỷ này có thể nhanh chóng dẫn đến con người số hoặc công nghệ có ý nghĩa tương tự. Tiềm năng biến đổi của một thứ như con người số, kết hợp với tốc độ mà AI có thể nhanh chóng dẫn đến (sự ra đời của người kỹ thuật số), tạo nên lập luận rằng chúng ta có thể đang ở trong thế kỷ quan trọng nhất.

‍

Giới thiệu

Trước đây, tôi đã viết:

Khi một số người hình dung về tương lai, họ hình dung những điều bạn thấy trong các bộ phim khoa học viễn tưởng. Nhưng những tương lai khoa học viễn tưởng này dường như rất nhạt nhẽo, so với tương lai tôi mong đợi...

Tương lai mà tôi hình dung sẽ lớn hơn, nhanh hơn, kỳ lạ hơn rất nhiều so với hiện tại, và có thể sẽ tốt hơn rất nhiều hoặc tồi tệ hơn rất nhiều so với ngày nay. Nó cũng có thể đến sớm hơn nhiều so với những tương lai trong khoa học viễn tưởng: tôi nghĩ rằng một số công nghệ cụ thể, có vẻ khả thi, có thể đưa chúng ta đến đó một cách nhanh chóng.

Bài viết này nói về người kỹ thuật số, một ví dụ^[1] về công nghệ có thể dẫn đến tương lai cực kỳ lớn, nhanh chóng và kỳ lạ.

Để hiểu khái niệm về người kỹ thuật số, hãy tưởng tượng về mô phỏng máy tính của một người cụ thể trong môi trường ảo. Ví dụ, một mô phỏng của bạn phản ứng với tất cả các "sự kiện ảo": đói ảo, thời tiết ảo, một máy tính ảo có hộp thư đến - giống như cách bạn sẽ phản ứng. (Giống như phim Ma trận? Xem chú thích).^[2]Tôi giải thích chi tiết hơn trong bài viết Hỏi đáp (FAQ) kèm theo.

Trường hợp chính mà tôi sẽ tập trung là những người kỹ thuật số giống chúng ta, có thể được tạo ra thông qua việc tải tâm trí (mô phỏng não người). Tuy nhiên, người ta cũng có thể tưởng tượng những thực thể khác biệt với chúng ta theo nhiều cách, nhưng vẫn được coi là "hậu duệ" của nhân loại; những thực thể đó cũng là người kỹ thuật số. (Xem thêm về việc chọn thuật ngữ của tôi trong phần Hỏi đáp).

Văn hóa đại chúng về chủ đề này thường tập trung vào triển vọng bất tử kỹ thuật số: con người tránh cái chết bằng cách chuyển sang dạng kỹ thuật số, có thể sao lưu giống như bạn sao lưu dữ liệu của mình. Nhưng tôi cho rằng điều này chỉ là chuyện nhỏ như củ khoai so với những tác động tiềm năng khác của người kỹ thuật số, đặc biệt là:

Năng suất. người kỹ thuật số có thể sao chép, giống như chúng ta dễ dàng sao chép gần như bất kỳ phần mềm nào ngày nay. Họ cũng có thể hoạt động nhanh hơn con người rất nhiều. Bởi lẽ đó, người kỹ thuật số có thể có tác động tương đương với Máy sao chép, nhưng mạnh mẽ hơn: với mức độ tăng trưởng kinh tế và năng suất chưa từng có (trong lịch sử hoặc trong phim khoa học viễn tưởng).
Khoa học xã hội. Ngày nay, chúng ta chứng kiến nhiều tiến bộ trong việc hiểu các định luật khoa học và phát triển công nghệ mới thú vị, nhưng không có nhiều tiến bộ trong việc hiểu bản chất con người và hành vi con người. người kỹ thuật số cơ bản sẽ thay đổi động lực này: con người có thể tạo ra bản sao của chính mình (bao gồm cả bản sao được tăng tốc, tạm thời) để khám phá cách các lựa chọn, lối sống và môi trường khác nhau ảnh hưởng đến họ. So sánh các bản sao sẽ mang lại thông tin hữu ích theo cách khoa học xã hội hiện tại hiếm khi làm được.
Kiểm soát môi trường. người kỹ thuật số sẽ trải nghiệm bất kỳ thế giới nào họ (hoặc người điều khiển môi trường ảo của họ) mong muốn. Giả sử người kỹ thuật số có trải nghiệm ý thức thực sự (một giả định được thảo luận trong Hỏi đáp), đây có thể là điều tốt (có thể loại bỏ bệnh tật, nghèo đói vật chất và bạo lực không đồng thuận đối với người kỹ thuật số) hoặc điều xấu (nếu quyền con người không được bảo vệ, người kỹ thuật số có thể phải chịu mức độ kiểm soát đáng sợ).
Mở rộng không gian. Dân số của người kỹ thuật số có thể trở nên vô cùng lớn, các máy tính vận hành họ có thể phân bố khắp dải ngân hà và xa hơn nữa. người kỹ thuật số sẽ tồn tại ở bất kỳ nơi nào chạy được máy tính, vì vậy, các khu định cư không gian có thể dễ dàng thiết lập cho người kỹ thuật số hơn so với con người sinh học.
Khoá chặt (lock - in). Trong thế giới hiện tại, chúng ta đã quen với ý tưởng rằng tương lai là không thể dự đoán và không thể kiểm soát. Các chế độ chính trị, hệ tư tưởng và văn hóa đều đến rồi đi (và tiến hóa). Nhưng một cộng đồng, thành phố hoặc quốc gia của người kỹ thuật số có thể ổn định hơn nhiều.
người kỹ thuật số không cần phải chết hoặc già đi.

Ai đó thiết lập một "môi trường ảo" chứa cộng đồng người kỹ thuật số có thể có quyền kiểm soát khá lâu lên việc cộng đồng đó có thể như thế nào. Ví dụ, họ xây dựng phần mềm để khôi phục cộng đồng (cả môi trường ảo và con người trong đó) về trạng thái trước đó nếu có những thay đổi cụ thể, như có người đang nắm quyền hoặc tôn giáo nào chiếm ưu thế.
Tôi coi đây là một suy nghĩ đáng lo ngại, vì nó có thể cho phép chế độ độc tài kéo dài, mặc dù nó cũng có thể cho phép những điều như bảo vệ các quyền con người cụ thể vĩnh viễn.

Tôi nghĩ những tác động này (sẽ được phân tích chi tiết hơn bên dưới) có thể là một điều vô cùng tốt hoặc vô cùng tồi tệ. Cách chúng ta quản lý những năm đầu tiên với con người kỹ thuật số có thể sẽ định đoạt một cách không thể đảo ngược tương lai nào sẽ diễn ra.

Tôi cho rằng những hậu quả tương tự sẽ nảy sinh từ bất kỳ công nghệ nào cho phép (a) kiểm soát cực độ đối với trải nghiệm và môi trường của chúng ta; (b) sao chép tâm trí con người. Điều này có nghĩa là tiềm năng có nhiều cách để tương lai trở nên kỳ quặc như những gì tôi phác thảo ở đây. Tôi thảo luận về người kỹ thuật số vì điều này cung cấp việc hình dung hậu quả của (a) và (b) một cách đặc biệt dễ dàng: về cơ bản, đây là việc chuyển đổi khối xây dựng quan trọng nhất của thế giới chúng ta (tâm trí con người) sang một lĩnh vực (phần mềm) nơi chúng ta đã quen với ý tưởng có thể kiểm soát một lượng lớn để lập trình bất kỳ hành vi nào chúng ta muốn.

Phần lớn bài viết này được lấy cảm hứng từ Age of Em, một cuốn sách kỳ lạ và thú vị. Cuốn sách nỗ lực mô tả một thế giới giả định về người kỹ thuật số (cụ thể là bản tải tâm trí) với nhiều chi tiết, nhưng (khác với khoa học viễn tưởng) nó cũng hướng đến độ chính xác dự đoán thay vì giải trí. Ở nhiều chỗ, tôi thấy nó quá cụ thể, và tổng thể, tôi không mong đợi rằng thế giới trong cuốn sách mô tả sẽ có nhiều điểm chung với một thế giới thực sự đầy rẫy người kỹ thuật số. Tuy nhiên, nó có một số phần mà tôi cho rằng đã minh họa sức mạnh và tính cấp tiến của công nghệ người kỹ thuật số.

Dưới đây, tôi sẽ:

Mô tả ý tưởng cơ bản về người kỹ thuật số và liên kết dẫn đến Hỏi đáp về ý tưởng này.
Xem xét các hậu quả tiềm năng của người kỹ thuật số, đã liệt kê ở trên.

Đây là một bài viết mọi người có thể đọc theo thứ tự khác nhau. Dưới đây là hướng dẫn tổng quan về bài viết và phần Hỏi đáp:

	Người bình thường	Người kỹ thuật số
Khả năng xuất hiện bây giờ (đọc thêm)	✅	❌
Khả năng xuất hiện vào ngày nào đó ( đọc thêm)	✅	✅
Có thể tương tác với thế giới thật Làm được phần lớn công việc (đọc thêm)	✅	✅
Có nhận thức, nên có quyền con người (đọc thêm)	✅	✅
Dễ dàng sao chép nhân bản, còn gọi là Máy sao chép - The Duplicator (đọc thêm)	❌	✅
Có thể tăng tốc vận hành ( đọc thêm)	❌	✅
Có thể tạo “bản sao tạm thời” chạy nhanh hơn, và nghỉ ngơi ở tốc độ chậm (đọc thêm)	❌	✅
Năng suất và khoa học xã hội: có thể dẫn đến sự tăng trưởng kinh tế chưa từng có, năng suất và hiểu biết về bản chất con người và hành vi. (đọc thêm)	❌	✅
Kiểm soát môi trường: có thể làm thay đổi trải nghiệm của họ theo bất kỳ cách nào. ( đọc thêm)	❌	✅
Khoá chặt (Lock-in): có thể sống trong các nền văn minh cực kỳ ổn định, không có lão hóa hay chết chóc, và có các "đợt tái khởi động kỹ thuật số" ngăn chặn một số thay đổi (Xem thêm)	❌	✅
Mở rộng không gian: có thể hoạt động thoải mái ở bất kỳ nơi nào máy tính có khả năng điện toán, do đó rất phù hợp cho việc mở rộng trên toàn thiên hà (Xem thêm)	❌	✅

Hình 1
‍

Tiền đề

Bài viết này tập trung vào việc người kỹ thuật số có thể thay đổi thế giới như thế nào. Tôi sẽ giả định rằng người kỹ thuật số giống như chúng ta, ngoại trừ việc họ có thể được sao chép dễ dàng, chạy ở các tốc độ khác nhau và được nhúng vào môi trường ảo. Đặc biệt, tôi sẽ giả định rằng người kỹ thuật số có ý thức, có quyền con người và có thể làm hầu hết những việc mà con người có thể làm, bao gồm tương tác với thế giới thực.

Tôi dự đoán nhiều độc giả sẽ bối rối trong việc tiếp cận nội dung này cho đến khi họ thấy được câu trả lời cho một số câu hỏi cơ bản về người kỹ thuật số. Do đó, tôi khuyến khích độc giả nhấp vào bất kỳ câu hỏi nào có vẻ hữu ích từ phần Hỏi đáp về người kỹ thuật số, hoặc đơn giản là đọc toàn bộ Hỏi đáp. Dưới đây là danh sách các câu hỏi được thảo luận trong phần Hỏi đáp:

‍

Người kỹ thuật số có thể thay đổi thế giới như thế nào?

Năng suất

Giống như bất cứ phần mềm nào, người kỹ thuật số có thể được sao chép ngay lập tức và chính xác. Máy sao chép lập luận rằng khả năng "sao chép con người" có thể dẫn đến sự tăng trưởng kinh tế gia tốc nhanh chóng: "Trong khoảng 100 năm qua, quy mô kinh tế đã tăng gấp đôi sau mỗi vài thập kỷ. Với Máy sao chép, nó có thể sẽ tăng gấp đôi quy mô mỗi năm hoặc mỗi tháng, trên con đường đạt đến giới hạn”.

(Hình ảnh động)

Cảm ơn María Gutiérrez Rojas về sơ đồ này, một biến thể của bộ biểu đồ tương tự từ Máy sao chép minh họa về việc nhân bản con người có thể dẫn đến tăng trưởng bùng nổ như thế nào.

Người kỹ thuật số có thể tạo ra hiệu ứng ấn tượng hơn so với con người, nhờ khả năng tăng tốc (có thể lên đến hàng nghìn hoặc hàng triệu lần)^[3]cũng như giảm tốc (để tiết kiệm chi phí). Điều này có thể nâng cao cả tốc độ và khả năng phối hợp đi xa hơn.[4]

Một yếu tố khác có thể giúp tăng năng suất: Người máy “tạm thời" có thể hoàn thành một nhiệm vụ rồi "nghỉ hưu" để tận hưởng cuộc sống ảo thoải mái, trong khi hoạt động với tốc độ rất chậm (và chi phí thấp).^[5] Điều này có thể khiến một số người kỹ thuật số cảm thấy thoải mái khi sao chép chính mình cho mục đích tạm thời. Người kỹ thuật số có thể, ví dụ, sao chép chính mình hàng trăm lần để thử các phương pháp khác nhau trong việc giải quyết vấn đề hoặc phát triển kỹ năng, sau đó chỉ giữ lại phiên bản thành công nhất và sao chép ra nhiều bản của phiên bản đó.

Có thể người kỹ thuật số sẽ không có sức ảnh hưởng kinh tế lớn như Máy sao chép vì họ thiếu cơ thể con người. Nhưng điều này dường như chỉ là một yếu tố nhỏ (chi tiết trong chú thích). ^[6]

‍

Khoa học xã hội

Ngày nay, chúng ta chứng kiến nhiều sự đổi mới và tiến bộ ấn tượng trong một số lĩnh vực, nhưng lại tương đối ít tiến bộ trong các lĩnh vực khác.

Ví dụ, chúng ta có thể liên tục mua được máy tính rẻ hơn, nhanh hơn và trò chơi điện tử chân thực hơn, nhưng dường như chúng ta không liên tục cải thiện khả năng kết bạn, yêu đương hoặc tìm kiếm hạnh phúc.^[7] Chúng ta cũng không rõ ràng trở nên giỏi hơn trong việc chống lại nghiện ngập và khiến bản thân hành động theo cách mà chúng ta (sau khi suy ngẫm) mong muốn.

Một cách để suy nghĩ về điều này là các lĩnh vực khoa học tự nhiên (ví dụ: vật lý, hóa học, sinh học) đang phát triển ấn tượng hơn nhiều so với khoa học xã hội (ví dụ: kinh tế học, tâm lý học, xã hội học). Hoặc: "Chúng ta đang có những bước tiến lớn trong việc hiểu các định luật tự nhiên, nhưng không nhiều trong việc hiểu chính mình”.

Người kỹ thuật số có thể thay đổi điều này. Họ có thể giải quyết điều mà tôi cho là có lẽ lý do cơ bản khiến khoa học xã hội khó học hỏi: việc thực hiện các thí nghiệm chính xác và so sánh cho rõ ràng, là quá khó khăn.

Hiện nay, nếu chúng ta muốn biết liệu thiền định có hữu ích cho con người hay không:

• Chúng ta có thể so sánh những người thiền định với những người không thiền định, nhưng sẽ có nhiều khác biệt giữa hai nhóm này, và chúng ta không thể tách biệt tác động của chính sự thiền định. (Các nhà nghiên cứu cố gắng làm điều này bằng các kỹ thuật thống kê khác nhau, nhưng những kỹ thuật này cũng gây ra các vấn đề riêng).

• Chúng ta cũng có thể thử tiến hành một thí nghiệm trong đó người tham gia được phân bổ ngẫu nhiên để thiền định hoặc không. Nhưng chúng ta cần rất nhiều người tham gia, cùng lúc và trong điều kiện giống nhau, với hy vọng rằng sự khác biệt giữa những người thiền định và không thiền định sẽ "biến mất" về mặt thống kê và chúng ta có thể nhận ra tác động của thiền định. Ngày nay, các thí nghiệm loại này được gọi là "thử nghiệm ngẫu nhiên có đối chứng", thí nghiệm tốn kém, phức tạp về mặt hậu cần, tốn thời gian và hầu như luôn kết thúc với kết quả mơ hồ và khó giải thích.

Nhưng trong thế giới có người kỹ thuật số:

• Bất kỳ ai cũng có thể tạo ra một bản sao của chính mình để thử nghiệm thiền định, thậm chí dành nhiều năm cho nó (có thể tăng tốc).^[8]Nếu họ thích kết quả, họ có thể tự mình thiền định trong vài năm và đảm bảo rằng tất cả các bản sao trong tương lai đều được tạo ra từ người đã hưởng lợi từ thiền định.

• Các nhà khoa học xã hội có thể nghiên cứu từ người đã thử những điều như vậy và tìm kiếm các mẫu, điều này sẽ cung cấp nhiều thông tin hơn so với xu hướng nghiên cứu khoa học xã hội hiện nay. (Họ cũng có thể tiến hành các thí nghiệm có chủ đích, tuyển dụng/trả tiền cho người tạo ra bản sao của chính họ để thử nghiệm các lối sống, thành phố, trường học khác nhau, v.v., những thí nghiệm này có thể nhỏ hơn, rẻ hơn và rõ ràng hơn so với các thí nghiệm khoa học xã hội hiện nay).^[9]) Khả năng tiến hành thí nghiệm có thể tốt hoặc xấu, tùy thuộc vào tính bền vững và việc thực thi cho đạo đức khoa học. Nếu sự đồng thuận được thông báo không được bảo vệ đủ, người kỹ thuật số có thể mở ra tiềm năng về một lượng lớn lạm dụng; nếu được bảo vệ, nó sẽ chủ yếu giúp thúc đẩy việc học hỏi.

Người kỹ thuật số cũng có thể giúp:

• Vượt qua thiên kiến nhận thức (cognitive bias). người kỹ thuật số có thể tạo ra bản sao của chính mình (bao gồm cả bản sao tạm thời, được tăng tốc) để xem xét các lập luận được trình bày theo những cách khác nhau, bởi những người khác nhau, bao gồm cả chủng tộc và giới tính khác nhau, và xem liệu các bản sao có đưa ra kết luận khác nhau hay không. Bằng cách này, họ có thể khám phá những thành kiến nhận thức nào, từ chủ nghĩa phân biệt giới tính và chủng tộc đến suy nghĩ viển vông và cái tôi, có ảnh hưởng đến phán đoán của họ, và rồi làm việc để cải thiện và thích nghi với những thành kiến đó. (Ngay cả khi con người không hào hứng làm điều này, họ có thể phải làm, vì người khác có thể yêu cầu thông tin về mức độ thiên kiến của họ và mong đợi nhận được dữ liệu rõ ràng).

• Những khoảnh khắc suy ngẫm và thảo luận phong phú. người kỹ thuật số có thể tạo ra các bản sao của chính mình (bao gồm cả các bản sao được tăng tốc, tạm thời) để nghiên cứu và thảo luận sâu về các câu hỏi triết học, tâm lý học riêng biệt, v.v., sau đó tóm tắt kết quả cho bản gốc.^[10] Bằng cách quan sát cách các bản sao khác nhau với chuyên môn và kinh nghiệm sống khác nhau hình thành nên những quan điểm khác nhau, họ có thể đưa ra những câu trả lời suy nghĩ kỹ lưỡng và có căn cứ hơn so với tôi khi đặt những câu hỏi như "Tôi muốn gì trong cuộc sống?", "Tại sao tôi muốn điều đó?", "Làm thế nào để trở thành người mà tôi tự hào?", v.v.

‍

Thực tế ảo và kiểm soát môi trường

Như đã đề cập ở trên, người kỹ thuật số có thể sống trong "môi trường ảo". Để thiết kế một môi trường ảo, các lập trình viên sẽ tạo ra các loại tín hiệu ánh sáng, âm thanh, v.v. một cách hệ thống rồi gửi đến người kỹ thuật số, khiến họ cảm thấy như đang "thực sự ở đó".

Có thể nói vai trò lịch sử của khoa học và công nghệ là mang lại cho con người khả năng kiểm soát môi trường của mình. Và có thể coi người kỹ thuật số gần như là điểm đến logic của quá trình này: người kỹ thuật số sẽ trải nghiệm bất cứ thế giới nào họ (hoặc người kiểm soát môi trường ảo của họ) muốn.

Điều này có thể rất xấu hoặc tốt:

Điều xấu là. Người kiểm soát môi trường ảo của một nhân vật kỹ thuật số có thể có quyền kiểm soát gần như vô hạn đối với họ.

Vì lý do này, một thế giới của người kỹ thuật số bao gồm việc thực thi hiệu quả các quyền con người cơ bản cho tất cả người kỹ thuật số là điều quan trọng. (Xem thêm ý tưởng này trong phần Hỏi đáp.)
Thế giới của người kỹ thuật số có thể nhanh chóng trở nên u ám nếu người kỹ thuật số không được bảo vệ bởi các quyền con người. Ví dụ, hãy tưởng tượng nếu luật là "Ai sở hữu máy chủ có thể chạy bất cứ thứ gì trên đó, bao gồm cả bản sao kỹ thuật số của bất kỳ ai". Sau đó, người ta có thể tạo ra các "bản sao kỹ thuật số" của chính mình để tiến hành thí nghiệm, ép buộc làm việc, thậm chí chia sẻ mã nguồn mở, khiến bất kỳ ai chạy máy chủ đều có thể tạo và lạm dụng các bản sao đó. Câu chuyện ngắn này (được khuyến khích đọc, nhưng rùng rợn) cho thấy một phần về điều đó sẽ như thế nào.

Điều tốt là. Mặt khác, nếu một người kỹ thuật số kiểm soát môi trường của chính mình (hoặc ai đó khác kiểm soát và bảo vệ họ), họ có thể thoát khỏi bất kỳ trải nghiệm nào họ muốn tránh, bao gồm đói khát, bạo lực, bệnh tật, các hình thức sức khỏe kém khác và những kiểu đau đớn suy nhược. Nói chung, họ có thể "thoát khỏi nhu cầu vật chất", ngoại trừ nhu cầu về tài nguyên tính toán để hoạt động.

Đây là một sự thay đổi lớn so với thế giới hiện tại. Ngày nay, nếu bạn bị ung thư, bạn sẽ phải chịu đựng đau đớn và suy nhược, ngay cả khi mọi người trên thế giới đều mong muốn điều đó không xảy ra. người kỹ thuật số không cần phải trải nghiệm bị ung thư nếu họ và những người khác không muốn điều đó xảy ra.
Đặc biệt, sự ép buộc thể chất trong môi trường ảo có thể trở nên bất khả thi (như không thể truyền tín hiệu đến một người kỹ thuật số khác tương ứng, với những việc ví dụ như bị đấm hoặc bắn).
Người kỹ thuật số cũng có thể có khả năng trải nghiệm nhiều điều mà chúng ta không thể trải nghiệm hiện nay, như nhập vào cơ thể của người khác, du hành vào không gian vũ trụ, ở trong một tình huống "nguy hiểm" mà không thực sự gặp nguy hiểm, ăn uống mà không lo lắng về hậu quả sức khỏe, thay đổi từ một chủng tộc hoặc giới tính này sang chủng tộc hoặc giới tính khác, v.v.

‍

Mở rộng không gian

Nếu người kỹ thuật số trải qua sự bùng nổ tăng trưởng kinh tế như đã thảo luận ở trên, điều này có thể đi kèm với sự bùng nổ dân số của người kỹ thuật số (vì những lý do được thảo luận trong Máy sao chép).

Có thể vươn đến mức họ cần xây dựng tàu vũ trụ và rời khỏi Hệ Mặt Trời để có đủ năng lượng, kim loại, v.v. để xây dựng thêm máy tính và cho phép nhiều cuộc sống tồn tại hơn.

Định cư trong không gian có thể dễ dàng hơn nhiều đối với người kỹ thuật số so với con người sinh học. Họ có thể tồn tại ở bất kỳ nơi nào có thể chạy máy tính, và có các nguyên liệu cơ bản cần thiết để làm điều đó - nguyên liệu thô, năng lượng và "bất động sản"^[11] - đều vô cùng dồi dào trên khắp dải ngân hà, không chỉ trên Trái Đất. Do đó, dân số người kỹ thuật số sau đó có thể trở nên vô cùng lớn.^[12]

‍

Khóa chặt

Trong thế giới hiện tại, chúng ta đã quen với ý tưởng rằng tương lai là không thể dự đoán và không thể kiểm soát. Các chế độ chính trị, hệ tư tưởng và văn hóa đều đến rồi đi (và tiến hóa). Một số tốt, một số xấu, nhưng nhìn chung dường như không có gì tồn tại mãi mãi. Nhưng các cộng đồng, thành phố và quốc gia của người kỹ thuật số lại có thể ổn định hơn nhiều.

Thứ nhất, vì người kỹ thuật số không cần phải chết hoặc già đi về mặt vật lý, và môi trường của họ không cần phải suy thoái hoặc cạn kiệt bất cứ thứ gì. Miễn là họ có thể duy trì máy chủ hoạt động, thì mọi thứ trong môi trường ảo của họ sẽ có khả năng vật lý để duy trì trạng thái hiện tại.

Thứ hai, vì môi trường có thể được thiết kế để duy trì sự ổn định. Ví dụ, hãy tưởng tượng rằng:

Một cộng đồng người kỹ thuật số thành lập chính phủ riêng của họ (điều này đòi hỏi phải vượt qua hoặc nhận được sự đồng ý từ chính phủ ban đầu của họ).
Chính phủ trở nên độc tài và bãi bỏ việc bảo vệ các quyền con người cơ bản đề cập trong phần Hỏi đáp.
Người đứng đầu muốn đảm bảo rằng họ hoặc hệ tư tưởng họ lựa chọn sẽ duy trì quyền lực mãi mãi.
Họ có thể cải tổ môi trường ảo mà họ và tất cả công dân khác đang sống (bằng cách truy cập vào mã nguồn và tái lập trình nó, hoặc vận hành robot để thay đổi vật lý máy chủ), để một số yếu tố trong môi trường không bao giờ thay đổi, chẳng hạn như ai đang nắm quyền. Nếu có sự thay đổi nào đó sắp xảy ra, môi trường ảo có thể đơn giản là cấm hành động đó hoặc khôi phục về trạng thái trước đó.
Ví dụ về việc vẫn có thể thay đổi môi trường ảo từ bên ngoài, như: phá hủy vật lý, hack hoặc thay đổi máy chủ đang chạy nó. Nhưng nếu điều này xảy ra sau một thời gian dài tăng trưởng dân số và khai hoang không gian, thì máy chủ có thể nằm ngoài không gian cách xa hàng nghìn năm ánh sáng so với bất kỳ ai có ý định làm điều đó.

Hoặc như, "sửa chữa kỹ thuật số" có thể là một lực lượng tích cực nếu được sử dụng một cách khôn ngoan. Nó có thể sử dụng để đảm bảo rằng không có nhà độc tài nào được nắm quyền, hoặc rằng một số quyền con người cơ bản luôn được bảo vệ. Nếu một nền văn minh trở nên "chín muồi" đủ, ví dụ như: công bằng, bình đẳng và thịnh vượng, với cam kết về tự do, tự quyết và một dân số phát triển thịnh vượng trên toàn cầu, thì nó có thể duy trì những đặc tính này trong một thời gian rất dài.

(Tôi không biết nhiều trong phân tích sâu về ý tưởng "khóa chặt", nhưng đây là một số ghi chú không chính thức từ nhà vật lý Jess Riedel).

‍

Những tác động này sẽ là điều tốt hay xấu?

Trong suốt bài viết này, tôi tưởng tượng nhiều độc giả đã nghĩ là "Điều đó nghe thật tệ! Tác giả có nghĩ nó sẽ tốt không?" Hoặc "Điều đó nghe thật tuyệt! Tác giả có phản đối không?"

Quan điểm của tôi về một tương lai với người kỹ thuật số là nó có thể rất tốt hoặc rất xấu, và cách nó được thiết lập ban đầu có thể quyết định thành một cách không thể đảo ngược.

Sử dụng vội vàng khái niệm "khóa chặt" (đã thảo luận ở trên) và/hoặc việc lan rộng quá nhanh ra khắp dải ngân hà (đã thảo luận ở trên) có thể dẫn đến một thế giới khổng lồ đầy rẫy những người kỹ thuật số (có ý thức như chúng ta) nhưng lại vô cùng rối loạn, u ám hoặc ít nhất là không đạt được tiềm năng của nó.
Nhưng nếu có những điều kiện ban đầu chấp nhận được (bảo vệ quyền con người cơ bản cho người kỹ thuật số, ít nhất là vậy), cộng với sự kiên nhẫn, sự tích lũy trí tuệ và nhận thức bản thân mà chúng ta không có ngày nay (có thể được thúc đẩy bởi khoa học xã hội tốt hơn), thì sẽ dẫn đến một thế giới lớn, ổn định và tốt đẹp hơn nhiều. Nên có thể loại bỏ bệnh tật, nghèo đói vật chất, bạo lực không đồng thuận và tạo ra một xã hội tốt đẹp hơn nhiều so với xã hội ngày nay.

‍

*Chú thích:

Ví dụ tốt nhất mà tôi có thể nghĩ ra, nhưng chắc chắn không phải là ví dụ duy nhất. ↩︎
Bộ phim The Matrix cung cấp một cái nhìn trực quan khá tốt về ý tưởng này với thế giới thực tế ảo hoàn toàn đắm chìm của nó, nhưng khác với các nhân vật chính trong The Matrix, một người kỹ thuật số không cần phải kết nối với bất kỳ người thật nào - họ có thể tồn tại dưới dạng phần mềm thuần túy. Các tác nhân ("kẻ xấu") giống người kỹ thuật số hơn là các nhân vật chính. Thực tế, một trong số họ sao chép chính mình một cách rộng rãi. ↩︎
Xem Chương 6 của "Tuổi của họ", bắt đầu từ "Về việc tính toán..." ↩︎
Ví dụ, khi nhiều nhóm người kỹ thuật số cần phối hợp trong một dự án, họ có thể tăng tốc (hoặc giảm tốc) các bước và nhóm cụ thể để đảm bảo mỗi phần của dự án được hoàn thành đúng thời hạn. Điều này cho phép các kế hoạch phức tạp, "dễ vỡ" hoạt động hiệu quả. (Điểm này được trích từ Chương 17 của "Tuổi của họ", phần "Chuẩn bị".) ↩︎
Xem Chương 11 của "Age of Em", phần "Hưu trí". ↩︎
Không có cơ thể con người - và tùy thuộc vào loại robot có sẵn - người kỹ thuật số có thể không phải là sự thay thế tốt cho con người trong các công việc phụ thuộc nhiều vào khả năng thể chất của con người, hoặc các công việc yêu cầu tương tác trực tiếp với con người sinh học. Tuy nhiên, người kỹ thuật số có thể thực hiện mọi thứ cần thiết để gây ra sự tăng trưởng kinh tế bùng nổ, ngay cả khi họ không thể làm mọi thứ. Đặc biệt, có vẻ như họ có thể làm mọi thứ cần thiết để tăng nguồn cung máy tính, từ đó tăng dân số của người kỹ thuật số. Tạo ra sức mạnh tính toán lớn hơn đòi hỏi (a) nguyên liệu thô - chủ yếu là kim loại; (b) nghiên cứu và phát triển - để thiết kế máy tính; (c) sản xuất - để thực hiện thiết kế và biến nguyên liệu thô thành máy tính; (d) năng lượng. người kỹ thuật số có thể tiềm năng làm cho tất cả những điều này trở nên rẻ hơn và dồi dào hơn:

Nguyên liệu thô. Có vẻ như việc khai thác mỏ có thể, về nguyên tắc, được thực hiện hoàn toàn bằng robot. người kỹ thuật số có thể thiết kế và hướng dẫn các robot này khai thác nguyên liệu thô một cách hiệu quả nhất.
Nghiên cứu và phát triển. Theo tôi, đây là yếu tố chính ảnh hưởng đến chi phí tính toán hiện nay: công việc cần thiết để thiết kế các vi xử lý và linh kiện máy tính ngày càng tốt hơn. người kỹ thuật số có thể thực hiện điều này hoàn toàn trong môi trường ảo.
Sản xuất. Theo tôi, đây là yếu tố đầu vào chính khác trong chi phí tính toán hiện nay. Giống như khai thác, việc sản xuất có thể được thực hiện hoàn toàn bằng robot về mặt lý thuyết.
Năng lượng. Tấm pin mặt trời cũng chịu ảnh hưởng của (a) nghiên cứu và phát triển tốt hơn; (b) sản xuất do robot điều khiển. Thiết kế và sản xuất tấm pin mặt trời đủ tốt có thể dẫn đến năng lượng rẻ hơn và dồi dào hơn đáng kể.
Khám phá vũ trụ. Nguyên liệu thô, năng lượng và "đất đai" đều vô cùng dồi dào ngoài Trái Đất. Nếu người kỹ thuật số có thể thiết kế và sản xuất tàu vũ trụ, cùng với robot có thể xây dựng tấm pin mặt trời và nhà máy máy tính, họ có thể tận dụng nguồn tài nguyên khổng lồ so với những gì chúng ta có trên Trái Đất. ↩︎

Việc thế giới có đang tiến bộ hơn, tồi tệ hơn hay không trong những lĩnh vực này là điều đáng tranh luận. Nhưng có vẻ khá rõ ràng rằng tiến bộ không ấn tượng như trong lĩnh vực công nghệ thông tin. ↩︎
Tại sao bản sao lại hợp tác trong thí nghiệm? Có thể vì họ đơn giản là đồng ý với mục tiêu (tôi chắc chắn sẽ hợp tác với bản sao của chính mình đang cố gắng tìm hiểu về thiền định!). Có thể vì họ được trả tiền (dưới dạng một khoản hưu trí hậu hĩnh sau thí nghiệm). Có thể vì họ xem bản thân và bản sao của mình (và/hoặc bản gốc) là cùng một người (hoặc ít nhất là quan tâm rất nhiều đến những người rất giống nhau này). Một số yếu tố có thể thúc đẩy loại thí nghiệm này: (a) người kỹ thuật số có thể tự kiểm tra trạng thái tâm trí của mình để đánh giá khả năng hợp tác (vì bản sao sẽ có cùng trạng thái tâm trí); (b) nếu chỉ có một số ít người kỹ thuật số tham gia thí nghiệm, số lượng lớn người vẫn có thể học hỏi từ kết quả. ↩︎
Tôi cũng mong đợi họ có thể thử những điều táo bạo hơn. Ví dụ, trong thế giới hiện tại, việc thực hiện một thí nghiệm ngẫu nhiên về việc gì sẽ xảy ra nếu những người đang sống ở New York quyết định chuyển đến Chicago là điều khó khả thi. Việc tìm kiếm những người sẵn sàng được phân bổ ngẫu nhiên để ở lại New York hoặc chuyển đến Chicago là quá khó khăn. Nhưng trong thế giới của những người kỹ thuật số, các nhà nghiên cứu có thể trả tiền cho người dân New York để tạo ra bản sao của chính họ và chuyển đến Chicago. Và sau thí nghiệm, mỗi bản sao ở Chicago muốn ở lại New York có thể chọn thay thế bản thân bằng một bản sao khác của phiên bản New York. (Điều này đặt ra những câu hỏi về triết học về bản sắc cá nhân, nhưng đối với mục đích khoa học xã hội, điều quan trọng là một số người sẽ sẵn lòng tham gia thí nghiệm nhờ tùy chọn này, và mọi người đều có thể học hỏi từ các thí nghiệm.) ↩︎
Xem chú thích từ điểm đầu tiên về lý do tại sao các bản sao của con người có thể hợp tác với họ. ↩︎
Và không khí để làm mát. ↩︎
Xem các ước tính trong Chất thải thiên văn để có cái nhìn tổng quan về quy mô của các con số ở đây (mặc dù các ước tính này là vô cùng phỏng đoán).↩︎

‍