Viết bởi Holden Karnofsky
Holden Karnofsky lập luận rằng chúng ta có thể đang sống trong thế kỷ quan trọng nhất, thời kỳ mà những quyết định có thể định hình tương lai cho hàng tỷ năm tới.
Tôi cho rằng chúng ta có lý do chính đáng để tin rằng thế kỷ 21 có thể là thế kỷ quan trọng nhất trong lịch sử nhân loại. Tôi nghĩ cách khả dĩ nhất để điều này xảy ra là thông qua sự phát triển của các hệ thống trí tuệ nhân tạo (AI) tiên tiến, dẫn đến sự bùng nổ về tăng trưởng và tiến bộ khoa học, đưa chúng ta đến một tương lai hoàn toàn xa lạ nhanh hơn nhiều so với những gì đa số người tưởng tượng.
Cụ thể hơn một chút, tôi cho rằng có khả năng cao rằng:
- Trong thế kỷ mà chúng ta đang sống, chúng ta sẽ phát triển các công nghệ khiến chúng ta chuyển sang một trạng thái mà con người như chúng ta biết đến không còn là lực lượng chính trong các sự kiện toàn cầu. Đây là cơ hội cuối cùng của chúng ta để định hình cách chuyển đổi đó diễn ra.
- Bất kể lực lượng chính trong các sự kiện toàn cầu là gì (có thể là con người kỹ thuật số, AI không được điều chỉnh đúng hướng, hoặc thứ gì đó khác) sẽ tạo ra những nền văn minh cực kỳ ổn định, lan rộng khắp dải ngân hà của chúng ta trong hàng tỷ năm tới. Sự chuyển đổi diễn ra trong thế kỷ này có thể định hình tất cả những điều đó.
Tôi nghĩ rằng điều này có thể là tốt hay xấu vẫn còn rất mơ hồ. Điều quan trọng là nó có thể diễn ra theo nhiều hướng khác nhau, và chúng ta có cơ hội ảnh hưởng đến điều đó.
Tôi tin rằng khả năng trên không nhận được đủ sự chú ý, thảo luận hoặc đầu tư, đặc biệt là từ những người có mục tiêu làm cho thế giới tốt đẹp hơn. Bằng cách viết về điều này, tôi mong muốn hoặc giúp thay đổi tình trạng đó, hoặc có thêm cơ hội để bị chỉ trích và thay đổi quan điểm của mình.
- Holden Karnofsky