Chúng ta đã đặt tên loài của mình là Homo sapiens—loài người khôn ngoan. Nhưng liệu chúng ta có xứng đáng với cái tên đó hay không vẫn là điều đáng tranh cãi.

Trong 100.000 năm qua, chúng ta, những người Sapiens, đã tích lũy được một quyền lực to lớn. Chỉ riêng việc liệt kê những khám phá, phát minh và chinh phục của loài người cũng đã đủ để viết thành hàng loạt thiên sử sách. Nhưng đáng tiếc, quyền lực không đồng nghĩa với trí tuệ, sau 100.000 năm khám phá, phát minh, cùng chinh phục, chúng ta đã đẩy chính mình vào một cuộc khủng hoảng hiện sinh. Nhân loại đang đứng bên bờ vực của sự sụp đổ sinh thái, nguyên nhân chính là do việc lạm dụng thái quá quyền lực của chính mình. Đồng thời, chúng ta cũng bận rộn tạo ra những công nghệ mới như trí tuệ nhân tạo (AI), thứ có khả năng thoát khỏi tầm kiểm soát và có thể nô dịch hoặc hủy diệt loài người. Thế nhưng, thay vì đoàn kết để đối mặt với những thách thức sinh tử này, căng thẳng quốc tế lại gia tăng, hợp tác toàn cầu trở nên khó khăn hơn, các quốc gia tích trữ vũ khí hủy diệt, và một cuộc chiến tranh đại chiến thế giới thứ 3 không còn là điều bất khả.

Nếu chúng ta thực sự khôn ngoan, tại sao chúng ta lại tự hủy hoại chính mình?

Ở một tầng sâu hơn, dù chúng ta đã tích lũy được rất nhiều thông tin về mọi thứ, từ các phân tử DNA cho đến các thiên hà xa xôi, dường như tất cả những thông tin này vẫn không mang lại câu trả lời cho những câu hỏi lớn của cuộc sống: Chúng ta là ai? Chúng ta nên phấn đấu vì điều gì? Một cuộc sống tốt đẹp là gì, và chúng ta nên sống như thế nào? Mặc cho khối lượng thông tin khổng lồ trong tầm tay, chúng ta vẫn dễ dàng rơi vào ảo tưởng và mê muội như tổ tiên xa xưa. Chủ nghĩa phát xít và chủ nghĩa Stalin chỉ là hai ví dụ gần đây về những cơn điên loạn tập thể mà ngay cả các xã hội hiện đại cũng không tránh khỏi. Không ai phủ nhận rằng con người ngày nay có nhiều thông tin và quyền lực hơn thời kỳ Đồ Đá, nhưng không chắc chúng ta hiểu rõ hơn về chính mình hay vai trò của mình trong vũ trụ.

Tại sao chúng ta giỏi tích lũy thông tin và quyền lực, nhưng lại kém thành công trong việc đạt được trí tuệ?

Trong suốt lịch sử, nhiều tư tưởng truyền thống đã tin rằng có một khiếm khuyết chí mạng trong bản chất của con người khiến chúng ta bị cám dỗ theo đuổi những quyền lực mà mình không biết cách kiểm soát. Truyền thuyết Hy Lạp về Phaethon kể về một chàng trai phát hiện mình là con trai của Helios, vị thần mặt trời. Để chứng minh nguồn gốc thần thánh của mình, Phaethon đòi quyền được điều khiển cỗ xe mặt trời. Helios cảnh báo rằng không một con người nào có thể khống chế được những con ngựa kéo xe. Nhưng Phaethon vẫn khăng khăng, và Helios buộc phải nhượng bộ. Sau khi ngạo nghễ bay lên bầu trời, Phaethon quả thực đã không thể kiểm soát nổi. Mặt trời đi chệch khỏi quỹ đạo, thiêu đốt toàn bộ thảm thực vật, giết chết vô số sinh vật, và đe dọa đốt cháy cả trái đất. Zeus can thiệp và trừng phạt Phaethon bằng một tia sét. Kẻ kiêu ngạo rơi xuống từ bầu trời như một ngôi sao băng, bản thân cũng đang bốc cháy. Các vị thần tái khẳng định quyền kiểm soát bầu trời và cứu thế giới.

Hai ngàn năm sau, khi Cách mạng Công nghiệp bắt đầu và máy móc thay thế con người trong nhiều nhiệm vụ, Johann Wolfgang von Goethe đã xuất bản một câu chuyện cảnh báo tương tự mang tên “Người học việc của phù thủy.” Bài thơ của Goethe (sau này được phổ biến qua một bộ phim hoạt hình của Walt Disney với Mickey Mouse thủ vai chính) kể về một phù thủy già rời khỏi xưởng của mình và giao cho người học việc trẻ một số công việc, như lấy nước từ sông. Người học trò quyết định làm mọi thứ dễ dàng hơn bằng cách sử dụng một câu thần chú của phù thủy, biến cây chổi thành công cụ lấy nước cho mình. Nhưng người học việc không biết cách dừng nó lại, khiến nguy cơ đe dọa làm ngập xưởng. Trong cơn hoảng loạn, người học trò chặt cây chổi làm đôi bằng một chiếc rìu, nhưng mỗi mảnh lại trở thành một cây chổi mới. Giờ đây, hai cây chổi bị yểm bùa đang làm xưởng ngập nước. Khi phù thủy già trở về, người học trò cầu xin sự giúp đỡ: “Những linh hồn mà tôi triệu hồi, giờ tôi không thể xua đuổi được nữa.” Phù thủy ngay lập tức hóa giải bùa chú và dừng cơn lụt. Bài học cho người học trò—và cho nhân loại—rất rõ ràng: đừng bao giờ triệu hồi những quyền năng mà bạn không thể kiểm soát.

Những câu chuyện cảnh báo về người học trò và Phaethon nói gì với chúng ta trong thế kỷ 21?

Chúng ta, loài người, rõ ràng đã từ chối lắng nghe lời cảnh báo của họ. Con người đã làm mất cân bằng khí hậu trái đất và đã triệu hồi hàng tỷ cây chổi bị yểm bùa, máy bay không người lái, chatbot, và những linh hồn thuật toán khác có thể thoát khỏi sự kiểm soát của chúng ta, gây ra hàng loạt hậu quả không lường trước.

Vậy loài người nên làm gì?

Những câu chuyện ngụ ngôn không đưa ra câu trả lời, ngoài việc chờ đợi một vị thần hoặc phù thủy nào đó đến cứu. Dĩ nhiên, đây là một thông điệp cực kỳ nguy hiểm. Nó khuyến khích con người từ bỏ trách nhiệm và đặt niềm tin vào các vị thần và phù thủy. Tệ hơn nữa, nó không nhận ra rằng các vị thần và phù thủy cũng chính là đấng sáng tạo ra con người—giống như cỗ xe, cây chổi, và các thuật toán. Xu hướng tạo ra những thứ quyền năng với hậu quả không lường trước đã không bắt đầu từ việc phát minh ra động cơ hơi nước hay AI mà từ khi con người sáng tạo ra tôn giáo. Các nhà tiên tri và thần học đã triệu hồi những linh hồn quyền năng được cho là sẽ mang lại tình yêu và niềm vui, nhưng đôi khi lại tàn sát thế giới bằng máu.

Truyền thuyết về Phaethon và bài thơ của Goethe không thể đưa ra lời khuyên hữu ích vì chúng hiểu sai cách con người đạt được quyền lực. Trong cả hai câu chuyện, một cá nhân đơn lẻ giành được quyền lực to lớn nhưng sau đó bị tha hóa bởi sự kiêu ngạo và lòng tham. Kết luận được đưa ra là tâm lý cá nhân đầy khiếm khuyết của con người khiến chúng ta lạm dụng quyền lực.

Tuy nhiên, phân tích sơ sài này bỏ qua một điều quan trọng: quyền lực của con người không bao giờ chỉ là kết quả từ sáng kiến cá nhân. Quyền lực luôn xuất phát từ sự hợp tác giữa số đông con người.

Do đó, không phải tâm lý cá nhân của con người khiến chúng ta lạm dụng quyền lực. Suy cho cùng, bên cạnh lòng tham, sự kiêu ngạo, và tàn ác, loài người cũng có khả năng yêu thương, đồng cảm, khiêm tốn, và hạnh phúc. Đúng là trong số những thành viên tồi tệ nhất của loài người, lòng tham và sự tàn nhẫn chiếm ưu thế, dẫn đến việc những kẻ xấu lạm dụng quyền lực. Nhưng tại sao các xã hội loài người lại lựa chọn trao quyền lực cho những kẻ xấu nhất? Ví dụ, phần lớn người Đức năm 1933 không phải là những kẻ tâm thần. Vậy tại sao họ lại bầu chọn Hitler cầm quyền?

Xu hướng sử dụng những quyền năng vượt khỏi tầm kiểm soát của chúng ta không bắt nguồn từ tâm lý cá nhân, mà từ cách loài người hợp tác trên quy mô lớn. Lập luận chính của cuốn sách này là: nhân loại đạt được quyền lực khổng lồ nhờ xây dựng các mạng lưới hợp tác lớn, nhưng cách mà các mạng lưới này tổ chức vận hành lại khiến chúng ta dễ sử dụng sức mạnh đó một cách thiếu khôn ngoan. Vấn đề của chúng ta, vì thế, là một vấn đề thuộc về mạng lưới.

Cụ thể hơn, đó là vấn đề về thông tin. Thông tin chính là chất keo gắn kết các mạng lưới với nhau. Nhưng trong hàng chục nghìn năm, Sapiens đã xây dựng và duy trì các mạng lưới lớn bằng cách sáng tạo và lan truyền ra hư cấu, ảo tưởng, và mê tín tập thể—về các vị thần, về cây chổi bị yểm bùa, về trí tuệ nhân tạo (AI), và về vô số những điều khác. Trong khi từng cá nhân mỗi người thường chỉ quan tâm đến việc nắm biết sự thật về bản thân, về thế giới, còn các mạng lưới lớn lại gắn kết các thành phần và duy trì trật tự bằng cách dựa vào hư cấu và ảo tưởng. Chính điều này đã dẫn đến, chẳng hạn, chủ nghĩa phát xít và chủ nghĩa Stalin (Stalinism). Đây là những mạng lưới cực kỳ mạnh mẽ, được gắn kết bởi những ý tưởng cực kỳ hoang tưởng. Như George Orwell từng nổi tiếng nói: “sự ngu dốt là sức mạnh.”

Thực tế rằng các chế độ phát xít và Stalinism được xây dựng trên những ảo tưởng tàn nhẫn và những lời nói dối trơ trẽn không làm cho chúng trở nên khác thường về mặt lịch sử, cũng như không định trước sự sụp đổ của chúng. Chủ nghĩa phát xít và chủ nghĩa Stalin là hai trong số những hệ thống mạng lưới mạnh nhất mà con người từng tạo ra. Cuối năm 1941 và đầu năm 1942, phe Trục đã tiến đến rất gần chiến thắng Thế chiến II. Stalin cuối cùng đã nổi lên như người chiến thắng trong cuộc chiến đó [1], và trong những năm 1950 và 1960, ông và những người kế thừa cũng có cơ hội lý tưởng để chiến thắng trong Chiến tranh Lạnh. Đến những năm 1990, các nền dân chủ tự do đã giành được lợi thế, nhưng điều này giờ đây dường như chỉ là một chiến thắng tạm thời. Trong thế kỷ 21, một chế độ toàn trị mới có thể thành công thống trị thế giới, tham vọng mà Hitler và Stalin đã thất bại, tạo ra một mạng lưới quyền lực tuyệt đối, có thể ngăn cản các thế hệ tương lai con người, thậm chí không dám nỗ lực phơi bày những lời nói dối và ảo tưởng của nó.

Chúng ta không nên giả định rằng những mạng lưới AI sẽ tất yếu thất bại. Nếu loài người muốn ngăn chặn sự thắng thế của chúng, chúng ta sẽ phải tự mình thực hiện công việc khó khăn này.

GÓC NHÌN NGÂY THƠ VỀ THÔNG TIN

Thật khó để đánh giá đúng sức mạnh của các mạng lưới huyễn tưởng bởi sự ngộ nhận rất phổ biến về cách mà các mạng lưới thông tin AI (dù huyễn tưởng hay có thật) đang vận hành. Sự hiểu lầm này được tôi gói gọn trong cái gọi là “Góc nhìn ngây thơ về thông tin.” Trong khi những câu chuyện ngụ ngôn như huyền thoại về Phaethon và “Người học việc phù thủy” đã trình bày một góc nhìn quá bi quan về tâm lý cá nhân của con người, thì Góc nhìn ngây thơ về thông tin lại phổ biến một cách quá lạc quan về các mạng lưới nhân loại có quy mô lớn.

Góc nhìn ngây thơ lập luận rằng: bằng cách thu thập và xử lý nhiều thông tin hơn so với khả năng của các cá nhân, các siêu mạng lưới sẽ đạt được sự hiểu biết tốt hơn về y học, vật lý, kinh tế học, và nhiều lĩnh vực khác, khiến mạng lưới không chỉ mạnh mẽ mà còn khôn ngoan. Ví dụ, bằng cách thu thập thông tin về mầm bệnh, các công ty dược phẩm và dịch vụ chăm sóc sức khỏe có thể xác định được nguyên nhân thực sự của nhiều căn bệnh, nhờ đó phát triển các loại thuốc hiệu quả hơn và đưa ra các quyết định sử dụng thuốc sáng suốt hơn.

Quan điểm này cho rằng khi thông tin đạt đến số lượng đủ lớn, nó dẫn đến sự thật, và sự thật sẽ mang lại cả sức mạnh lẫn trí tuệ. Ngược lại, sự ngu dốt dường như không dẫn đến đâu cả. Theo quan điểm này, các mạng lưới huyễn tưởng hoặc dối trá có thể xuất hiện vào những thời điểm khủng hoảng lịch sử, nhưng về lâu dài, chúng chắc chắn sẽ thua trước các đối thủ có tính định danh rõ ràng hơn và trung thực hơn. Một dịch vụ chăm sóc sức khỏe phớt lờ thông tin về mầm bệnh hoặc một tập đoàn dược phẩm cố tình lan truyền thông tin sai lệch cuối cùng sẽ thất bại trước các đối thủ biết sử dụng thông tin một cách khôn ngoan hơn.

Vì vậy, góc nhìn ngây thơ ngụ ý rằng các mạng lưới huyễn ảo chỉ là những trường hợp lệch lạc nhất thời, còn các siêu mạng lưới lớn thường có thể được tin cậy để vận dụng quyền lực một cách sáng suốt.

Tất nhiên, quan điểm ngây thơ thừa nhận rằng có rất nhiều vấn đề phát sinh trong quá trình từ thông tin đến sự thật. Chúng ta có thể mắc sai lầm trong việc thu thập và xử lý thông tin. Các tác nhân ác ý, bị thúc đẩy bởi lòng tham hoặc sự thù hận, có thể che giấu những sự thật quan trọng hoặc thậm chí cố gắng lừa dối chúng ta. Do đó, thông tin đôi khi dẫn đến sai lầm thay vì nói sự thật. Ví dụ, thông tin số liệu không đầy đủ, phân tích sai lầm hoặc một chiến dịch tung tin sai lệch có thể khiến ngay cả các chuyên gia cũng nhận định sai nguyên nhân thực sự của một căn bệnh cụ thể.

Tuy nhiên, quan điểm ngây thơ cho rằng giải pháp cho hầu hết các vấn đề trong việc thu thập và xử lý thông tin là thu thập và xử lý nhiều thông tin hơn nữa. Mặc dù chúng ta không bao giờ hoàn toàn tránh khỏi sai lầm, nhưng trong hầu hết các trường hợp, có nhiều thông tin hơn thường dẫn đến độ chính xác cao hơn. Một vị bác sĩ đơn lẻ muốn xác định nguyên nhân của một dịch bệnh bằng cách kiểm tra một bệnh nhân duy nhất thì sẽ có ít khả năng thành công hơn so với hàng ngàn bác sĩ thu thập dữ liệu từ hàng triệu bệnh nhân. Và nếu chính giới y sinh âm mưu che giấu sự thật, thì việc công khai thông tin y tế cho công chúng và các nhà báo điều tra cuối cùng sẽ phơi bày sự gian lận. Theo quan điểm này, mạng lưới thông tin càng lớn, thì nó càng gần với sự thật.

Mặc dù vậy, ngay cả khi chúng ta phân tích thông tin chính xác và khám phá ra những sự thật quan trọng, điều đó cũng không đảm bảo rằng chúng ta sẽ sử dụng dữ liệu thu được một cách khôn ngoan. Sự khôn ngoan thường được hiểu là “đưa ra các quyết định đúng đắn,” nhưng “đúng đắn” nghĩa là gì thì lại phụ thuộc vào các giá trị, và những giá trị này khác nhau giữa các cá nhân, nền văn hóa, và hệ tư tưởng. Ví dụ, các nhà khoa học phát hiện ra một loại mầm bệnh mới có thể phát triển một loại vắc-xin để bảo vệ con người. Nhưng nếu các nhà khoa học—hoặc lãnh đạo của họ—tin vào một hệ tư tưởng phân biệt chủng tộc coi một số chủng tộc là thấp kém và cần bị tiêu diệt, thì những kiến thức y khoa mới đó sẽ có thể được sử dụng để tạo ra một vũ khí sinh học giết người hàng loạt.

Trong trường hợp này, quan điểm ngây thơ về thông tin vẫn cho rằng việc có thêm thông tin sẽ tăng thêm khả năng tìm ra giải pháp. Quan điểm này tin rằng những bất đồng về giá trị, nếu được xem xét kỹ lưỡng, thường là do thiếu thông tin hoặc do thông tin sai lệch. Theo quan điểm này, những người phân biệt chủng tộc là những người thiếu hiểu biết, không biết đến các sự thật về sinh học và lịch sử. Họ nghĩ rằng “chủng tộc” là một khái niệm sinh học hợp lệ và đã bị tẩy não bởi các thuyết âm mưu sai lầm. Vì vậy, giải pháp cho nạn phân biệt chủng tộc là cung cấp cho mọi người nhiều sự thật hơn về sinh học và lịch sử. Mặc dù có thể mất thời gian, nhưng trong một thị trường thông tin tự do, sự thật sớm muộn sẽ chiến thắng.

Quan điểm ngây thơ tất nhiên phức tạp và sâu sắc hơn nhiều không thể diễn tả trong vài đoạn văn, nhưng cốt lõi của nó là: thông tin về cơ bản là tốt, càng có nhiều thông tin, càng có lợi hơn. Với đủ thông tin và thời gian, chúng ta chắc chắn sẽ khám phá ra sự thật về mọi thứ, từ các bệnh truyền nhiễm đến thành kiến phân biệt chủng tộc, từ đó không chỉ phát triển quyền lực mà còn cả sự trí tuệ cần thiết để sử dụng sức mạnh đó một cách đúng đắn.

Quan điểm ngây thơ này biện minh cho việc theo đuổi các công nghệ thông tin ngày càng mạnh mẽ hơn và đã trở thành ý thức hệ bán chính thức của thời đại máy tính và internet. Vào tháng 6 năm 1989, chỉ vài tháng trước khi Bức tường Berlin và Bức màn Sắt sụp đổ, Ronald Reagan tuyên bố rằng “Goliath của sự kiểm soát toàn trị sẽ nhanh chóng bị hạ gục bởi David vi mạch máy tính” và rằng “các Lão đại vĩ đại nhất cũng bất lực trước công nghệ truyền thông…. Thông tin là dưỡng khí của thời hiện đại…. Nó len qua những bức tường đầy dây thép gai. Nó bay qua các biên giới có bẫy điện. Làn gió của các chùm tia điện tử thổi qua Bức màn Sắt như thể nó chỉ là ren mỏng.”[2] Vào tháng 11 năm 2009, Barack Obama cũng phát biểu với cùng tinh thần khi thăm Thượng Hải, nói với các nhà lãnh đạo Trung Quốc: “Tôi tin tưởng sâu sắc vào công nghệ và sự cởi mở khi nói đến dòng chảy thông tin. Tôi nghĩ rằng thông tin càng tự do lưu thông, xã hội càng trở nên mạnh mẽ.” [3]

Các doanh nhân và tập đoàn cũng thường xuyên bày tỏ quan điểm tích cực tương tự về công nghệ thông tin. Ngay từ năm 1858, một bài xã luận trên The New Englander về phát minh ra máy điện báo đã tuyên bố: “Không thể nào mà những định kiến và thù hận cũ vẫn còn tồn tại, khi một công cụ như vậy đã được tạo ra để trao đổi ý tưởng giữa tất cả các quốc gia trên thế giới.” [4] Gần hai thế kỷ và hai cuộc chiến tranh thế giới sau đó, Mark Zuckerberg nói rằng mục tiêu của Facebook là “giúp mọi người chia sẻ nhiều hơn, làm cho thế giới cởi mở hơn, từ đó thúc đẩy sự hiểu biết giữa mọi người.” [5]

Trong cuốn sách năm 2024 của mình, The Singularity Is Nearer (Điểm cùng cực cận kề), nhà tương lai học và doanh nhân nổi tiếng Ray Kurzweil đã khảo sát lịch sử của công nghệ thông tin và kết luận rằng “thực tế là hầu hết mọi khía cạnh của cuộc sống đều đang ngày càng tốt hơn nhờ công nghệ tiến bộ theo cấp số nhân.” Nhìn lại toàn cảnh lịch sử nhân loại, ông dẫn ví dụ về phát minh ra máy in để lập luận rằng bản chất của công nghệ thông tin có xu hướng tạo ra “một vòng tròn đạo đức tiến bộ trên hầu hết mọi khía cạnh cho đời sống con người, bao gồm biết chữ, giáo dục, tiền bạc, vệ sinh, sức khỏe, dân chủ hóa và giảm bạo lực.” [6]

Quan điểm ngây thơ về thông tin có lẽ được tóm lược một cách ngắn gọn nhất trong tuyên bố sứ mệnh của Google: “tổ chức lại thông tin của thế giới và làm cho nó dễ tiếp cận hơn và hữu ích cho tất cả mọi người.” Câu trả lời của Google đối với những lời cảnh báo của Goethe là: trong khi một người học việc đơn lẻ đánh cắp cuốn sách thần chú của sư phụ mình có thể gây thảm họa, thì khi nhiều người học việc được tự do tiếp cận tất cả thông tin trên thế giới, họ không chỉ tạo ra những cây chổi ma thuật hữu ích mà còn học cách sử dụng chúng một cách khôn ngoan.

GOOGLE VÀ GOETHE

Cần phải nhấn mạnh rằng có rất nhiều trường hợp mà việc có thêm thông tin thực sự đã giúp con người hiểu rõ hơn về thế giới và sử dụng quyền lực của mình một cách khôn ngoan hơn. Hãy xem xét ví dụ, sự giảm mạnh tỷ lệ tử vong ở trẻ em. Johann Wolfgang von Goethe là con cả trong gia đình có bảy anh chị em, nhưng chỉ có ông và em gái Cornelia là được kỷ niệm sinh nhật thứ bảy. Căn bệnh đã cướp đi người anh Hermann Jacob khi mới sáu tuổi, chị Catharina Elisabeth khi bốn tuổi, chị Johanna Maria khi hai tuổi, người anh Georg Adolf khi mới tám tháng tuổi, và một người anh thứ năm chưa được đặt tên đã chết ngay khi sinh. Cornelia sau đó cũng qua đời vì bệnh khi mới 26 tuổi, để lại Johann Wolfgang là người sống sót duy nhất trong gia đình.[7]

Johann Wolfgang von Goethe sau đó có năm người con riêng, trong đó tất cả, trừ người con trai trưởng – August – đều qua đời trong vòng hai tuần sau khi chào đời. Nguyên nhân có thể là sự không tương thích giữa nhóm máu của Goethe và vợ ông, Christiane, điều này sau lần mang thai thành công đầu tiên đã khiến người mẹ phát triển kháng thể chống lại máu của thai nhi. Tình trạng này, được gọi là bệnh rhesus, hiện nay đã được điều trị hiệu quả đến mức tỷ lệ tử vong dưới 2%, nhưng ở những năm 1790, tỷ lệ tử vong trung bình là 50%, và đối với bốn đứa trẻ nhỏ của Goethe, đó là một bản án tử.[8]

Tổng cộng, trong gia đình của Goethe—một gia đình Đức khá giả vào cuối thế kỷ 18—tỷ lệ trẻ em sống sót là 25%, một tỷ lệ đáng buồn. Chỉ có ba trong số mười hai người con của họ sống đến tuổi trưởng thành. Thống kê kinh khủng này không có gì đặc biệt. Vào thời điểm Goethe viết “Người học trò phù thủy” vào năm 1797, ước tính chỉ khoảng 50% trẻ em Đức sống đến tuổi 15,[9] và điều này có lẽ cũng đúng với hầu hết các nơi khác trên thế giới.[10] Đến năm 2020, 95,6% trẻ em trên toàn thế giới sống qua tuổi 15,[11] và ở Đức con số này là 99,5%.[12] Thành tựu vĩ đại này không thể đạt được nếu không có việc thu thập, phân tích và chia sẻ một lượng lớn dữ liệu y tế về các vấn đề như nhóm máu. Trong trường hợp này, quan điểm ngây thơ về thông tin đã chứng tỏ là đúng.

Tuy nhiên, quan điểm ngây thơ về thông tin chỉ nhìn thấy một phần bức tranh, và lịch sử thời hiện đại không chỉ xoay quanh việc giảm tỷ lệ tử vong ở trẻ em. Trong những thế hệ gần đây, nhân loại đã trải qua sự gia tăng lớn nhất từ trước đến nay cả về số lượng và tốc độ sản xuất thông tin. Mỗi chiếc điện thoại thông minh chứa đựng nhiều thông tin hơn cả Thư viện Alexandria cổ đại[13] và cho phép chủ sở hữu kết nối ngay lập tức với hàng tỷ người khác trên toàn cầu. Tuy nhiên, với tất cả thông tin này lưu thông với tốc độ chóng mặt, nhân loại đang gần hơn bao giờ hết đến việc tự hủy diệt.

Có lẽ chính vì kho dữ liệu của chúng ta, chúng ta vẫn tiếp tục xả khí thải nhà kính vào bầu khí quyển, làm ô nhiễm sông ngòi và đại dương, chặt phá rừng, phá hủy các môi trường sống, đẩy vô số loài vào tình trạng tuyệt chủng và đe dọa các nền tảng sinh thái của chính con người. Chúng ta cũng đang sản xuất ngày càng nhiều vũ khí hủy diệt hàng loạt mạnh hơn, từ bom nhiệt hạch đến virus tận thế. Các nhà lãnh đạo của chúng ta không thiếu thông tin về những nguy cơ này, nhưng thay vì hợp tác để tìm ra giải pháp, họ lại đang tiến gần đến một cuộc chiến tranh toàn cầu.

Liệu có nhiều thông tin hơn có làm mọi thứ tốt đẹp hơn—hay tồi tệ hơn? Chúng ta sẽ sớm biết. Nhiều tập đoàn và chính phủ đang chạy đua để phát triển một hệ thống công nghệ thông tin mạnh nhất trong lịch sử—trí tuệ nhân tạo (AI). Một số doanh nhân hàng đầu, như nhà đầu tư Mỹ Marc Andreessen, tin rằng AI sẽ cuối cùng giải quyết tất cả các vấn đề của nhân loại. Vào ngày 6 tháng 6 năm 2023, Andreessen đã xuất bản một bài luận có tựa đề “Tại sao AI sẽ cứu thế giới,” với những tuyên bố táo bạo như “Tôi ở đây để mang đến tin tốt: AI sẽ không hủy diệt thế giới, mà thực tế có thể cứu nó” và “AI có thể làm mọi thứ chúng ta quan tâm trở nên tốt hơn.” Ông kết luận: “Phát triển và phổ cập AI—không phải là một rủi ro để loài người sợ hãi—mà là một nghĩa vụ đạo đức mà chúng ta phải làm cho bản thân, cho con cái, và cho tương lai của chúng ta.”[14]
Ray Kurzweil cũng đồng tình, trong cuốn sách The Singularity Is Nearer, ông lập luận rằng “AI là công nghệ quan trọng cho phép con người giải quyết các thách thức khẩn cấp đang phải đối mặt, bao gồm bệnh tật, nghèo đói, suy thoái môi trường, và tất cả các điểm yếu của con người. Chúng ta có một nghĩa vụ đạo đức để thực hiện lời hứa của những công nghệ mới này.” Kurzweil ý thức về những nguy cơ tiềm ẩn của công nghệ, cũng đã phân tích chúng một cách tỉ mỉ, nhưng ông tin rằng chúng có thể được giảm thiểu thành công.[15]

Tuy nhiên, một số người lại hoài nghi hơn. Không chỉ các triết gia và các nhà khoa học xã hội mà còn nhiều chuyên gia và doanh nhân hàng đầu về AI như Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk và Mustafa Suleyman đã cảnh báo công chúng rằng AI có thể hủy diệt nền văn minh của con người.[16] Một bài báo năm 2024 do Bengio, Hinton và nhiều chuyên gia khác cùng viết đã lưu ý rằng “AI phát triển không kiểm soát có thể dẫn đến mất mát sinh mạng trên diện rộng và suy giảm sinh quyển, cũng như biên giới hóa hoặc thậm chí tuyệt chủng của loài người.”[17] Trong một cuộc khảo sát năm 2023 với 2.778 nhà nghiên cứu AI, hơn một phần ba đã cho rằng AI tiên tiến có thể dẫn đến kết quả xấu như tuyệt chủng của loài người, với khả năng ít nhất 10%.[18] Năm 2023, gần ba mươi chính phủ—bao gồm Trung Quốc, Hoa Kỳ, và Anh quốc—đã ký Tuyên bố Bletchley về AI, thừa nhận rằng “có khả năng gây hại nghiêm trọng, thậm chí thảm khốc, dù là có chủ đích hay vô tình, xuất phát từ các khả năng siêu việt của các mô hình AI này.”[19]

Bằng việc sử dụng những thuật ngữ tận thế như vậy, các chuyên gia và chính phủ không có ý định tạo ra một bộ phim Hollywood về những con robot nổi loạn chạy trên đường phố và bắn giết người. Kịch bản này là không có khả năng, và nó chỉ làm phân tâm mọi người khỏi những nguy cơ thực sự. Thay vào đó, các chuyên gia cảnh báo về hai kịch bản khác.

Thứ nhất, sức mạnh của AI có thể làm gia tăng các xung đột hiện có giữa con người, chia rẽ nhân loại. Giống như trong thế kỷ 20, Bức màn Sắt đã chia rẽ các cường quốc đối địch trong Chiến tranh Lạnh, còn trong thế kỷ 21, Bức màn Silicon bán dẫn được tạo thành từ các vi mạch silicon và mã máy tính thay vì dây thép gai có thể chia rẽ các cường quốc đối đầu trong một cuộc xung đột toàn cầu mới. Vì cuộc chạy đua vũ trang AI sẽ tạo ra ngày càng nhiều vũ khí hủy diệt, ngay cả một tia lửa nhỏ cũng có thể gây ra một trận đại hỏa hoạn.

Thứ hai, Bức màn Silicon có thể không chia rẽ một nhóm người này với nhóm người khác mà chia rẽ tất cả loài người với những kẻ thống trị AI mới của chúng ta. Dù chúng ta sống ở đâu, chúng ta có thể thấy mình bị bao quanh bởi một mạng lưới các thuật toán không thể hiểu nổi, điều khiển cuộc sống của chúng ta, thay đổi chính trị và văn hóa của chúng ta, thậm chí tái cấu trúc cơ thể và tâm trí của chúng ta tới mức chúng ta còn không hiểu được những lực lượng nào đang kiểm soát chính mình, huống chi là ngừng lại chúng. Nếu một mạng lưới toàn trị thế kỷ 21 thành công trong việc chinh phục thế giới, nó có thể được điều hành bởi trí tuệ nhân tạo, thay vì một nhà độc tài bằng xương bằng thịt. Những người chỉ chỉ trích Trung Quốc, Nga, hoặc một nước Mỹ hậu dân chủ như là nguồn gốc chính của các cơn ác mộng thống trị thế giới đã hiểu sai về nguy cơ. Thực tế, người Trung Quốc, người Nga, người Mỹ và tất cả những người khác đều cùng bị đe dọa bởi tiềm năng toàn trị của trí tuệ nhân tạo (AI).

Với mức độ nguy hiểm này, AI nên là mối quan tâm của tất cả loài người. Dù không phải ai cũng có thể trở thành chuyên gia về AI, nhưng tất cả chúng ta cần ghi nhớ rằng AI là công nghệ đầu tiên trong lịch sử có thể tự đưa ra quyết định và tạo ra ý tưởng mới. Tất cả các phát minh trước đây của nhân loại đều trao quyền cho con người, bởi vì dù công cụ mới có mạnh mẽ đến đâu, các quyết định về việc sử dụng nó vẫn nằm trong tay chúng ta. Dao và bom không tự quyết định ai sẽ bị giết. Chúng là công cụ chết, thiếu trí tuệ cần thiết để xử lý thông tin và đưa ra quyết định độc lập. Ngược lại, AI có thể tự xử lý thông tin, từ đó thay thế con người trong việc ra quyết định. AI không phải là công cụ, nó là một tác nhân.

Khả năng xử lý thông tin của AI cũng cho phép nó sáng tạo ra ý tưởng mới, từ âm nhạc đến y học. Máy hát gramophone phát nhạc cho chúng ta, và kính hiển vi tiết lộ bí mật của tế bào, nhưng máy hát gramophone không thể sáng tác những bản giao hưởng mới, và kính hiển vi không thể tổng hợp những loại thuốc mới. AI hiện nay đã có khả năng tạo ra nghệ thuật và thực hiện các phát hiện khoa học một mình. Trong vài thập kỷ tới, nó có thể sẽ có khả năng tạo ra các sinh vật sống mới, có thể bằng cách viết mã di truyền hoặc sáng chế một mã vô cơ điều khiển các thực thể vô cơ.

Ngay cả ở giai đoạn đầu của cuộc cách mạng AI hiện nay, máy tính đã đưa ra quyết định về chúng ta, liệu có nên cho bạn vay tiền mua nhà, có nhận bạn vào làm việc, hay có đưa bạn vào tù. Xu hướng này sẽ chỉ có ngày một gia tăng, khiến chúng ta khó khăn hơn trong việc hiểu cuộc sống của chính mình. Liệu chúng ta có thể tin tưởng các thuật toán máy tính để đưa ra quyết định khôn ngoan và tạo ra một thế giới tốt đẹp hơn không? Đó là một cuộc đánh cược lớn hơn nhiều so với việc tin vào một chiếc chổi phù thủy tạo ra nước. Và đó không chỉ là sinh mạng con người mà chúng ta đang đánh cược. AI có thể thay đổi không chỉ lịch sử của loài người mà cả sự tiến hóa của tất cả các dạng sự sống.

VŨ KHÍ HÓA THÔNG TIN

Vào năm 2016, tôi đã xuất bản Homo Deus, một cuốn sách nhấn mạnh một số mối nguy hiểm mà các công nghệ thông tin mới đang đe dọa nhân loại. Cuốn sách này lập luận rằng anh hùng thật sự trong lịch sử luôn là thông tin, chứ không phải loài người (Homo sapiens), và các nhà khoa học ngày càng hiểu không chỉ lịch sử mà còn cả sinh học, chính trị và kinh tế dưới góc độ dòng chảy thông tin. Các loài động vật, các quốc gia và các thị trường đều là những mạng lưới thông tin, tiếp nhận dữ liệu từ môi trường, đưa ra quyết định và đẩy ra dữ liệu. Cuốn sách cảnh báo rằng trong khi chúng ta hy vọng công nghệ thông tin tốt hơn sẽ mang lại cho chúng ta sức khỏe, hạnh phúc và quyền lực, nó thực sự có thể lấy đi quyền lực của chúng ta và hủy hoại cả sức khỏe thể chất lẫn tinh thần của chúng ta. Homo Deus giả thuyết rằng nếu con người không cẩn thận, chúng ta có thể bị hòa tan trong dòng chảy thông tin như một mảnh đất bị cuốn trong dòng sông cuồn cuộn, và trong một bức tranh lớn hơn, loài người sẽ chỉ là một làn sóng nhỏ trong dòng chảy dữ liệu vũ trụ.

Kể từ khi Homo Deus được xuất bản, tốc độ thay đổi đã chỉ tăng tốc, và quyền lực thực sự đã chuyển từ con người sang các thuật toán. Nhiều kịch bản mà vào năm 2016 nghe có vẻ như khoa học viễn tưởng—như các thuật toán có thể tạo ra nghệ thuật, giả dạng thành con người, đưa ra những quyết định quan trọng về cuộc sống của chúng ta, và biết nhiều hơn về chúng ta so với chính chúng ta biết về bản thân – nay đã trở thành hiện thực hàng ngày vào năm 2024.

Nhiều thứ khác cũng đã thay đổi kể từ năm 2016. Cuộc khủng hoảng sinh thái đã trở nên nghiêm trọng hơn, căng thẳng quốc tế gia tăng, và làn sóng chủ nghĩa dân túy đã làm suy yếu sự gắn kết của chính những nền dân chủ mạnh mẽ nhất. Chủ nghĩa dân túy cũng đã đặt ra một thách thức mang tính cách mạng đối với quan điểm ngây thơ về thông tin. Các lãnh đạo dân túy như Donald Trump và Jair Bolsonaro, cùng các phong trào dân túy và thuyết âm mưu như QAnon và các nhóm chống tiêm vắc-xin, đã lập luận rằng tất cả các thể chế truyền thống giành quyền lực bằng cách tuyên bố thu thập thông tin và khám phá sự thật đều đang nói dối. Các quan chức, thẩm phán, bác sĩ, nhà báo chính thống và các chuyên gia học thuật là những nhóm tinh hoa không quan tâm đến sự thật mà chỉ cố tình lan truyền thông tin sai lệch để giành quyền lực và đặc quyền cho bản thân, đánh đổi bằng “quyền lợi của nhân dân.” Sự trỗi dậy của các chính trị gia như Trump và các phong trào như QAnon có một bối cảnh chính trị đặc thù, chỉ xuất hiện trong điều kiện của Hoa Kỳ vào cuối thập niên 2010. Tuy nhiên, chủ nghĩa dân túy như một thế giới quan chống lại các thể chế đã tồn tại từ lâu trước thời của Trump và vẫn có ý nghĩa trong nhiều bối cảnh lịch sử khác, cả hiện tại và trong tương lai. Tóm lại, chủ nghĩa dân túy coi thông tin như một thứ vũ khí.[20]

Thông tin –> Quyền lực

Trong những phiên bản cực đoan hơn của chủ nghĩa dân túy, người ta cho rằng không có sự thật khách quan nào và mỗi người đều có “sự thật của riêng họ,” mà họ sử dụng để tiêu diệt đối thủ. Theo thế giới quan này, quyền lực là thực tại duy nhất. Tất cả các tương tác xã hội đều là cuộc đấu tranh quyền lực, vì con người chỉ quan tâm đến quyền lực. Việc tuyên bố quan tâm đến điều gì khác—như sự thật hay công lý—chỉ là một âm mưu để giành quyền lực. Mỗi khi chủ nghĩa dân túy thành công trong việc lan truyền quan điểm thông tin như một vũ khí, ngôn ngữ sẽ bị làm suy yếu. Các danh từ như “sự thật” và các tính từ như “chính xác” và “thật thà” trở nên mơ hồ. Những từ như vậy không còn được coi là chỉ tới một thực tại khách quan chung. Thay vào đó, bất kỳ cuộc trò chuyện nào về “sự thật” hay “sự kiện” đều dễ dàng dẫn đến câu hỏi: “Bạn đang đề cập đến Sự thật về ai và sự kiện về ai?”

Cần phải nhấn mạnh rằng quan điểm tập trung vào quyền lực và hoài nghi sâu sắc này đối với thông tin không phải là một hiện tượng mới, cũng không không phải do các nhóm chống tiêm vắc-xin, những người tin Trái đất phẳng, những người ủng hộ Bolsonaro hay những người ủng hộ Trump sáng tạo ra. Các quan điểm tương tự đã được phát tán từ lâu trước năm 2016, trong đó có cả một số trí thức là ngôi sao sáng giá của nhân loại.[21] Vào cuối thế kỷ XX, ví dụ, các trí thức từ cánh tả cấp tiến như Michel Foucault và Edward Said đã tuyên bố rằng các Tập đoàn khoa học như bệnh viện và trường đại học không tìm kiếm sự thật khách quan và vĩnh cửu mà thay vào đó là sử dụng quyền lực để xác định cái gì được coi là sự thật, phục vụ cho các tầng lớp tinh hoa tư bản và thực dân. Những chỉ trích cấp tiến này đôi khi đi đến mức cho rằng “sự kiện khoa học” chỉ là một “diễn ngôn” của chủ nghĩa tư bản hoặc chủ nghĩa thực dân, và những người nắm quyền không bao giờ thật sự quan tâm đến sự thật và không thể được tin tưởng để nhận ra và sửa chữa sai lầm của chính họ.[22]

Dòng tư tưởng này của cánh tả cấp tiến bắt nguồn từ Karl Marx, người đã lập luận vào giữa thế kỷ XIX rằng quyền lực là thực tại duy nhất, rằng thông tin là một vũ khí, và rằng các tầng lớp tinh hoa tuyên bố phục vụ sự thật và công lý thực tế đang theo đuổi những đặc quyền giai cấp hẹp hòi. Trong lời của Tuyên ngôn Cộng sản năm 1848, “Lịch sử của tất cả các xã hội đã từng tồn tại là lịch sử của những cuộc đấu tranh giai cấp. Người tự do và nô lệ, quý tộc và thường dân, lãnh chúa và nông nô, thủ lĩnh và thợ thủ công, nói tóm lại, kẻ áp bức và kẻ bị áp bức luôn đối đầu với nhau, đấu tranh liên tục, có khi ẩn giấu, có khi công khai.” Cách hiểu lịch sử theo mô hình nhị phân 0-1 này ngụ ý rằng mọi tương tác của con người đều là một cuộc đấu tranh quyền lực giữa kẻ áp bức và kẻ bị áp bức. Do đó, mỗi khi ai đó nói điều gì, câu hỏi không phải là “Điều này nói gì? Nó có đúng không?” mà phải là “Ai đang nói điều này? Nó phục vụ đặc quyền của ai?”

Dĩ nhiên, các chính trị gia dân túy cánh hữu như Trump và Bolsonaro khó có thể đã đọc Foucault hay Marx, và thực tế họ tự coi mình là những người chống lại chủ nghĩa Marx gay gắt. Họ cũng rất khác với các nhà Marxist trong các chính sách được đề xuất trong các lĩnh vực như thuế và phúc lợi. Tuy nhiên, quan điểm cơ bản của họ về xã hội và thông tin lại có sự tương đồng đáng ngạc nhiên với Marx, khi họ xem tất cả các tương tác của con người là một cuộc đấu tranh quyền lực giữa kẻ áp bức và kẻ bị áp bức. Ví dụ, trong bài phát biểu nhậm chức vào năm 2017, Trump đã tuyên bố rằng “một nhóm nhỏ ở thủ đô của quốc gia chúng ta đã thu lợi từ chính phủ, trong khi người dân phải gánh chịu chi phí.”[23] Ngôn từ như vậy là một đặc trưng của chủ nghĩa dân túy, mà nhà khoa học chính trị Cas Mudde đã mô tả là một “ý thức hệ coi xã hội cuối cùng được chia thành hai nhóm đồng nhất và đối kháng, ‘người dân thuần khiết’ và ‘tầng lớp tinh hoa tham nhũng.’”[24] Cũng giống như các nhà Marxist cho rằng truyền thông hoạt động như một kênh phát ngôn cho giai cấp tư bản, và các thể chế khoa học như trường đại học lan truyền thông tin sai lệch để duy trì sự kiểm soát của tư bản, các chính trị gia dân túy cáo buộc các thể chế này đang làm việc để thúc đẩy lợi ích của “tầng lớp tinh hoa biến chất” còn người trả giá chính là “nhân dân”.

Các chính trị gia dân túy hiện nay cũng gặp phải sự mâu thuẫn tương tự như những phong trào chống chính quyền cấp tiến trong các thế hệ trước. Nếu quyền lực là thực tại duy nhất, và nếu thông tin chỉ là một vũ khí, điều này có ý nghĩa gì đối với chính những người dân túy? Liệu họ có phải chỉ quan tâm đến quyền lực, và liệu họ có đang nói dối chúng ta để giành quyền lực?

Các phong trào dân túy đã tìm cách thoát khỏi tình huống khó xử này theo hai cách khác nhau. Một số phong trào dân túy tuyên bố theo đuổi lý tưởng của khoa học hiện đại và các truyền thống hoài nghi của chủ nghĩa thực chứng. Họ nói với mọi người rằng thực sự bạn không nên tin tưởng bất kỳ thể chế hay nhân vật quyền lực nào—bao gồm cả các đảng dân túy tự xưng và các chính trị gia. Thay vào đó, bạn nên “tự nghiên cứu” và chỉ tin vào những gì bạn có thể trực tiếp quan sát được.[25] Vị trí của chủ nghĩa thực chứng cấp tiến này hàm ý rằng trong khi các thể chế lớn như các đảng chính trị, tòa án, báo chí và các trường đại học không thể tin tưởng được, thì những cá nhân nỗ lực sẽ vẫn có thể tìm ra sự thật cho chính mình.

Cách tiếp cận này có thể nghe có vẻ khoa học và có thể thu hút những người có tinh thần tự do, nhưng nó để ngỏ câu hỏi về cách các cộng đồng con người có thể hợp tác để xây dựng hệ thống chăm sóc sức khỏe hoặc thông qua các quy định về môi trường, những việc đòi hỏi tổ chức thể chế quy mô lớn. Liệu một cá nhân đơn lẻ có thể làm tất cả những nghiên cứu cần thiết để quyết định khí hậu của trái đất có đang nóng lên và cần phải làm gì về vấn đề này? Làm sao một người có thể thu thập dữ liệu khí hậu từ khắp nơi trên thế giới, chưa kể đến việc có được các bản ghi đáng tin cậy từ các thế kỷ trước? Tin tưởng chỉ vào “nghiên cứu của riêng tôi” có thể nghe có vẻ khoa học, nhưng thực tế, nó có thể đồng nghĩa với việc tin rằng không có sự thật khách quan. Như chúng ta sẽ thấy trong chương 4, khoa học là một nỗ lực hợp tác của các thể chế, thay vì một cuộc tìm kiếm cá nhân.

Một giải pháp dân túy thay thế là từ bỏ lý tưởng khoa học hiện đại trong việc tìm kiếm sự thật thông qua “nghiên cứu” mà thay vào đó quay lại tin vào sự tiết lộ thần thánh hoặc huyền bí. Các tôn giáo truyền thống như Ki-tô giáo, Hồi giáo và Ấn Độ giáo thường mô tả con người là những sinh vật tham quyền cố vị và không đáng tin, chỉ có thể tiếp cận sự thật nhờ sự can thiệp của trí tuệ thần thánh. Vào những năm 2010 và đầu thập kỷ 2020, các đảng dân túy từ Brazil đến Thổ Nhĩ Kỳ, từ Hoa Kỳ đến Ấn Độ đã liên kết với những tôn giáo truyền thống như vậy. Họ đã bày tỏ sự hoài nghi sâu sắc đối với các thể chế hiện đại trong khi tuyên bố hoàn toàn tin tưởng vào các kinh điển cổ xưa. Các chính trị gia dân túy cho rằng các bài báo bạn đọc trên The New York Times hay Science chỉ là mưu đồ của tầng lớp tinh hoa để giành quyền lực, nhưng những gì bạn đọc trong Kinh Thánh, Kinh Quran, hay các Veda là sự thật tuyệt đối.[26]

Một biến thể khác của chủ nghĩa dân túy kêu gọi mọi người đặt niềm tin vào những nhà lãnh đạo có sức hút mạnh mẽ như Trump và Bolsonaro, những người được các ủng hộ viên của họ mô tả là sứ giả của Chúa[27] hoặc có mối liên kết huyền bí với “người dân.” Trong khi các chính trị gia bình thường nói dối người dân để giành quyền lực cho mình, nhà lãnh đạo có sức hút mạnh mẽ là tiếng nói không thể sai lầm của người dân, người phơi bày tất cả những lời dối trá.[28] Một trong những nghịch lý tái diễn của chủ nghĩa dân túy là nó bắt đầu bằng cách cảnh báo rằng tất cả các tầng lớp tinh hoa của con người đều bị thúc đẩy bởi một cơn đói quyền lực nguy hiểm, nhưng thường kết thúc bằng cách trao quyền lực cho một con người tham vọng duy nhất.

Chúng ta sẽ khám phá sâu hơn về chủ nghĩa dân túy trong chương 5, nhưng tại thời điểm này, điều quan trọng là phải lưu ý rằng các chính trị gia dân túy đang làm suy yếu niềm tin vào các thể chế quy mô lớn và hợp tác quốc tế ngay khi nhân loại phải đối mặt với những thách thức sinh tồn như sự sụp đổ sinh thái, chiến tranh toàn cầu và công nghệ vượt tầm kiểm soát. Thay vì tin tưởng vào các thể chế nhân loại phức tạp, các chính trị gia dân túy cho chúng ta lời khuyên giống như trong huyền thoại Phaethon và “Người học trò phù thủy”: “Hãy tin vào Chúa hoặc phù thủy vĩ đại sẽ can thiệp và làm mọi thứ trở lại đúng đắn.” Nếu chúng ta nghe theo lời khuyên này, có lẽ chúng ta sẽ thấy mình trong ngắn hạn dưới sự kiểm soát của những con người tham quyền tồi tệ nhất, và trong dài hạn dưới sự kiểm soát của những lãnh chúa AI mới. Hoặc chúng ta có thể thấy mình không ở đâu cả, khi Trái đất trở nên không thể ở được đối với sự sống con người.

Nếu chúng ta muốn tránh giao quyền lực cho một nhà lãnh đạo có sức hút mạnh mẽ hoặc một AI không thể hiểu được, chúng ta phải hiểu rõ hơn về thông tin là gì, nó giúp xây dựng các mạng lưới con người như thế nào và nó liên quan đến sự thật và quyền lực ra sao. Các chính trị gia dân túy đúng khi hoài nghi về quan điểm ngây thơ về thông tin, nhưng họ sai khi nghĩ rằng quyền lực là thực tại duy nhất và thông tin luôn là một vũ khí. Thông tin không phải là nguyên liệu thô của sự thật, nhưng nó cũng không phải là một vũ khí đơn thuần. Không gian giữa hai góc độ này đủ để có một quan điểm sâu sắc, nhiều hy vọng hơn về các mạng lưới thông tin của con người và khả năng chúng ta xử lý quyền lực một cách khôn ngoan. Cuốn sách này được dành để khám phá khu vực trung gian đó.

CON ĐƯỜNG PHÍA TRƯỚC

Phần đầu của cuốn sách này khảo sát sự phát triển lịch sử của các mạng lưới thông tin con người. Nó không cố gắng trình bày một câu chuyện toàn diện theo từng thế kỷ về các công nghệ thông tin như sự ra đời của chữ viết, máy in và đài phát thanh. Thay vào đó, thông qua việc nghiên cứu một vài ví dụ, cuốn sách khám phá những sự kiện then chốt mà con người ở mọi thời đại phải đối mặt khi cố gắng xây dựng các mạng lưới thông tin, và xem xét cách mà những câu trả lời khác nhau đối với các tình huống này đã hình thành các xã hội loài người đối lập nhau như thế nào. Những gì chúng ta thường nghĩ là xung đột ý thức hệ và chính trị thực ra lại thường là những cuộc đối đầu giữa các loại mạng lưới thông tin đối lập.

Phần 1 bắt đầu bằng việc xem xét hai nguyên lý đã đóng vai trò quan trọng đối với các mạng lưới thông tin quy mô lớn của con người: thần thoại và tập quyền. Chương 2 và 3 mô tả cách mà các mạng lưới thông tin quy mô lớn—từ các vương quốc cổ đại đến các quốc gia hiện đại—đã phụ thuộc vào cả những người sáng tạo thần thoại và các quan chức tập quyền. Ví dụ, các câu chuyện trong Kinh Thánh là điều thiết yếu đối với Giáo hội Cơ đốc, nhưng sẽ không có Kinh Thánh nếu các quan chức giáo hội không chọn lọc, chỉnh sửa và phát tán những câu chuyện này. Một tình huống khó khăn đối với mọi mạng lưới con người là các người sáng tạo thần thoại và các quan chức quan liêu có xu hướng kéo theo những hướng khác nhau. Các thể chế và xã hội thường được xác định bởi sự cân bằng mà họ có thể tìm thấy giữa những nhu cầu mâu thuẫn của các người sáng tạo thần thoại và các quan chức quan liêu của họ. Chính Giáo hội Cơ đốc cũng đã chia thành các giáo hội đối địch, như Giáo hội Công giáo và Giáo hội Tin lành, mỗi bên tìm ra một sự cân bằng khác nhau giữa thần thoại và quan liêu.

Chương 4 sau đó tập trung vào vấn đề thông tin sai lệch và những lợi ích cũng như bất lợi của việc duy trì các cơ chế tự điều chỉnh, như tòa án độc lập hay các tạp chí được đánh giá ngang hàng. Chương này so sánh các thể chế phụ thuộc vào cơ chế tự điều chỉnh yếu, như Giáo hội Công giáo, với các thể chế phát triển các cơ chế tự điều chỉnh mạnh mẽ, như các ngành khoa học. Các cơ chế tự điều chỉnh yếu đôi khi dẫn đến những thảm họa lịch sử như cuộc săn lùng phù thủy ở châu Âu thời kỳ cận đại, trong khi các cơ chế tự điều chỉnh mạnh mẽ đôi khi làm mất ổn định mạng lưới từ bên trong. Nếu xét về độ bền, sự lan rộng và quyền lực, Giáo hội Công giáo có thể là thể chế thành công nhất trong lịch sử loài người, mặc dù—hoặc có lẽ là vì—sự yếu ớt tương đối của các cơ chế tự điều chỉnh của nó.

Sau khi phần 1 khảo sát vai trò của thần thoại và tập quyền, và sự tương phản giữa các cơ chế tự điều chỉnh mạnh mẽ và yếu, chương 5 kết thúc phần thảo luận lịch sử bằng cách tập trung vào một sự tương phản khác—giữa các mạng lưới thông tin phân phối và tập trung. Các hệ thống dân chủ cho phép thông tin tự do lưu thông qua nhiều kênh độc lập, trong khi các hệ thống chuyên chế cố gắng tập trung thông tin vào một trung tâm duy nhất. Mỗi sự lựa chọn đều có những lợi thế và hạn chế riêng. Việc hiểu các hệ thống chính trị như Hoa Kỳ và Liên Xô cũ dưới góc độ các dòng chảy thông tin có thể giải thích nhiều điều về những con đường phát triển khác nhau của chúng.

Phần lịch sử của cuốn sách này rất quan trọng để hiểu các sự phát triển hiện nay và những kịch bản trong tương lai. Sự trỗi dậy của trí tuệ nhân tạo (AI) có thể nói là cuộc cách mạng thông tin lớn nhất trong lịch sử. Nhưng chúng ta không thể hiểu điều này nếu không so sánh nó với những tiền thân của nó. Lịch sử không phải là nghiên cứu quá khứ; mà là nghiên cứu sự thay đổi. Lịch sử dạy chúng ta những gì vẫn không thay đổi, những gì thay đổi và cách mà mọi thứ thay đổi. Điều này có ý nghĩa với các cuộc cách mạng thông tin cũng như mọi biến đổi lịch sử khác. Vì vậy, việc hiểu quá trình mà Kinh Thánh, được cho là không thể nào sai, được chính thức hóa sẽ cung cấp cái nhìn quý giá về những tuyên bố hiện nay về sự hoàn hảo của AI. Tương tự, việc nghiên cứu các cuộc săn phù thủy vào đầu thời kỳ hiện đại và chính sách tập thể của Stalin sẽ cảnh báo rõ ràng về những gì có thể sai lầm khi chúng ta trao cho AI quyền kiểm soát lớn hơn đối với các xã hội thế kỷ 21. Một hiểu biết sâu sắc về lịch sử cũng rất quan trọng để hiểu điều gì mới mẻ về AI, nó khác biệt như thế nào so với máy in và đài phát thanh, và cách mà một chế độ độc tài AI có thể rất khác so với bất cứ điều gì chúng ta đã từng chứng kiến.

Cuốn sách không cho rằng việc nghiên cứu quá khứ giúp chúng ta dự đoán tương lai. Như đã được nhấn mạnh nhiều lần trong các trang tiếp theo, lịch sử không phải là một quá trình định mệnh, và tương lai sẽ được hình thành từ những lựa chọn mà chúng ta đưa ra trong những năm sắp tới. Mục đích của việc viết cuốn sách này là nếu chúng ta đưa ra những lựa chọn thông minh, chúng ta có thể ngăn chặn những kết quả tồi tệ nhất. Nếu chúng ta không thể thay đổi tương lai, tại sao phải lãng phí thời gian để thảo luận về nó?

Dựa trên khảo sát lịch sử ở phần 1, phần thứ hai của cuốn sách—“Mạng lưới Vô cơ”—xem xét mạng lưới thông tin mới mà chúng ta đang tạo ra ngày nay, với trọng tâm là những tác động chính trị từ sự trỗi dậy của AI. Các chương 6–8 bàn về những ví dụ gần đây từ khắp nơi trên thế giới—như vai trò của các thuật toán mạng xã hội trong việc kích động bạo lực sắc tộc ở Myanmar trong năm 2016–17—để giải thích AI khác biệt như thế nào so với tất cả các công nghệ thông tin trước đây. Các ví dụ chủ yếu được lấy từ những năm 2010 thay vì những năm 2020, vì chúng ta đã có một cái nhìn lịch sử nhất định về các sự kiện của thập kỷ 2010.

Phần 2 cho rằng chúng ta đang tạo ra một loại mạng lưới thông tin hoàn toàn mới mà không dừng lại để tính toán những hệ quả của nó. Phần này nhấn mạnh sự chuyển mình từ mạng lưới thông tin hữu cơ sang vô cơ. Đế chế La Mã, Giáo hội Công giáo và Liên Xô đều phụ thuộc vào bộ não có gốc carbon để xử lý thông tin và đưa ra quyết định. Những chiếc máy tính gốc silicon chi phối mạng lưới thông tin mới hoạt động theo những cách hoàn toàn khác. Dù tốt hay xấu, các con chip silicon không bị hạn chế bởi nhiều yếu tố mà sinh học hữu cơ áp đặt lên các tế bào thần kinh carbon. Các con chip silicon có thể tạo ra những điệp viên không bao giờ ngủ, những nhà tài chính không bao giờ quên và những nhà độc tài không bao giờ chết. Điều này sẽ thay đổi xã hội, nền kinh tế và chính trị như thế nào?

Phần ba và cũng là phần cuối của cuốn sách—“Chính trị Máy tính”—xem xét các loại xã hội khác nhau có thể đối mặt với các mối đe dọa và hứa hẹn của mạng lưới thông tin vô cơ. Liệu những sinh vật sống có gốc carbon như chúng ta có cơ hội hiểu và kiểm soát mạng lưới thông tin mới này không? Như đã nói ở trên, lịch sử không phải là một quá trình định mệnh, và ít nhất trong vài năm nữa, chúng ta—loài người—vẫn có quyền lực để hình thành tương lai của mình.

Vì vậy, chương 9 khám phá cách mà các nền dân chủ có thể đối phó với mạng lưới vô cơ. Ví dụ, làm sao các chính trị gia bằng xương bằng thịt có thể đưa ra các quyết định tài chính nếu hệ thống tài chính ngày càng được kiểm soát bởi AI và chính ý nghĩa của tiền lại phụ thuộc vào các thuật toán khó hiểu? Làm sao các nền dân chủ có thể duy trì một cuộc đối thoại công cộng về bất kỳ vấn đề gì—dù là tài chính hay giới tính—nếu chúng ta không thể biết liệu chúng ta đang nói chuyện với một con người hay với một chatbot giả mạo con người?

Chương 10 khám phá tác động tiềm tàng của mạng lưới vô cơ đối với chế độ chuyên chế. Mặc dù các nhà độc tài sẽ rất vui mừng khi loại bỏ tất cả các cuộc trò chuyện công khai, họ cũng có những nỗi sợ riêng về AI. Các chế độ độc tài dựa trên việc khủng bố và kiểm duyệt chính các đại diện của mình. Nhưng làm sao một nhà độc tài có thể khủng bố một AI, kiểm duyệt các quá trình không thể hiểu được của nó, hoặc ngăn cản nó chiếm quyền lực cho chính mình?

Cuối cùng, chương 11 khám phá cách mà mạng lưới thông tin mới có thể ảnh hưởng đến sự cân bằng quyền lực giữa các xã hội dân chủ và chế độ chuyên chế trên quy mô toàn cầu. Liệu AI có làm nghiêng cán cân nghiêm trọng về một bên? Liệu thế giới có chia thành các khối thù địch mà sự đối đầu giữa chúng khiến tất cả chúng ta trở thành miếng mồi dễ dàng cho một AI ngoài tầm kiểm soát? Hay chúng ta có thể đoàn kết để bảo vệ lợi ích chung của mình?

Nhưng trước khi khám phá quá khứ, hiện tại và những tương lai có thể có của các mạng lưới thông tin, chúng ta cần bắt đầu với một câu hỏi tưởng chừng như đơn giản: Thực chất thông tin là gì?

Chú thích (mình để nguyên gốc tiếng Anh cho ai muốn tìm hiểu thêm)

1. Sean McMeekin, Stalin’s War: A New History of World War II (New York: Basic Books, 2021).
2. “Reagan Urges ‘Risk’ on Gorbachev: Soviet Leader May Be Only Hope for Change, He Says,” Los Angeles Times, June 13, 1989, www.latimes.com/archives/la-xpm-1989-06-13-mn-2300-story.html.
3. White House, “Remarks by President Barack Obama at Town Hall Meeting with Future Chinese Leaders,” Office of the Press Secretary, Nov. 16, 2009, obamawhitehouse.archives.gov/the-press-office/remarks-president-barack-obama-town-hall-meeting-with-future-chinese-leaders.
4. Quoted in Evgeny Morozov, The Net Delusion: The Dark Side of Internet Freedom (New York: Public Affairs, 2012).
5. Quoted in Christian Fuchs, “An Alternative View of Privacy on Facebook,” Information 2, no. 1 (2011): 140–65.
6. Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI (London: The Bodley Head, 2024), 121–23.
7. Sigrid Damm, Cornelia Goethe (Berlin: Insel, 1988), 17–18; Dagmar von Gersdorff, Goethes Mutter (Stuttgart: Hermann Bohlaus Nachfolger Weimar, 2004); Johann Wolfgang von Goethe, Goethes Leben von Tag zu Tag: Eine dokumentarische Chronik (Dusseldorf: Artemis, 1982), 1:1749–75.
8. Stephan Oswald, Im Schatten des Vaters. August von Goethe (Munich: C. H. Beck, 2023); Rainer Holm-Hadulla, Goethe’s Path to Creativity: A Psycho-biography of the Eminent Politician, Scientist, and Poet (New York: Routledge, 2018); Lisbet Koerner, “Goethe’s Botany: Lessons of a Feminine Science,” History of Science Society 84, no. 3 (1993): 470–95; Alvin Zipursky, Vinod K. Bhutani, and Isaac Odame, “Rhesus Disease: A Global Prevention Strategy,” Lancet Child and Adolescent Health 2, no. 7 (2018): 536–42; John Queenan, “Overview: The Fetus as a Patient: The Origin of the Specialty,” in Fetal Research and Applications: A Conference Summary (Washington, D.C.: National Academies Press, 1994), accessed Jan. 4, 2024, www.ncbi.nlm.nih.gov/books/NBK231999/.
9. John Knodel, “Two and a Half Centuries of Demographic History in a Bavarian Village,” Population Studies 24, no. 3 (1970): 353–76.
10. Saloni Dattani et al., “Child and Infant Mortality,” Our World in Data, 2023, accessed Jan. 3, 2024, ourworldindata.org/​child-mortality#mortality-in-the-past-around-half-died-as-children.
11. Ibid.
12. “Most Recent Stillbirth, Child, and Adolescent Mortality Estimates,” UN Inter-agency Group for Child Mortality Estimation, accessed Jan. 3, 2024, childmortality.org/​data/​Germany.
13. According to one estimate, the Library of Alexandria contained about 100 billion bits of information, or 12.5 gigabytes. See Douglas S. Robertson, “The Information Revolution,” Communication Research 17, no. 2 (1990): 235–54. By 2020, the average Android phone had a capacity of about 96 gigabytes. See Brady Wang, “Average Smartphone NAND Flash Capacity Crossed 100GB in 2020,” Counterpoint Research, March 30, 2021, www.counterpointresearch.com/​average-smartphone-nand-flash-capacity-crossed-100gb-2020/.
14. Marc Andreessen, “Why AI Will Save the World,” Andreessen Horowitz, June 6, 2023, a16z.com/​ai-will-save-the-world/.
15. Ray Kurzweil, The Singularity Is Nearer, 285.
16. Andy McKenzie, “Transcript of Sam Altman’s Interview Touching on AI Safety,” LessWrong, Jan. 21, 2023, www.lesswrong.com/​posts/​PTzsEQXkCfig9A6AS/​transcript-of-sam-altman-s-interview-touching-on-ai-safety; Ian Hogarth, “We Must Slow Down the Race to God-Like AI,” Financial Times, April 13, 2023, www.ft.com/​content/​03895dc4-a3b7-481e-95cc-336a524f2ac2; “Pause Giant AI Experiments: An Open Letter,” Future of Life Institute, March 22, 2023, futureoflife.org/​open-letter/​pause-giant-ai-experiments/; Cade Metz, “ ‘The Godfather of AI’ Quits Google and Warns of Danger,” New York Times, May 1, 2023, www.nytimes.com/​2023/​05/​01/​technology/​ai-google-chatbot-engineer-quits-hinton.html; Mustafa Suleyman, The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma, with Michael Bhaskar (New York: Crown, 2023); Walter Isaacson, Elon Musk (London: Simon & Schuster, 2023).
17. Yoshua Bengio et al., “Managing Extreme AI Risks Amid Rapid Progress,” Science (May 2024): Article eadn0117.
18. Katja Grace et al., “Thousands of AI Authors on the Future of AI” (preprint, submitted in 2024), https://arxiv.org/​abs/​2401.02843.
19. “The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023,” Gov.UK, Nov. 1, 2023, www.gov.uk/​government/​publications/​ai-safety-summit-2023-the-bletchley-declaration/​the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.
20. Jan-Werner Müller, What Is Populism? (Philadelphia: University of Pennsylvania Press, 2016).
21. In Plato’s Republic, Thrasymachus, Glaucon, and Adeimantus argue that everyone—and most notably politicians, judges, and civil servants—is interested only in their personal privileges and dissimulates and lies to that end. They challenge Socrates to refute the claims that “appearance tyrannizes over truth” and that “justice is nothing else than the interest of the stronger.” Similar views were discussed, and occasionally supported, in the Hindu classic the Arthashastra; in the writings of Legalist thinkers in ancient China such as Han Fei and Shang Yang; and in the writing of early modern European thinkers like Machiavelli and Hobbes. See Roger Boesche, The First Great Political Realist: Kautilya and His “Arthashastra” (Lanham, Md.: Lexington Books, 2002); Shang Yang, The Book of Lord Shang: Apologetics of State Power in Early China, trans. Yuri Pines (New York: Columbia University Press, 2017); Zhengyuan Fu, China’s Legalists: The Earliest Totalitarians and Their Art of Ruling (New York: Routledge, 2015).
22. Ulises A. Mejias and Nick Couldry, Data Grab: The New Colonialism of Big Tech and How to Fight Back (London: Ebury, 2024); Michel Foucault, The Birth of the Clinic: An Archaeology of Medical Perception (New York: Vintage Books, 1975); Michel Foucault, The History of Sexuality (New York: Vintage Books, 1990); Edward W. Said, Orientalism (New York: Vintage Books, 1994); Aníbal Quijano, “Coloniality and Modernity/Rationality,” Cultural Studies 21, no. 2–3 (2007): 168–78; Sylvia Wynter, “Unsettling the Coloniality of Being-Power-Truth-Freedom Toward the Human, After Man, Its Overrepresentation—an Argument,” New Centennial Review 3, no. 3 (2003): 257–337. For in-depth discussion, see Francis Fukuyama, Liberalism and Its Discontents (London: Profile Books, 2022).
23. Donald J. Trump, Inaugural Address, Jan. 20, 2017, American Presidency Project, www.presidency.ucsb.edu/​node/​320188.
24. Cas Mudde, “The Populist Zeitgeist,” Government and Opposition 39, no. 3 (2004): 541–63.
25. Sedona Chinn and Ariel Hasell, “Support for ‘Doing Your Own Research’ Is Associated with COVID-19 Misperceptions and Scientific Mistrust,” Misinformation Review, June 12, 2023, misinforeview.hks.harvard.edu/​article/​support-for-doing-your-own-research-is-associated-with-covid-19-misperceptions-and-scientific-mistrust/.
26. See, for example, “God’s Enclosed Flat Earth Investigation—Full Documentary [HD],” YouTube, www.youtube.com/​watch?v=J6CPrGHpmMs, cited in “Disinformation and Echo Chambers: How Disinformation Circulates on Social Media Through Identity-Driven Controversies,” Journal of Public Policy and Marketing 42, no. 1 (2023): 18–35.
27. See, for example, David Klepper, “Trump Arrest Prompts Jesus Comparisons: ‘Spiritual Warfare,’ ” Associated Press, April 6, 2023, apnews.com/​article/​donald-trump-arraignment-jesus-christ-conspiracy-theory-670c45bd71b3466dcd6e8e188badcd1d; Katy Watson, “Brazil Election: ‘We’ll Vote for Bolsonaro Because He Is God,’ ” BBC, Sept. 28, 2022, www.bbc.com/​news/​world-latin-america-62929581.
28. Oliver Hahl, Minjae Kim, and Ezra W. Zuckerman Sivan, “The Authentic Appeal of the Lying Demagogue: Proclaiming the Deeper Truth About Political Illegitimacy,” American Sociological Review 83, no. 1 (2018): 1–33.