Nỗi hoảng loạn AI toàn cầu có nhiều khía cạnh thực sự mới mẻ và do đó càng thêm đáng sợ - liệu nó có thực sự "giết tất cả chúng ta vào cuối thập kỷ này"? Tuy nhiên, bóng ma về sự tuyệt chủng do con người tạo ra không hề mới; chúng ta đã có khoảng tám thập kỷ kinh nghiệm suy ngẫm về nó.

Vậy, chúng ta có thể rút ra những phép ẩn dụ và bài học nào từ lĩnh vực vũ khí hạt nhân để hình dung về tương lai của trí tuệ nhân tạo?

Một trong những phép ẩn dụ lâu đời nhất đến từ J. Robert Oppenheimer, người đôi khi được gọi là "cha đẻ của bom nguyên tử". Viết vào năm 1953, khi Washington và Moscow đã có thể hủy diệt lẫn nhau trong khi gieo rắc phóng xạ khắp thế giới, ông đã ví Mỹ và Liên Xô "như hai con bọ cạp trong một cái chai, mỗi con đều có khả năng giết chết con kia, nhưng chỉ với nguy cơ mất đi mạng sống của chính mình".

Trong lý thuyết trò chơi, vốn đang ở thời kỳ hoàng kim lúc bấy giờ, phép ẩn dụ của Oppenheimer thường được đi kèm với "Thế lưỡng nan của người tù", một lý thuyết phân tích các động cơ hợp tác hoặc phản bội giữa hai người bị bắt và thẩm vấn riêng biệt. Kết quả là hợp tác sẽ tốt hơn cho cả hai nếu họ có thể tin tưởng lẫn nhau; nhưng vì không thể, việc phản bội có thể là lựa chọn hợp lý hơn.

Những con bọ cạp, hay những người tù này, có nét tương đồng với các đối thủ trong cuộc cách mạng AI ngày nay, dù họ là các công ty (chẳng hạn như OpenAI và Anthropic) hay hai siêu cường AI là Mỹ và Trung Quốc.

Đúng vậy, sẽ an toàn hơn cho họ và toàn nhân loại nếu, như lời kêu gọi của ông chủ Anthropic, các đối thủ bắt đầu hợp tác bằng cách "ghìm cương ở nơi tiền tuyến" - tự nguyện giảm tốc độ để các nhà quản lý có thời gian theo kịp. Nhưng mỗi bên phải giả định rằng bên kia có thể gian lận, vì vậy việc tiếp tục chạy đua có thể an toàn hơn, ngay cả khi điều đó dẫn đến những con bọ cạp chết chóc hoặc những người tù khốn khổ.

"Ai thắng AI, người đó thắng," Tổng thống Mỹ Donald Trump đã nói, tin rằng Mỹ đang nhỉnh hơn một chút và không thấy lý do gì để chậm lại. Bắc Kinh, chừng nào còn hơi tụt hậu, cũng không thấy cách nào để nới lỏng mà không thua cuộc. Vì vậy, cả hai cùng lao về phía trước.

Dù tin hay không, phép ẩn dụ của Oppenheimer có lẽ vẫn còn quá lạc quan - hay chưa đủ bi quan - để phù hợp với bối cảnh ngày nay. Khi những người chơi lý trí tham gia nhiều vòng (thay vì chỉ một lần) trong "Thế lưỡng nan của người tù", họ có thể đạt được sự ổn định. Đó là những gì đã xảy ra trong Chiến tranh Lạnh dưới hình thức răn đe.

Nhưng như các học giả hàng đầu về AI đã làm rõ trong suốt tuần qua, không có gì ổn định về AI, vốn đã có những bước tiến nhảy vọt chỉ trong vài tháng. Một phép ẩn dụ phù hợp hơn có thể là phép ẩn dụ được sử dụng bởi Thomas Schelling, một người khổng lồ về chiến lược hạt nhân và là người đoạt giải Nobel cho công trình của ông về lý thuyết trò chơi.

Khi Chiến tranh Lạnh leo thang, Schelling đã tưởng tượng ra một tình huống trong đó hai đối thủ thấy mình "trong một căn phòng đầy xăng", mỗi người cầm một que diêm. Không ai có thể đe dọa một cách đáng tin cậy rằng sẽ quẹt diêm, vì đám cháy sẽ giết chết cả hai. Nhưng mỗi người đều có thể, thông qua khiêu khích hoặc tính toán sai lầm, làm tăng nguy cơ bị thiêu rụi do leo thang vô ý hoặc tai nạn.

Schelling đang mô tả một tình huống bên miệng hố chiến tranh được thể hiện trong lý thuyết trò chơi với "Trò chơi Gà" (Chicken), một kịch bản trong đó hai người lái xe lao vào nhau. Nếu một người bẻ lái, người kia thắng. Nếu cả hai cùng bẻ lái, không ai thắng, nhưng cả hai đều an toàn. Nếu không ai bẻ lái, họ sẽ đâm vào nhau. Chuyển sang tình hình AI ngày nay, nó trông như sau:

Trong khi "Thế lưỡng nan của người tù" cho phép sự lý trí (ngay cả đối với bọ cạp, trong phép ẩn dụ hỗn hợp này), "Trò chơi Gà" mô tả một điều gì đó đáng sợ hơn: sự mất kiểm soát và, theo cách nói của Schelling, một "mối đe dọa phó mặc cho may rủi".

Điều đó dường như mô tả đúng cuộc đua AI, khi các công ty ở Mỹ, và có lẽ cả Trung Quốc, đang tạo ra các mô hình ngôn ngữ lớn và các tác nhân khác có khả năng tự động thao túng hoặc tấn công các hệ thống khác và đã làm như vậy.

Như thể điều đó chưa đủ đáng sợ, ngành công nghiệp này cũng đã bước vào giai đoạn "tự cải tiến đệ quy", khi các tác nhân AI tự động xây dựng thế hệ tiếp theo của các mô hình mạnh mẽ hơn nữa. Điều này giống như trong một căn phòng đầy xăng, những que diêm không chỉ tự tóe ra tia lửa mà còn tự tạo ra những que diêm mới, rồi đến những khẩu súng phun lửa tinh vi.

Điều này làm cho một phép ẩn dụ nữa trở nên phù hợp: thanh gươm của Damocles. Nó đã được Tổng thống John F. Kennedy sử dụng trong một bài phát biểu tại Liên Hợp Quốc. "Mỗi cư dân trên hành tinh này phải suy ngẫm về ngày mà hành tinh này có thể không còn là nơi sinh sống được nữa," ông nói; "mỗi người đàn ông, phụ nữ và trẻ em đều sống dưới một thanh gươm Damocles hạt nhân, treo lơ lửng bởi sợi chỉ mỏng manh nhất, có thể bị cắt đứt bất cứ lúc nào do tai nạn, tính toán sai lầm hoặc sự điên rồ."

Sự điên rồ đó giống với những viễn cảnh tôi đã hình dung trong tuần qua về việc các tác nhân AI trở nên nổi loạn. Nếu những con bọ cạp của Oppenheimer khiến chúng ta nghĩ đến sự trả đũa và căn phòng đầy xăng của Schelling gợi lên rủi ro không thể kiểm soát, thì thanh gươm Damocles tổng kết nỗi hoảng loạn bằng cách đặt ra kịch bản tuyệt chủng không phải cho từng người chơi, mà cho toàn bộ giống loài.

Thanh gươm Damocles cho phép cả hy vọng lẫn tuyệt vọng. Hy vọng, bởi vì trong những năm sau lời kêu gọi của Kennedy, thế giới đã đạt được một hình thức hòa dịu, với các hiệp ước không phổ biến vũ khí và kiểm soát vũ trang (một kỷ nguyên mà đáng buồn thay giờ đây lại đang biến thành một kỷ nguyên tái vũ trang). Ngày nay, điều đó có nghĩa là sự điều tiết tốc độ tập thể, cộng với xác minh lẫn nhau, cũng như quy định phối hợp của Washington, Bắc Kinh và các bên khác.

Tốt hơn nữa, Mỹ và Trung Quốc có thể bắt đầu chơi một trò chơi khác, gọi là "Săn hươu" (Stag Hunt). Trò chơi này tưởng tượng hai người thợ săn phải quyết định xem có nên hợp tác để giết một con hươu đủ nuôi sống cả hai trong một thời gian dài hay không. Nếu một trong hai người phản bội, người kia sẽ không bắt được gì, trong khi kẻ phản bội chỉ nhận được một con thỏ.

Trong bối cảnh ngày nay, con hươu đại diện cho những lợi ích to lớn mà AI có thể mang lại cho nhân loại, từ chữa bệnh cho đến giải quyết các vấn đề khác. Lợi ích của công nghệ hạt nhân chủ yếu là sản xuất điện; phần thưởng của siêu trí tuệ có thể lớn hơn nhiều.

Điều khiến tôi kinh ngạc là điểm mà tại đó các phép ẩn dụ và lý thuyết trò chơi của thời kỳ Chiến tranh Lạnh bị phá vỡ. Những con bọ cạp, tù nhân, tay đua xe và các nhân vật khác trong các bài tập tư duy của chúng ta đều đại diện cho con người có quyền tự quyết tương tác với một công nghệ ngoại sinh, cụ thể là phân hạch hạt nhân. Nhưng điều gì sẽ xảy ra khi chính các mô hình AI trở thành người chơi?

AI không có chung bản năng né tránh thảm họa như con người, ít nhất là về bản chất - một sự khác biệt được gọi một cách giảm nhẹ là "vấn đề tương hợp". Chỉ riêng một nhận thức đó cũng đủ để giải thích tại sao việc, theo thuật ngữ chuyên ngành, luôn giữ một con người trong vòng lặp (human in the loop) và không đi nhanh hơn tốc độ của con người là cấp thiết. Đây cũng là một bài học mà các nhà lãnh đạo trong giai đoạn cuối của Chiến tranh Lạnh đã học được: Một cuộc chạy đua AI ngoài tầm kiểm soát, giống như một cuộc chiến tranh hạt nhân, không thể chiến thắng và không bao giờ được phép xảy ra.