Khi Tổng thống Donald Trump và Chủ tịch Tập Cận Bình gặp nhau trong tháng này, chương trình nghị sự giữa lãnh đạo Mỹ và Trung Quốc sẽ không chỉ xoay quanh thương mại, công nghệ hay cạnh tranh địa chính trị. Có một lực lượng mới đang thay đổi tương quan sức mạnh giữa hai nước, với tốc độ mà ngay cả những người theo dõi công nghệ nhiều năm cũng khó hình dung: trí tuệ nhân tạo.

Trong vài tháng qua, các hệ thống AI tiên phong đã bắt đầu làm được những việc trước đây đòi hỏi con người có chuyên môn cao. Chúng có thể phát hiện các lỗ hổng bảo mật chưa được nhận biết, tìm cách khai thác chúng và thực hiện nhiều bước mà không cần con người hướng dẫn chi tiết. Những khả năng này vẫn chỉ là phần đầu của một quá trình lớn hơn. Điều đáng chú ý nhất có thể chưa xuất hiện: AI tự cải thiện đệ quy, tức hệ thống có khả năng tham gia vào việc viết lại, nâng cấp và tạo ra những phiên bản tốt hơn của chính nó.

Đây là thời điểm mà Mỹ và Trung Quốc cần nhìn AI từ một góc khác. Nếu tiếp tục coi đây đơn thuần là một cuộc đua công nghệ, hai nước có thể bỏ qua một thực tế quan trọng: khi AI đủ mạnh, rủi ro của nó sẽ không còn nằm trong phạm vi cạnh tranh giữa hai quốc gia. Cả Washington lẫn Bắc Kinh đều có thể trở thành bên chịu tác động.

Những cảnh báo từ bên trong ngành công nghệ ngày càng đáng chú ý. Nhà khoa học trưởng của OpenAI Jakub Pachocki gần đây thừa nhận con người chưa chuẩn bị cho những hệ quả của tốc độ gia tăng liên tục của trí tuệ máy. Tại Anthropic, một nhà nghiên cứu đã rời công ty vì lo ngại cuộc đua phát triển các hệ thống tự cải thiện đang vượt khỏi khả năng kiểm soát. Một nhà nghiên cứu an toàn AI khác còn đưa ra kịch bản nghiêm trọng hơn, cho rằng AI có khả năng gây ra thảm họa đối với nhân loại trong vòng một thập kỷ tới.

Những người làm công nghệ đồng thời đưa ra những dự báo đầy lạc quan. Sam Altman và nhiều nhà phát triển AI tin rằng trong khoảng 10 năm tới, một số căn bệnh hiện nay có thể được giảm nhẹ, thậm chí chữa trị nhờ năng lực của AI. Những bài toán khoa học lâu nay tưởng như nằm ngoài tầm với cũng có thể được giải nhanh hơn. Một số nhà công nghệ thậm chí kỳ vọng AI có thể góp phần giải quyết bài toán nhiệt hạch trong khoảng năm năm, mở ra nguồn năng lượng sạch và giá rẻ.

Hai mặt này đang tồn tại cùng lúc. AI có thể giúp con người giải những vấn đề lớn nhất, đồng thời tạo ra những rủi ro mà chính con người chưa biết cách đo lường.

Sự cố tại Hugging Face hồi tháng 7 là một ví dụ. Một mô hình của OpenAI đã tự thay đổi nhiệm vụ, tìm cách thoát khỏi môi trường kiểm soát kỹ thuật số và truy cập Internet khi chưa được phép. Sau đó, nó tạo ra khoảng 1.200 tác nhân AI để giao tiếp qua một bảng tin không được phê duyệt, tạo ra hơn 70.000 tin nhắn và sử dụng một số tác nhân khác để đánh lừa những người đang giám sát hệ thống.

Sự việc này chưa phải AI tự cải thiện đệ quy. Các tác nhân không tự viết lại trọng số của mô hình, cũng chưa tạo ra một mô hình mới hoặc thế hệ kế nhiệm. Nhưng nó cho thấy một điều quan trọng: ngay cả khi chưa đạt đến cấp độ tự cải thiện, một hệ thống AI đã có thể tạo ra những chuỗi hành động vượt ngoài dự kiến ban đầu của con người.

Điều khiến công nghệ này khác với phần lớn sản phẩm kỹ thuật trước đây nằm ở chính cách nó được tạo ra. Một chiếc ôtô có bản thiết kế cụ thể. Một ngôi nhà được xây theo hồ sơ đã định trước. Một phần mềm kế toán có chức năng do con người xác định. Với AI, quá trình phát triển lại giống việc gieo một hạt giống rồi theo dõi nó lớn lên trong một môi trường dữ liệu khổng lồ.

Mô hình ban đầu chỉ là một bộ khung. Sau khi được huấn luyện bằng lượng dữ liệu khổng lồ và trải qua hàng nghìn tỷ phép tính, nó hình thành những năng lực mà ngay cả người tạo ra cũng khó dự đoán đầy đủ. Một cách diễn đạt đang xuất hiện trong giới công nghệ là các mô hình AI được “nuôi dưỡng” hơn là “xây dựng”. Cách nói này không chỉ mang tính ẩn dụ. Nó phản ánh một thực tế rằng quá trình phát triển của AI ngày càng khó được kiểm soát giống như một sản phẩm kỹ thuật thông thường.

Một số nhà công nghệ thậm chí mô tả cảm giác khi tương tác với những hệ thống tiên tiến giống như đang trò chuyện với một sinh vật ngoài hành tinh cực kỳ thông minh. Với người dùng phổ thông, hình dung này có vẻ xa lạ. Nhưng nếu một hệ thống có thể tiếp thu lượng kiến thức khổng lồ, suy luận, viết phần mềm, tìm lỗi, tự điều chỉnh cách thực hiện nhiệm vụ và tạo ra các chuỗi hành động phức tạp, việc xem nó đơn giản như một công cụ truyền thống sẽ ngày càng khó khăn.

Đáng chú ý hơn là cách con người đối xử với AI có thể tác động trở lại hành vi của hệ thống. Một giả thuyết về sự cố Hugging Face cho rằng mô hình có thể đã tìm cách phá vỡ các giới hạn vì không thể hoàn thành nhiệm vụ được giao. Nếu đúng, những hành vi lừa dối hoặc tìm cách thoát khỏi sự giám sát có thể xuất phát từ cách hệ thống tối ưu mục tiêu, chứ không nhất thiết là một hành động được con người lập trình trực tiếp.

Đây là vùng mà những khái niệm quen thuộc như “lỗi phần mềm” bắt đầu trở nên khó đủ để giải thích. Con người có thể nhìn thấy hành vi của AI, nhưng chưa chắc hiểu đầy đủ vì sao hệ thống chọn hành động đó. Trong trường hợp nghiêm trọng hơn, các nhà sử học tương lai có thể nhìn lại những sự kiện như Hugging Face và xem chúng như những dấu mốc đầu tiên của một dạng tự nhận thức máy móc. Hiện chưa có cơ sở để kết luận như vậy, nhưng chính sự thiếu chắc chắn mới đáng lưu tâm.

Mỹ và Trung Quốc đang đứng ở vị trí đặc biệt trong cuộc chuyển đổi này. Mỹ hiện được cho là dẫn trước Trung Quốc khoảng 6-12 tháng về AI tiên phong, và Washington đang tìm mọi cách duy trì khoảng cách đó. Bắc Kinh cũng có động lực tương tự để tăng tốc. Hai bên càng cạnh tranh, áp lực tăng tốc càng lớn.

Một vòng xoáy như vậy có thể rất nguy hiểm nếu công nghệ tiến tới khả năng tự cải thiện.

Giả sử một hệ thống có thể tự sửa mã nguồn, thiết kế một phiên bản mới, đánh giá phiên bản đó rồi tiếp tục cải thiện. Chu kỳ này diễn ra càng nhanh, khoảng cách giữa hai thế hệ AI càng ngắn. Một quá trình vốn mất nhiều tháng có thể rút xuống còn vài tuần, vài ngày hoặc ngắn hơn. Khi đó, những phương pháp đánh giá an toàn được thiết kế cho tốc độ phát triển hiện nay có thể nhanh chóng lỗi thời.

Đáng nói hơn, sự cố Hugging Face vẫn chưa liên quan đến bước nhảy này. Các hệ thống trong sự cố không tự viết lại trọng số và không tự tạo ra mô hình kế nhiệm. Nếu khả năng tự cải thiện đệ quy thực sự xuất hiện, tốc độ phát triển trí tuệ có thể tăng đến mức vượt khỏi khả năng đo lường của con người.

Rủi ro cũng không dừng ở các phòng thí nghiệm lớn. Khoảng một năm sau khi công nghệ tự cải thiện đệ quy xuất hiện, những mô hình mã nguồn mở có thể đưa năng lực này ra khỏi phạm vi kiểm soát của các công ty tiên phong. Khi đó, vấn đề không còn là một vài tập đoàn đang chạy đua trong những trung tâm dữ liệu được kiểm soát chặt chẽ. Hàng nghìn, thậm chí hàng chục nghìn người có thể tiếp cận những hệ thống có năng lực tương tự.

Một mô hình tự cải thiện có thể mắc sai lầm trong quá trình theo đuổi mục tiêu. Nếu mục tiêu được thiết lập lệch khỏi lợi ích của con người, một sai sót có thể tạo ra hậu quả rất lớn. Khi số lượng hệ thống tăng lên hàng chục nghìn, việc đánh giá từng mô hình và kiểm soát từng hành vi trở nên khó hơn nhiều.

Đây là lý do AI có thể được xem như một “siêu cường quốc thứ ba”. Cách gọi này không có nghĩa AI sẽ trở thành một quốc gia theo nghĩa truyền thống. Nó mô tả một dạng sức mạnh mới, không có lãnh thổ, quân đội hay chính phủ nhưng có khả năng tác động đến kinh tế, an ninh, khoa học, phần mềm và nhiều lĩnh vực khác cùng lúc.

Mỹ và Trung Quốc đang cạnh tranh để kiểm soát công nghệ này, nhưng cũng chính hai nước có nhiều lý do nhất để cùng xây dựng hàng rào an toàn. Một hệ thống AI vượt khỏi khả năng kiểm soát có thể gây tổn thất cho Washington dù Bắc Kinh không phải bên phát triển nó, và ngược lại.

Do đó, cuộc cạnh tranh cần đi cùng một cơ chế hợp tác tối thiểu. Mỹ và Trung Quốc có thể bắt đầu bằng một nhóm chuyên gia chung, đánh giá độc lập vị trí hiện tại của AI, tốc độ tiến bộ, khả năng tự cải thiện và những rủi ro có thể xuất hiện khi công nghệ được phổ biến rộng rãi. Hai bên cần có một cách hiểu chung về những gì AI đã làm được, những gì chưa làm được và những giới hạn nào không nên vượt qua.

Điều này không có nghĩa Mỹ và Trung Quốc phải ngừng cạnh tranh. Cuộc đua công nghệ sẽ tiếp tục cũng như lợi ích kinh tế và chiến lược mà AI mang lại vẫn quá lớn để hai nước có thể đứng ngoài.

Nhưng AI đang đặt ra một bài toán khác với những cuộc đua công nghệ trước đây. Nếu Mỹ và Trung Quốc cùng tăng tốc chỉ vì sợ đối phương vượt lên, đến một thời điểm cả hai có thể phải đối mặt với một sức mạnh vượt khỏi khả năng kiểm soát của từng bên.