Hàng loạt các cuộc tranh luận về tương lai của AGI sôi nổi trên nhiều diễn đàn thời gian qua. Điểm chung trong các cuộc tranh luận là một giả định đang ngày càng được nhắc đến nhiều hơn: AGI có thể xuất hiện trong vài năm tới, sau đó mở đường cho những hệ thống có khả năng tự cải thiện và tạo ra các thế hệ máy móc ngày càng thông minh.

Kịch bản ấy có thể đưa nhân loại đến thời đại của “siêu trí tuệ”, nơi máy móc sở hữu năng lực vượt xa con người trong nhiều lĩnh vực, thậm chí có khả năng tự đặt mục tiêu và tham gia định hình tương lai.

Daniel Faggella, nhà nghiên cứu AI chủ trì hai cuộc thảo luận, đưa ra một giả định gây tranh luận: mục tiêu cuối cùng của nhân loại có thể là tạo ra một “người kế vị” đủ năng lực và có nền tảng đạo đức để tiếp quản việc định hướng tương lai của sự sống.

Đó là một ý tưởng từng thuộc về khoa học viễn tưởng. Giờ đây, nó xuất hiện ngày càng thường xuyên trong các cuộc thảo luận của giới công nghệ.

Demis Hassabis, đồng sáng lập Google DeepMind, gần đây gọi thời điểm hiện tại là “một thời khắc bản lề”. Ông cho rằng AGI đang đến gần và chuyển sang một vai trò mới tại Alphabet để tập trung vào chiến lược dài hạn, nghiên cứu khoa học và mục tiêu phát triển AGI.

Elon Musk cũng dự báo AI có thể vượt tổng trí tuệ của con người trong khoảng 5 năm tới, đồng thời cảnh báo siêu trí tuệ có thể tạo ra những hệ thống mất kiểm soát và gây rủi ro hiện hữu cho nhân loại.

Hai dự báo này phản ánh một nghịch lý ngày càng rõ trong cuộc đua AI. Những người phát triển công nghệ tin rằng AI có thể mở ra một thời kỳ thịnh vượng chưa từng có, đồng thời chính họ cũng cảnh báo công nghệ này có thể tạo ra rủi ro lớn nhất mà nhân loại từng đối mặt.

Vấn đề nằm ở chỗ xã hội đang được yêu cầu chuẩn bị cho một tương lai có thể thay đổi hoàn toàn cách con người sống và làm việc, trong khi quyền quyết định tương lai đó vẫn tập trung chủ yếu tại các phòng thí nghiệm công nghệ.

Một số công ty hành động như thể AGI gần như chắc chắn xuất hiện, siêu trí tuệ sẽ tiếp nối và xã hội rồi sẽ phải thích nghi. Nhưng một công nghệ có khả năng tác động tới toàn nhân loại không thể được định hướng chỉ bởi những người sở hữu các phòng thí nghiệm AI lớn nhất.

Công chúng chưa được hỏi đầy đủ họ muốn tương lai ấy trông như thế nào. Các nghị viện chưa thống nhất những giới hạn cần đặt ra. Các thể chế xã hội cũng chưa có đồng thuận về tiêu chuẩn của một hệ thống AI an toàn, có trách nhiệm và phù hợp với lợi ích chung.

Trong lúc đó, những quyết định liên quan đến việc làm, giáo dục, quyền riêng tư, an ninh và phân bổ quyền lực vẫn được đưa ra mỗi ngày.

Phản ứng ngày càng mạnh của công chúng đối với các công ty công nghệ vì thế dễ hiểu. Người lao động đã nhìn thấy AI tác động tới công việc, doanh nghiệp thay đổi cách vận hành, dữ liệu cá nhân trở thành nguồn lực cho các mô hình mới. Những lo ngại đó chưa được giải quyết đầy đủ, trong khi lời hứa về một tương lai hậu nhân loại ngày càng lớn.

Ngay cả khả năng AGI xuất hiện trong vài năm tới cũng chưa phải điều đã được chứng minh.

AI Now Institute từng chỉ trích mạnh những tuyên bố xoay quanh AGI, cho rằng khái niệm này được định nghĩa quá lỏng lẻo và thiếu một tiêu chuẩn thống nhất. Các hệ thống AI hiện nay có năng lực rất không đồng đều. Chúng có thể vượt con người trong một số nhiệm vụ phức tạp, đồng thời vẫn mắc lỗi ở những việc đơn giản.

Không phải mọi nhà nghiên cứu đều tin rằng việc tiếp tục mở rộng các mô hình ngôn ngữ lớn như ChatGPT hay Claude chắc chắn dẫn tới AGI. Khoảng cách giữa những hệ thống hiện nay và một trí tuệ có năng lực tổng quát vẫn là chủ đề gây tranh luận.

Những tuyên bố về triển vọng và nguy cơ của AGI vì thế cần được nhìn nhận thận trọng. Một phần sự cường điệu có thể phục vụ mục tiêu thu hút vốn đầu tư, nhân tài và vị thế trong cuộc đua AI.

Nhưng nghi ngờ về thời điểm AGI xuất hiện không đồng nghĩa với việc có thể bỏ qua rủi ro. Chính sự không chắc chắn càng khiến xã hội cần tham gia nhiều hơn vào cuộc tranh luận, với tiếng nói của các nhà khoa học xã hội, kinh tế, luật gia, chuyên gia đạo đức, công đoàn và các tổ chức dân sự.

Nếu các phòng thí nghiệm AI vừa định nghĩa AGI, vừa tự đánh giá mức độ an toàn và tự quyết định thời điểm triển khai, xã hội sẽ rất dễ trở thành người quan sát trong một quá trình có ảnh hưởng trực tiếp tới chính mình.

Mark Zuckerberg gần đây đưa ra một cách tiếp cận khác. Trong một bài luận về tương lai AI, ông cho rằng siêu trí tuệ nên được phân bổ rộng rãi cho các cá nhân, thay vì tập trung trong tay một số ít chính phủ, doanh nghiệp hoặc tổ chức lớn. Ông gọi ý tưởng này là “siêu trí tuệ cá nhân”.

Lập luận này có sức hấp dẫn nhất định. Một hệ thống AI cực mạnh chỉ thuộc về một nhóm nhỏ có thể làm quyền lực kinh tế và chính trị tập trung hơn nhiều. Ngược lại, việc phổ biến các công cụ AI mạnh có thể giúp nhiều người nâng cao năng lực học tập, nghiên cứu, sáng tạo và làm việc.

Nhưng quyền sử dụng công cụ không đồng nghĩa với quyền kiểm soát công nghệ. Một người có thể dùng AI để viết, phân tích hoặc tạo sản phẩm, nhưng không có quyền quyết định dữ liệu nào được dùng để huấn luyện mô hình, thuật toán theo đuổi mục tiêu gì, hệ thống ảnh hưởng tới người lao động ra sao hay ai chịu trách nhiệm khi AI gây thiệt hại.

Quyền lực của người dân vì thế phải được thể hiện trong cách AI được quản trị. Các tổ chức dân sự cần có tiếng nói trong giám sát công nghệ, chính trị gia phải chịu trách nhiệm trước cử tri về chính sách AI, công đoàn cần tham gia xây dựng quy tắc liên quan đến việc làm và cơ quan quản lý phải đủ năng lực đánh giá, kiểm toán những hệ thống có rủi ro cao.

Các công ty AI cũng cần hợp tác với những thể chế này để duy trì niềm tin xã hội. Một doanh nghiệp tuyên bố đang xây dựng công nghệ có thể định hình tương lai nhân loại không thể đồng thời yêu cầu xã hội đứng ngoài cuộc khi những quyết định ấy được đưa ra.

AI có thể mang lại lợi ích rất lớn. Công nghệ này có khả năng đẩy nhanh nghiên cứu khoa học, hỗ trợ y tế, cải thiện giáo dục và mở rộng năng lực sáng tạo của con người. Nhưng phần lớn lợi ích đó vẫn thuộc về tương lai, trong khi những tác động đã xuất hiện từ hôm nay.

Việc làm đang thay đổi, dữ liệu cá nhân được khai thác với quy mô lớn, nhu cầu năng lượng của các trung tâm dữ liệu tăng nhanh và quyền lực công nghệ ngày càng tập trung vào một số doanh nghiệp.

Vì vậy, nhân loại không thể ngồi ở băng ghế sau của chuyến tàu AGI, chờ các công ty công nghệ quyết định điểm đến. Một hành trình có thể thay đổi tương lai của cả xã hội cần nhiều người tham gia xác định hướng đi, tốc độ và những giới hạn an toàn.

AGI có thể mở ra một thời đại mới. Nhưng để tương lai ấy vẫn thuộc về con người, con người phải có quyền quyết định công nghệ được xây dựng như thế nào, phục vụ ai và chịu những giới hạn nào.

Chuyến tàu AGI có thể đang tăng tốc và nhân loại không thể chỉ là hành khách trên đó.