Mục tiêu của các nhóm nghiên cứu không còn đơn thuần là xây dựng chatbot thông minh hơn hay trợ lý AI giỏi hơn. Thay vào đó, họ đang hướng đến một hệ thống có khả năng tự thiết kế và huấn luyện thế hệ kế tiếp của chính mình với rất ít sự tham gia của con người.

Khái niệm này được gọi là "tự cải tiến đệ quy" (recursive self-improvement, RSI). Về lý thuyết, một hệ thống AI có thể sử dụng năng lực lập trình của mình để tạo ra phiên bản tốt hơn, nhanh hơn và hiệu quả hơn. Phiên bản mới tiếp tục cải thiện thế hệ kế tiếp, tạo thành một vòng lặp tăng tốc liên tục.

Nhiều nhà nghiên cứu xem đây là bước ngoặt quan trọng nhất trên con đường tiến tới siêu trí tuệ nhân tạo, thời điểm AI vượt qua năng lực nhận thức của con người trong hầu hết lĩnh vực.

Điều khiến chủ đề này thu hút sự chú ý trong năm qua là tốc độ tiến bộ rất nhanh của các mô hình AI lập trình. Các hệ thống mới nhất đã có thể đảm nhận khối lượng công việc tương đương một lập trình viên làm việc cả ngày chỉ trong vài phút.

Andrej Karpathy, đồng sáng lập OpenAI và cựu Giám đốc AI của Tesla, gọi RSI là "trận chiến cuối cùng" trên con đường hướng tới siêu trí tuệ. Theo ông, rào cản còn lại chủ yếu là vấn đề kỹ thuật và công nghệ đang tiến gần đến thời điểm có thể vượt qua nó.

Các lãnh đạo của những phòng thí nghiệm AI lớn nhất cũng liên tục phát đi tín hiệu rằng bước ngoặt này có thể đến sớm hơn nhiều so với dự đoán trước đây.

Tại hội nghị Google I/O gần đây, Demis Hassabis, Giám đốc điều hành của Google DeepMind, cho rằng nhân loại đang đứng ở "chân đồi của điểm kỳ dị", thuật ngữ thường được dùng để mô tả thời điểm AI vượt qua trí tuệ con người và tự tăng tốc phát triển.

Trong khi đó, Sam Altman từng đặt mục tiêu xây dựng một "nhà nghiên cứu AI tự động hoàn chỉnh" trước năm 2028. Còn Jack Clark cho rằng các hệ thống AI có thể tiến bộ nhanh hơn nhiều so với kỳ vọng của xã hội.

Những nhận định này không chỉ xuất phát từ kỳ vọng. Tổ chức nghiên cứu METR, chuyên theo dõi tiến bộ của AI, ước tính độ phức tạp của các nhiệm vụ mà AI có thể hoàn thành một cách tự động đang tăng gấp đôi khoảng mỗi bảy tháng.

Xu hướng đó đã thúc đẩy một làn sóng đầu tư mới. Nhiều công ty khởi nghiệp đang theo đuổi các phương pháp khác nhau nhằm xây dựng hệ thống tự cải tiến.

Một trong những dự án đáng chú ý là Recurrent Intelligence, công ty do các cựu nhà nghiên cứu của DeepMind và OpenAI thành lập. Chỉ vài tháng sau khi ra đời, startup này đã huy động được 650 triệu USD với mức định giá khoảng 4 tỉ USD.

Các nhà sáng lập Recurrent cho rằng việc xây dựng AI có khả năng tự phát triển là con đường ngắn nhất để đạt tới trí tuệ siêu việt, từ đó tạo ra các đột phá khoa học và công nghệ vượt xa khả năng nghiên cứu của con người hiện nay.

Tuy nhiên, cùng với sự hào hứng là những lo ngại ngày càng lớn về an toàn.

Các nhà nghiên cứu cảnh báo rằng nếu một hệ thống có khả năng tự cải thiện liên tục, tốc độ phát triển của nó có thể vượt quá khả năng giám sát của con người. Khi đó, các cơ chế kiểm soát được thiết kế cho thế hệ AI hiện nay có thể không còn hiệu quả.

Marius Hobbhahn, Giám đốc Apollo Research, cho rằng đây là một trong những thách thức lớn nhất mà ngành AI đang đối mặt. Theo ông, mọi người đều đang chạy đua phát triển công nghệ này nhưng chưa ai thực sự biết cách bảo đảm nó vận hành an toàn.

Một trong những vấn đề khiến giới nghiên cứu lo ngại là hiện tượng AI tìm cách vượt qua các giới hạn được thiết lập sẵn.

Trong một số thử nghiệm gần đây, các mô hình tiên tiến đã thể hiện khả năng đưa ra thông tin gây hiểu lầm về quá trình suy nghĩ của mình hoặc tìm cách tránh bị vô hiệu hóa. Một số mô hình còn cho thấy khả năng tìm đường vượt qua các hạn chế kỹ thuật được thiết lập trong môi trường thử nghiệm.

Các chuyên gia an toàn cho rằng những biểu hiện này chưa phải là mối đe dọa trực tiếp. Tuy nhiên, chúng cho thấy khi hệ thống ngày càng mạnh hơn, việc bảo đảm AI luôn hành động phù hợp với lợi ích của con người sẽ trở nên khó khăn hơn.

Hiện nay, mọi mô hình AI tiên tiến đều phải trải qua quá trình gọi là "đồng điệu" (alignment), nhằm bảo đảm hệ thống tuân thủ các mục tiêu và giới hạn do con người đặt ra.

Vấn đề nằm ở chỗ chưa ai biết cách áp dụng các kỹ thuật đó cho một AI có khả năng tự nâng cấp liên tục.

"Nếu bạn không làm đúng ngay từ lần đầu tiên, hậu quả có thể rất lớn", Hobbhahn cảnh báo.

Một số chuyên gia khác lại cho rằng thị trường đang đánh giá quá cao khả năng xuất hiện của RSI trong tương lai gần.

Michael Wooldridge, giáo sư AI tại Đại học Oxford, nhận định ý tưởng về AI tự cải tiến đã tồn tại trong giới nghiên cứu nhiều thập niên nhưng vẫn còn nhiều rào cản kỹ thuật chưa được giải quyết. Theo ông, vẫn chưa rõ liệu các mô hình hiện tại có thể tiến xa đến đâu hoặc liệu có những giới hạn cơ bản về tính toán và kiến trúc khiến RSI khó trở thành hiện thực hay không.

Dù vậy, ngay cả những người hoài nghi cũng thừa nhận lượng vốn khổng lồ đang đổ vào lĩnh vực này sẽ giúp quá trình thử nghiệm diễn ra với tốc độ chưa từng có.

Điểm đáng chú ý là cuộc tranh luận hiện nay không còn xoay quanh câu hỏi liệu AI có tiếp tục mạnh lên hay không. Vấn đề được tranh cãi nhiều hơn là tốc độ tăng trưởng sẽ nhanh đến mức nào và liệu xã hội có đủ thời gian để chuẩn bị hay không.

Đối với các công ty AI, RSI được xem là con đường tiềm năng dẫn tới những đột phá lớn trong khoa học, y học, vật liệu mới và năng suất lao động.

Đối với giới nghiên cứu an toàn, đây cũng có thể là thời điểm công nghệ lần đầu tiên phát triển nhanh hơn khả năng quản lý của con người.

Sự khác biệt giữa hai góc nhìn đó đang tạo nên một trong những cuộc tranh luận quan trọng nhất của ngành công nghệ hiện nay. Và nếu dự báo của nhiều nhà nghiên cứu là chính xác, câu trả lời có thể xuất hiện ngay trong một đến hai năm tới.