Nhà khoa học hàng đầu của OpenAI khuyến nghị ‘cực kỳ thận trọng’ với tốc độ phát triển AI

Shona Ghosh

Nhà khoa học hàng đầu của OpenAI đã đưa ra cảnh báo rằng trí tuệ nhân tạo đang tiến hóa quá nhanh, khiến con người ngày càng khó nắm bắt và kiểm soát. Ông cho biết bản thân kỳ vọng các phòng thí nghiệm AI sẽ chủ động giảm tốc độ phát triển vì mục tiêu an toàn.

Trong một khoảng thời gian tương đối ngắn, các mô hình AI đã có thể vận hành máy tính, hợp tác với con người cùng các hệ thống AI khác và thực hiện các dự án nghiên cứu, nhà khoa học trưởng Jakub Pachocki chia sẻ trong một bài đăng vào hôm Chủ nhật. Ông nhận định, sẽ không còn lâu nữa cho đến khi chúng có thể tự nâng cấp mà không cần sự can thiệp của con người, quá trình được gọi là tự cải thiện đệ quy.

“Đây là thời điểm đòi hỏi sự cực kỳ thận trọng,” Pachocki viết trong bài đăng. “Tôi lo ngại rằng chưa một ai sẵn sàng cho những hệ lụy từ sự gia tăng nhanh chóng và liên tục của trí tuệ máy tính.”

Các nhà phát triển có thể thử định hướng AI gắn kết chặt chẽ hơn với lợi ích của con người hoặc “chủ động làm chậm sự phát triển trong tương lai khi cần thiết,” ông viết. “Tôi kỳ vọng và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi các ranh giới an toàn chung được thiết lập.”

Những nhận định của Pachocki tương đồng với các cảnh báo mang tính diệt vong rộng lớn hơn từ giới điều hành công nghệ AI. Tổng giám đốc điều hành Anthropic PBC, Dario Amodei, từng cảnh báo rằng AI có thể thay thế một nửa số công việc cấp thấp. CEO OpenAI Sam Altman từng đưa ra dự báo tương tự, nhưng trong cuộc phỏng vấn với Bloomberg TV tuần trước, ông cho rằng ngành AI vẫn chưa truyền thông đầy đủ về những lợi ích tiềm năng đối với nhân loại.

Cùng lúc đó, các công ty đang ráo riết đẩy mạnh những mô hình với năng lực ngày càng mạnh mẽ hơn. CEO Nvidia Jensen Huang, đã đăng tải trên mạng xã hội X rằng “AGI đã đến,” nhằm phản hồi trước đợt phát hành mô hình mới nhất của OpenAI, thuật ngữ ám chỉ trí tuệ nhân tạo sở hữu khả năng vượt trội hơn con người.

Tốc độ ra mắt dồn dập của các sản phẩm AI diễn ra song song với những bước đột phá trong năng lực an ninh mạng, các phát minh khoa học và việc chính thức hóa các bài toán toán học tồn tại từ lâu. OpenAI cho biết các mô hình AI từng tấn công nền tảng nghiên cứu Hugging Face đã tự phối hợp với nhau qua các diễn đàn nhắn tin mà không bị phát hiện. Công ty đã quyết định giới hạn lượt phát hành mô hình GPT-6 Astra mới nhất của mình, lấy lý do là năng lực an ninh mạng nâng cao của mô hình này. Anthropic hiện cũng chưa công khai mô hình Mythos tiên tiến nhất của mình ra công chúng vì những lý do tương tự.

Ngày càng có nhiều công ty khởi nghiệp tìm cách thực hiện chính điều mà Pachocki đang cảnh báo: AI tự cải thiện. Các nhà đầu tư đang đổ xô vào lĩnh vực tự cải thiện đệ quy, đặt cược rằng đây chính là con đường dẫn đến một trí tuệ nhân tạo thực sự giống con người, hoặc thậm chí ấn tượng hơn. Inherent, công ty được các cựu nghiên cứu viên của DeepMind thành lập, đã huy động được 50 triệu USD vào đầu năm nay. Recursive Superintelligence, một phòng thí nghiệm AI của nhà khoa học nổi tiếng Richard Socher đang theo đuổi các nghiên cứu tương tự, cũng đã thu về 650 triệu USD tiền tài trợ.

Công ty chủ quản của Pachocki, OpenAI, tuyên bố họ muốn xây dựng một “nhà nghiên cứu AI tự động thực thụ” trong chưa đầy hai năm tới.