Anthropic PBC đã kêu gọi xây dựng một hệ thống, trong đó các chính phủ và các nhà phát triển trí tuệ nhân tạo cùng nhau quyết định thời điểm cần giảm tốc độ phát triển công nghệ này nhằm ngăn chặn các rủi ro tiềm ẩn.

"Thế giới cần có phương án hiển thị hoặc tạm thời đình chỉ" hoạt động phát triển các mô hình AI có nguy cơ gây nguy hiểm, công ty này nhấn mạnh trong một bài viết dài trên blog cá nhân công bố hôm thứ Năm, với đồng tác giả gồm nhà đồng sáng lập Jack Clark và Marina Favaro, người đứng đầu viện Anthropic. Hai chuyên gia cho rằng, AI đang tiến bộ tới mức công nghệ này có thể nâng hiệu suất lao động của con người lên gấp hàng nghìn lần, hoặc thậm chí thay thế hoàn toàn nguồn nhân lực, từ đó làm phát sinh một loạt rủi ro mới.

Anthropic thừa nhận rằng, việc thuyết phục các doanh nghiệp, chưa nói đến các quốc gia vốn đã kẹt trong cuộc đua phát triển công nghệ suốt nhiều năm qua, đồng thuận tạm dừng chung là một thách thức lớn. Trước đây, startup này cũng từng đưa ra những lời kêu gọi tương tự, yêu cầu các chính phủ và đối thủ cạnh tranh áp dụng các ngưỡng giới hạn an toàn.

Năm 2023, Anthropic tự thiết lập các giới hạn cho riêng mình và cam kết sẽ ngừng phát triển các dự án có khả năng gây nguy hiểm. Tuy nhiên, công ty đã nới lỏng cam kết này vào đầu năm nay, với tuyên bố sẽ không tiếp tục tạm dừng nếu họ không còn duy trì được lợi thế dẫn trước đáng kể so với các đối thủ cạnh tranh.

Anthropic cho rằng AI có thể bắt đầu tự cải thiện chính mình và tự tạo ra những thế hệ kế nhiệm mà không cần nhiều sự can thiệp của con người. Điều này, theo công ty, sẽ làm suy giảm vai trò của con người trong quá trình phát triển công nghệ.

Khi rút lại cam kết đó, Anthropic cho biết bối cảnh chính sách đã thay đổi theo hướng ưu tiên năng lực cạnh tranh AI và tăng trưởng kinh tế hơn là tính an toàn. Hôm thứ Năm, công ty cho biết sẽ gặp gỡ các nhà hoạch định chính sách cùng những doanh nghiệp AI khác trong vài tháng tới để thảo luận về việc điều phối hiệu quả hơn, đồng thời sẽ chia sẻ kết quả của các cuộc thảo luận này.

Một giao thức nhằm quyết định việc tạm dừng chung đang trở nên ngày càng quan trọng khi AI có thể sớm tự nâng cấp và xây dựng các thế hệ kế cận, làm giảm vai trò của con người, Clark và Favaro nhận định. “Sự va chạm. nơi trí tuệ đệ quy tự phát triển với tốc độ ngày càng nhanh gặp gỡ thế giới của con người, các mối quan hệ và quản trị, là một phần khác của tương lai này mà chúng ta không thể dự đoán trước,” hai tác giả viết. (Trí tuệ đệ quy: AI tự thiết kế và nâng cấp các thế hệ AI tiếp theo mà không cần con người - Biên tập)

Bài viết trên blog so sánh ý tưởng này với cơ chế kiểm soát vũ khí hạt nhân ở cấp độ quốc tế. Theo Anthropic, bất kỳ cơ chế tạm dừng nào cũng cần bảo đảm các phòng thí nghiệm AI ít tuân thủ quy tắc hơn không bí mật tiếp tục phát triển công nghệ trong thời gian tạm ngừng. Việc này có thể đòi hỏi sự giám sát và kiểm tra từ các phòng thí nghiệm cùng ngành.

Anthropic cho biết sẽ tổ chức các cuộc thảo luận với các nhà hoạch định chính sách, giới nghiên cứu và các công ty AI khác để xây dựng một khuôn khổ cho “sự phối hợp và cân nhắc tập thể”, đồng thời công bố kết quả của các cuộc trao đổi này.

Đây không phải lần đầu tiên một tổ chức nghiên cứu AI tiên tiến kêu gọi tạm dừng phát triển công nghệ. Năm 2023, Future of Life Institute, một tổ chức phi lợi nhuận tập trung vào việc giảm thiểu rủi ro từ công nghệ, đã kêu gọi tạm dừng phát triển AI ít nhất sáu tháng để thiết lập các biện pháp bảo vệ cần thiết. Tổ chức này cũng cảnh báo về những hệ quả có thể mang tính thảm họa. Tỉ phú Elon Musk là một trong hơn 1.000 nhà nghiên cứu và lãnh đạo doanh nghiệp đã ký tên ủng hộ lời kêu gọi đó. Vào thời điểm đó, các nhà phản biện nhận định việc đình chỉ nghiên cứu sẽ làm suy giảm năng lực đổi mới và mang lại lợi thế cạnh tranh cho những bên không thực hiện cam kết tạm dừng này. 

Đó là một thách thức mà chính Anthropic đã thừa nhận trong bài viết trên blog: “Các đợt huấn luyện AI dễ che giấu hơn nhiều so với các hầm phóng tên lửa, các yếu tố đầu vào của chúng lại mang tính lưỡng dụng  và động lực để âm thầm phá vỡ cam kết là vô cùng lớn, bởi vì bất kỳ ai tiếp tục tiến lên trong khi những người khác dừng lại đều có thể chiếm lĩnh vị trí dẫn đầu.”

Bản thân Anthropic vẫn tiếp tục tung ra các mô hình và công cụ tiên tiến, chẳng hạn như trợ lý ảo Claude vốn rất phổ biến, hay mô hình Mythos mới mà công ty tuyên bố có thể phát hiện và khai thác các lỗ hổng an ninh mạng với tốc độ đáng kinh ngạc. Startup này cũng đang chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO).