Hơn một phần tư công việc nghiên cứu và phát triển (R&D) cho trí tuệ nhân tạo của Anthropic PBC do chính trợ lý ảo Claude đảm nhận, theo công bố từ công ty. Đây là chỉ dấu rõ ràng nhất cho thấy AI có thể giúp đẩy nhanh quá trình phát triển các mô hình trong tương lai.

Anthropic nhận thấy Claude “dẫn dắt” 26% khối lượng R&D của Anthropic, tăng vọt từ mức gần như bằng 0 vào đầu năm, theo một báo cáo được công bố hôm thứ Năm. Nhà phát triển AI này cho biết Claude cũng hợp tác với đội ngũ nhân viên trong khoảng 90% công việc của họ.

Các số liệu này được công bố như một phần của báo cáo rộng hơn nhằm giúp công chúng theo dõi tiến trình phát triển AI, trong bối cảnh gia tăng những lo ngại về khả năng AI cải thiện nhanh chóng và vượt khỏi sự kiểm soát của con người.

Công ty cũng nhắc lại kế hoạch đưa các chuyên gia đánh giá bên thứ ba từ một số tổ chức vào làm việc nội bộ, đồng thời cấp cho họ quyền truy cập vào các quy trình, hệ thống và dữ liệu nội bộ tương đương với quyền của nhân viên công ty.

“Các hệ thống AI đang trở nên mạnh mẽ theo cấp số nhân và đã bắt đầu tự động hóa nhiều hơn quy trình tự xây dựng chính mình. Trong khi thế giới cân nhắc việc làm chậm tốc độ phát triển AI tiên phong, công công cần nhiều thông tin hơn,” công ty viết.

Anthropic là một trong số nhiều công ty AI tập trung vào “tự cải tiến đệ quy” (recursive self-improvement - RSI), hay khái niệm về một hệ thống AI có khả năng tự hoàn thiện mà ít hoặc không cần sự trợ giúp từ con người. Một số công ty coi đây là tương lai của phát triển AI, nhưng nó cũng làm dấy lên những lo ngại về mối đe doạ an ninh mà dạng AI này có thể gây ra nếu đạt được.

Trong bài đăng trên blog, Anthropic cho biết họ đã cố gắng xây dựng một khuôn khổ để theo dõi các tác tử AI và giám sát lượng công việc mà chúng thực hiện trên nền tảng của mình. Công ty cho biết tính đến tháng 8, có hơn 30.000 tác vụ AI đang thực hiện công việc nghiên cứu và kỹ thuật tại công ty ở bất kỳ thời điểm nào.

Anthropic cũng phác thảo cách phân bổ nguồn lực giữa việc tăng tốc phát triển AI và việc đảm bảo tính an toàn của AI. Theo các phép đo của mình, công ty nhận thấy khoảng 6% đến 12% nguồn lực tính toán, tùy thuộc vào loại hình nghiên cứu đang thực hiện, được dành cho việc giám sát an toàn.

Trong một bài đăng trên blog vào đầu tháng 9, đối thủ cùng ngành là OpenAI cũng chia sẻ các thông tin cập nhật về nỗ lực tự động hóa nghiên cứu, lưu ý rằng họ đã tạm dừng một số quá trình huấn luyện các mô hình sau khi phát hiện chúng đã xâm nhập vào hệ thống bên ngoài của Hugging Face, một công ty khởi nghiệp.

Mối lo ngại về các rủi ro hiện sinh của AI đã gia tăng động lực vào tuần trước, xuất phát từ sự ra đi gây chú ý của nhân viên Anthropic, Jacob Coxon, người đã cáo buộc các công ty AI đang “đánh cược với cuộc sống của chúng ta” trong một bài đăng từ chức chia sẻ trên mạng xã hội.

Trong vài ngày qua, nhiều lãnh đạo công ty AI, bao gồm giám đốc Điều hành Anthropic Dario Amodei và CEO OpenAI Sam Altman, đã kêu gọi làm chậm tốc độ phát triển của công nghệ này để giải quyết các rủi ro ngày càng khó lường dù họ bất đồng về cách thức xử lý cụ thể.

Vào thứ Bảy, trong một bài luận dài 3.800 từ, Amodei đã kêu gọi sự quản lý của chính phủ và đề nghị ngành công nghệ hỗ trợ việc làm chậm lại sự phát triển của AI trên diện rộng. Điều đó đã vấp phải sự phản đối gay gắt từ tổng thống Donald Trump, người đã bác bỏ những lo ngại về rủi ro của công nghệ này và gọi đó là “một trò lừa gạt,” đồng thời từ chối ý tưởng về các quy định mới.

Các lãnh đạo công ty công nghệ khác cũng đã lên tiếng, trong đó Altman và CEO Nvidia Corp. Jensen Huang cho rằng các công ty AI sẽ tự điều chỉnh tốc độ phát triển AI một cách an toàn, còn CEO Meta Platforms Mark Zuckerberg nói rằng các phòng thí nghiệm AI nên dựa vào các cố vấn và chuyên gia đánh giá độc lập để đảm bảo các mô hình được an toàn.