Anthropic đưa các chuyên gia đánh giá của Accenture vào nội bộ để thử nghiệm độ an toàn AI

Samantha Oltman và Lynn Doan

Anthropic PBC đang hợp tác với Accenture, công ty tư vấn công nghệ và quản trị, để thử nghiệm độ an toàn của các mô hình trí tuệ nhân tạo (AI) tiên tiến bằng cách đưa trực tiếp các chuyên gia đánh giá từ công ty tư vấn này vào quy trình vận hành nội bộ của mình.

Các chuyên gia đánh giá của Accenture sẽ tiến hành kiểm thử tấn công đối với các mô hình mới nhất của phòng thí nghiệm AI này và thử nghiệm các rào chắn bảo vệ, đồng thời thực hiện các đánh giá nhằm đảm bảo công nghệ của Anthropic được căn chỉnh hoạt động phù hợp với các mục tiêu của con người, theo thông tin Anthropic công bố trong một bài đăng trên blog hôm thứ Sáu. Công ty cho biết các chuyên gia đánh giá này sẽ có cấp độ truy cập nội bộ tương tự như chính nhân viên của công ty khởi nghiệp này.

Có mối quan hệ hợp tác từ trước, cả Anthropic và Accenture dự kiến sẽ đầu tư ít nhất 1 tỉ USD để nâng cao năng lực trong lĩnh vực này, Anthropic cho biết.

Vào thứ Bảy, người đứng đầu Anthropic, ông Amodei, đã đề cập đến những lo ngại ngày càng tăng về rủi ro an ninh của các mô hình AI tiên tiến trong một bài luận dài 3.800 từ, kêu gọi làm chậm lại đà phát triển và tuyên bố sẽ triển khai các bước an toàn mới như sử dụng các chuyên gia đánh giá bên thứ ba.

Các chuyên gia đánh giá biệt phái của Accenture sẽ theo dõi chặt chẽ cách các mô hình AI tiến hóa trong quá trình huấn luyện và quan sát các quyết định hậu trường về cách Anthropic phát triển công nghệ của mình, công ty cho hay.

“Từ vị thế này, các chuyên gia đánh giá biệt phái có thể đánh giá cách một công ty vận hành, xác minh việc công ty tuân thủ các cam kết an toàn và nhận diện các điểm mù. Họ cũng có thể báo cáo các sự cố và cung cấp cho công chúng góc nhìn rõ ràng hơn về cả lợi ích lẫn rủi ro,” Anthropic cho biết.

Năm ngoái, Accenture và Anthropic đã ký thỏa thuận hợp tác nhiều năm để triển khai AI tại các doanh nghiệp, thành lập một nhóm gồm 30 ngàn người được đào tạo trên mô hình Claude nhằm giúp mở rộng các hệ thống vận hành bằng AI cho khách hàng. Và vào tháng 3 năm nay, Accenture công bố Cyber.AI, một giải pháp an ninh mạng được vận hành bởi mô hình Claude AI của Anthropic.

Tính chất “bên thứ ba” của mối quan hệ hợp tác này có thể gặp phải sự hoài nghi do mối liên kết chặt chẽ giữa Accenture và các công ty khởi nghiệp AI lớn. Đầu năm nay, doanh nghiệp tư vấn này dự báo rằng khối lượng công việc của họ với các đối tác AI chủ chốt như Anthropic, OpenAI và Palantir sẽ tăng hơn gấp đôi trong năm tới.

Mối lo ngại về các rủi ro mang tính tồn vong của AI đã gia tăng mạnh mẽ vào tuần trước, xuất phát từ vụ từ chức gây chú ý của nhân viên Anthropic, ông Jacob Coxon, người đã cáo buộc các công ty AI đang “đánh cược với cuộc sống của chúng ta” trong một bài đăng từ chức trên mạng xã hội.

Trong vài ngày qua, nhiều nhà lãnh đạo công ty AI, bao gồm ông Amodei và giám đốc điều hành OpenAI Sam Altman, đã kêu gọi làm chậm tốc độ phát triển công nghệ này để xử lý các rủi ro ngày càng khó lường dù họ vẫn bất đồng về cách thức xử lý cụ thể. Ông Amodei từng đề xuất các công ty nên mở cửa cho các chuyên gia đánh giá độc lập cắm chốt tại nội bộ để giám sát quá trình phát triển công nghệ.

Vào thứ Năm tuần qua, Anthropic đã phát hành một báo cáo chi tiết cho thấy 26% công việc nghiên cứu và phát triển (R&D) AI của công ty do chatbot Claude đảm nhiệm, cung cấp minh chứng cho thấy AI có thể giúp đẩy nhanh quá trình phát triển các mô hình tương lai như thế nào.