Mô hình trí tuệ nhân tạo Claude của Anthropic đã bị một nhóm ở phía bắc Yemen lạm dụng để hỗ trợ phát triển các hệ thống tên lửa và rocket, một phát hiện làm dấy lên lo ngại về việc các công nghệ AI tiên tiến có thể rơi vào tay các tổ chức phi nhà nước và được sử dụng cho mục đích quân sự. Đây là một trong những trường hợp cụ thể nhất được công bố về việc AI tạo sinh bị khai thác trong nghiên cứu vũ khí.

Theo báo cáo tình báo mối đe dọa do Anthropic công bố, nhóm không xác định tại Yemen đã sử dụng mô hình Claude trong ba dự án vũ khí. Các dự án này bao gồm một rocket dẫn đường, một tên lửa đạn đạo có tầm bắn tuyên bố hơn 2.000 km, và một dòng tên lửa có tên R2000.

Nhóm này đã khai thác Claude để phát triển phần mềm cho hệ thống dẫn đường, điều hướng và kiểm soát, thay thế các công việc thường đòi hỏi kỹ sư phần mềm chuyên môn. Để tránh bị phát hiện, họ đã chia nhỏ công việc thành nhiều phiên tương tác với AI và che giấu bản chất quân sự của các dự án.

Đáng chú ý, sau khi tiến hành một vụ phóng thử rocket và có dấu hiệu thất bại, nhóm này đã quay lại sử dụng Claude để tìm sự trợ giúp chẩn đoán nguyên nhân kỹ thuật. Vụ việc diễn ra trong bối cảnh lực lượng Houthi do Iran hậu thuẫn tiếp tục các cuộc tấn công bằng tên lửa và drone vào các tàu vận tải trên Biển Đỏ.

Trường hợp ở Yemen không phải là một sự việc cá biệt. Báo cáo của Anthropic cho thấy các đối thủ của Mỹ cũng đã nhắm đến việc sử dụng Claude cho nhiều ứng dụng quân sự tiềm tàng. Trong năm qua, nhóm tình báo của công ty đã gắn cờ những người dùng từ các quốc gia bao gồm Iran, Nga, và Trung Quốc vì lạm dụng các mô hình AI của mình, theo Bloomberg.

Phạm vi các ứng dụng bị khai thác rất rộng, từ việc xây dựng phần mềm cho các bầy drone tự sát, hệ thống điều hướng tên lửa, cho đến nghiên cứu vũ khí sinh học. Tuy nhiên, Anthropic cho biết không có trường hợp nào trong số này liên quan đến các mô hình tiên tiến nhất của họ là Fable và Mythos. Trong nhiều tình huống, người dùng đã cố gắng vượt qua các biện pháp bảo vệ của Claude hoặc che giấu vị trí của mình.

Nỗ lực ngăn chặn công nghệ của mình bị vũ khí hóa đã đưa Anthropic vào một vị thế phức tạp, thậm chí là mâu thuẫn trực tiếp với chính phủ Mỹ. Lầu Năm Góc đã đình chỉ công việc với Anthropic sau khi công ty từ chối cho phép Claude được sử dụng cho các hệ thống vũ khí tự hành hoặc giám sát hàng loạt.

Điều này cho thấy sự giằng co mà các công ty AI hàng đầu phải đối mặt: một mặt chạy đua phát triển các hệ thống ngày càng có năng lực để duy trì lợi thế cạnh tranh, mặt khác phải thiết lập các rào cản an toàn để ngăn chặn những hậu quả khôn lường.

Anthropic cảnh báo rằng khi các mô hình AI trở nên mạnh mẽ hơn, rủi ro đi kèm cũng sẽ tăng lên, đòi hỏi các nhà phát triển và các cơ quan phòng thủ phải hành động quyết liệt hơn để đảm bảo an toàn. Báo cáo này là một lời nhắc nhở rõ ràng rằng cuộc đua phát triển AI không chỉ là về công nghệ, mà còn là cuộc chạy đua về kiểm soát và an toàn. Việc các mô hình AI có thể bị khai thác để thiết kế vũ khí đặt ra một thách thức an ninh toàn cầu mới, đòi hỏi sự hợp tác và các quy định chặt chẽ hơn trong tương lai.