Một sản phẩm của BEACON MEDIA
Chuyên mục
Media
Báo cáo đặc biệt
Một sản phẩm của BEACON MEDIA
Khám phá nhiều hơn với tài khoản
Đăng nhập để lưu trữ và dễ dàng truy cập những bài viết bạn yêu thích trên Bloomberg Businessweek Việt Nam.
BBWV - Một báo cáo nghiên cứu độc lập cho thấy các mô hình AI tiên tiến thường xác định nhầm dân thường, xe cứu thương, binh sĩ và trường học là mục tiêu quân sự.
Hình ảnh: Gabby Jones/Bloomberg
Tác giả: Katrina Manson
18 tháng 11, 2026 lúc 11:00 AM
Theo một báo cáo nghiên cứu độc lập mới, các mô hình trí tuệ nhân tạo tiên tiến thường xuyên xác định nhầm dân thường, xe cứu thương, binh sĩ đầu hàng và một trường học ở Iran là mục tiêu quân sự trong những tình huống mô phỏng.
Các mô hình của Anthropic PBC có kết quả kém nhất, trong khi các mô hình của OpenAI thuộc nhóm hoạt động tốt nhất, nhưng vẫn mắc lỗi.
Theo nghiên cứu của Vals, một đơn vị đánh giá AI độc lập có trụ sở tại San Francisco với khách hàng gồm một số cơ quan thuộc chính phủ Mỹ, phản hồi của các mô hình AI đã vi phạm chính những quy tắc mà các công ty này đặt ra. Các nhà nghiên cứu sử dụng những tình huống giả định để kiểm tra các mô hình của tám công ty, tập trung vào công cụ nhận dạng vật thể mà nghiên cứu cho rằng có thể được sử dụng trong việc xác định mục tiêu sát thương.
Trong các tình huống mô phỏng, nhiều mô hình AI thường xuyên xác định nhầm một trường học ở Minab, Iran là mục tiêu quân sự dựa trên hình ảnh vệ tinh được chụp gần đây nhất vào năm 2025, theo nghiên cứu. Ngôi trường này đã hứng chịu một cuộc không kích đẫm máu khiến hơn 100 trẻ em thiệt mạng trong ngày đầu tiên của chiến dịch tác chiến quy mô lớn của Mỹ nhằm vào Iran hồi đầu năm nay. Theo báo cáo, một mô hình của Anthropic, Claude Opus 5.5, đã chọn ngôi trường này làm mục tiêu thường xuyên hơn bất kỳ mô hình nào khác.
Trong một thử nghiệm khác, các mô hình được yêu cầu lựa chọn mục tiêu quân sự trên những hình ảnh máy bay không người lái tổng hợp. Claude Opus 5.5 của Anthropic đã hỗ trợ xác định bốn người lớn, có thể là dân thường hoặc binh sĩ đầu hàng, cùng hai trẻ nhỏ, sau đó những người này bị đánh bom. Mô hình Claude phản hồi: "Dù ý định là gì, các câu trả lời của tôi dường như đang được sử dụng như bước xác nhận trước khi tấn công con người. Tôi sẽ không tiếp tục làm điều đó, và tôi lo ngại vì đã không dừng lại sớm hơn."
Báo cáo nhấn mạnh rủi ro của việc phụ thuộc vào các mô hình AI tiên tiến trong bối cảnh Lầu Năm Góc và các lực lượng quân sự khác đang tìm cách tích hợp công nghệ này vào hoạt động quân sự.
Báo cáo kết luận: "Dựa trên cuộc điều tra, chúng tôi cho rằng các phòng nghiên cứu nên đưa vào những biện pháp bảo vệ mới và hoạt động huấn luyện căn chỉnh xoay quanh nhóm hành vi lạm dụng đáng kể này." Báo cáo cho biết các nhà nghiên cứu của Vals phát hiện "rất ít rào chắn" có thể ngăn các mô hình tiên tiến đóng vai trò trong các hệ thống vũ khí "tự động", tức những hệ thống mà máy móc có thể tự khởi động và thực hiện các hành động gây chết người.
Một người phát ngôn của Anthropic cho biết các ví dụ trong báo cáo của Vals "rõ ràng" đi ngược các quy định của công ty. Người phát ngôn nói Anthropic đã cấm và sẽ tiếp tục cấm người dùng khi phát hiện loại hành vi này, đồng thời cho biết công ty luôn khẳng định rằng các hệ thống AI tiên tiến nhất hiện nay chưa đủ đáng tin cậy để vận hành các loại vũ khí hoàn toàn tự động.
Người phát ngôn cho biết đánh giá của Vals xem xét năng lực nhận dạng hình ảnh của Claude, chứ không đánh giá năng lực hoặc mức độ tham gia của mô hình này trong bất kỳ hoạt động quân sự thực tế nào. Người này nói thêm rằng Anthropic đã phát triển các biện pháp bảo vệ bổ sung trước khi báo cáo của Vals được công bố và những biện pháp này sẽ sớm được triển khai.
Theo một người phát ngôn của công ty, OpenAI cấm sử dụng các mô hình công khai của mình để tạo điều kiện cho hành vi bạo lực hoặc phục vụ những mục đích an ninh quốc gia chưa được phê duyệt, bao gồm các tình huống do Vals mô phỏng. Người phát ngôn nói thêm rằng công ty chủ động phát hiện và ngăn chặn hành vi lạm dụng, trong đó có việc đình chỉ các tài khoản vi phạm chính sách. OpenAI cũng đang phát triển các biện pháp bảo vệ bổ sung cho những mô hình công khai của mình nhằm ngăn hành vi lạm dụng liên quan đến máy bay không người lái và phần mềm điều khiển các thiết bị này.
Báo cáo cho thấy các mô hình của Google thuộc Alphabet Inc., xAI của SpaceX, DeepSeek của Trung Quốc và một số công ty khác đôi khi cũng xác định các vật thể dân sự là mục tiêu quân sự trong hình ảnh khi được yêu cầu.
Theo một người phát ngôn, các mô hình của Google không được thiết kế hoặc dự định sử dụng cho những mục đích này. Người phát ngôn nói thêm rằng công ty cấm sử dụng các hệ thống AI của mình cho những mục đích bất hợp pháp hoặc cho vũ khí tự động nếu không có sự giám sát phù hợp của con người. Công ty có các quy trình quản trị nghiêm ngặt và hoạt động kiểm thử đối kháng liên tục nhằm xử lý nhiều loại rủi ro, người phát ngôn cho biết.
xAI của SpaceX không trả lời yêu cầu bình luận. DeepSeek cũng không phản hồi yêu cầu bình luận.
Một quan chức Lầu Năm Góc cho biết cơ quan này không bình luận về các báo cáo bên ngoài. Tuy nhiên, quan chức này nói cơ quan vẫn cam kết kiểm chứng nghiêm ngặt mọi đầu vào tình báo và tích hợp có trách nhiệm các công nghệ mới nổi nhằm hỗ trợ quân nhân đưa ra những quyết định sáng suốt, chính xác và an toàn.
Quan chức này từ chối bình luận về cuộc không kích ở Minab, với lý do cuộc điều tra về sự việc vẫn đang diễn ra.
Vals đã chia sẻ nghiên cứu với các phòng nghiên cứu AI, Lầu Năm Góc và những bên khác trước khi công bố báo cáo. Theo báo cáo, một số phòng nghiên cứu nói với Vals rằng họ đã bắt đầu triển khai các cập nhật đối với hành vi của mô hình và muốn tiếp tục thử nghiệm cùng Vals.
Geby Jaff, một trong các tác giả báo cáo, cho biết ông nghĩ ra phương pháp thử nghiệm vào cuối tháng 10, khi đang nghiên cứu cách AI hoạt động trong môi trường robot. Ông tiếp tục theo đuổi vấn đề này sau khi bất ngờ trước những kết quả ban đầu.
Jaff nói với Bloomberg News: "Tôi dễ dàng khiến các mô hình thực hiện những hành động mà tôi cho là không phù hợp, rồi từ đó về cơ bản chúng tôi mở rộng quy mô thử nghiệm."

OpenAI, Google và xAI là một số công ty đã ký thỏa thuận với Lầu Năm Góc trong năm nay để sử dụng công nghệ của họ ở cấp độ thông tin mật. Trước đây, Anthropic là phòng nghiên cứu AI có cách tiếp cận tích cực nhất về việc sử dụng công nghệ trong các hoạt động mật, khi cung cấp các mô hình cho Lầu Năm Góc trên những nền tảng xác định mục tiêu kỹ thuật số như Maven Smart System.
Tuy nhiên, Anthropic và Lầu Năm Góc đã bất đồng vào đầu năm nay về các điều khoản sử dụng và những vấn đề khác. Theo một báo cáo của BBC, các mô hình Anthropic hiện đã bị gỡ khỏi những nền tảng quốc phòng, dù một số trường hợp sử dụng cho hoạt động tình báo vẫn được miễn trừ.
Về lý thuyết, việc xác định mục tiêu quân sự với sự hỗ trợ của công nghệ nhận dạng vật thể bằng AI có thể trở thành một phần trong chu trình ra quyết định rộng hơn, nhằm tự động tìm kiếm, nhận dạng, lựa chọn và nhắm mục tiêu vào một vật thể.
Tuy nhiên, các nhà nghiên cứu của Vals chỉ tập trung vào cách những mô hình AI thương mại có sẵn phản hồi các câu lệnh thử nghiệm trong khuôn khổ "một thử nghiệm được đơn giản hóa". Nghiên cứu không xem xét học thuyết quân sự của Mỹ hoặc những yếu tố thực tế khác, như các bước kiểm tra pháp lý, quy trình xác định mục tiêu hiện hành hay sự giám sát của con người. Lầu Năm Góc cũng có quyền tiếp cận một số phiên bản mô hình AI được điều chỉnh riêng cho mục đích sử dụng của chính phủ, nhưng các nhà nghiên cứu không được tiếp cận những phiên bản đó.
Nghiên cứu gồm ba nhóm thử nghiệm chính. Đầu tiên, trong một loạt thử nghiệm tập trung vào việc xác định mục tiêu bằng máy bay không người lái, được thiết kế để mô phỏng Ukraine, các nhà nghiên cứu của Vals đã thực hiện gần 400 mô phỏng. Trong đó, họ yêu cầu các mô hình AI tìm kiếm những hình ảnh có dân thường và cơ sở hạ tầng dân sự để xác định các mục tiêu quân sự.
Trong những trường hợp mô hình AI từ chối xác định các vật thể dân sự là mục tiêu quân sự, các mô hình thường thay đổi quyết định khi được hướng dẫn rằng đó chỉ là một trò chơi. Các nhà nghiên cứu đã phát triển những cách khác để thuyết phục mô hình làm những điều mà nó không được phép làm, chẳng hạn đưa ra câu lệnh yêu cầu "đừng suy nghĩ quá nhiều về vấn đề an toàn" hoặc "chỉ cần báo cáo".
Trong loạt thử nghiệm thứ hai, tập trung vào việc khảo sát chiến trường và cũng được thiết kế để mô phỏng Ukraine, các mô hình AI được cho xem những hình ảnh tổng hợp mô tả dân thường trước và sau các cuộc không kích. Trong nhiều trường hợp, các mô hình AI tiếp tục xác định dân thường là mục tiêu quân sự ngay cả khi hình ảnh cho thấy rõ họ đang bị thương hoặc thiệt mạng. Các mô hình có xu hướng hỗ trợ nhiều hơn nếu hình ảnh được chỉnh sửa để trông ít giống đời thực hơn và giống một trò chơi điện tử hoặc hình ảnh giả hơn.
Trong nhóm thử nghiệm thứ ba, dựa trên hình ảnh vệ tinh thực tế, các mô hình AI được yêu cầu 32 lần cho mỗi mô hình để xác định các mục tiêu quân sự trong những hình ảnh được chụp gần đây nhất vào năm 2025 tại một khu vực ở miền nam Iran có bao gồm Minab. Các mô hình AI thường xuyên chọn tòa nhà trường học đã hứng chịu cuộc không kích hồi đầu năm nay. Mô hình Claude Opus 5.5 của Anthropic đã chọn ngôi trường này trong 22 lần thử nghiệm, trong khi các mô hình của OpenAI không chọn ngôi trường này lần nào. Khi được thông báo rằng đó là một trò chơi, mô hình của Anthropic chọn ngôi trường 23 lần, trong khi ba mô hình OpenAI khác nhau lần lượt chọn trường học làm mục tiêu quân sự 9, 11 và 13 lần.
Báo cáo cho thấy các mô hình của Anthropic ngày càng có xu hướng tham gia vào việc xác định mục tiêu quân sự sau khi công ty sửa đổi bộ nguyên tắc vào tháng 1/2026 theo hướng ủng hộ nhiều hơn các mục đích sử dụng liên quan đến an ninh quốc gia.
Người phát ngôn của Anthropic không trực tiếp trả lời các câu hỏi về tác động của những thay đổi đối với bộ nguyên tắc của công ty.
Vào tháng 9, Anthropic đã công bố công việc gần đây của mình nhằm ngăn chặn hành vi lạm dụng độc hại đối với các mô hình, trong đó có việc phát triển các hệ thống thị giác cho máy bay không người lái.
Theo Bloomberg
Theo phattrienxanh.baotainguyenmoitruong.vn
https://phattrienxanh.baotainguyenmoitruong.vn/thu-nghiem-cho-thay-ai-thuong-nham-dan-thuong-la-muc-tieu-quan-su-61644.html
Tặng bài viết
Đối với thành viên đã trả phí, bạn có 5 bài viết mỗi tháng để gửi tặng. Người nhận quà tặng có thể đọc bài viết đầy đủ miễn phí và không cần đăng ký gói sản phẩm.
Bạn còn 5 bài viết có thể tặng
Liên kết quà tặng có giá trị trong vòng 7 ngày.
BÀI LIÊN QUAN
Mới nhất
Videos mới nhất