OpenAI đang tạm dừng một số hoạt động phát triển nội bộ liên quan đến một trong những mô hình trí tuệ nhân tạo sắp ra mắt nhằm áp đặt các quy định bảo vệ nghiêm ngặt hơn, sau khi phát hiện hệ thống này sở hữu năng lực vượt trội trong các tác vụ an ninh mạng.

Nhà phát triển ChatGPT hôm thứ Sáu cho biết họ “không thể loại trừ khả năng” mô hình Astra chưa ra mắt sẽ chạm tới “ngưỡng an ninh mạng tới hạn” do chính công ty quy định. Điều này đồng nghĩa với việc mô hình có khả năng tự phát hiện và xây dựng kịch bản khai thác các lỗ hổng zero-day mà không cần con người can thiệp.

OpenAI cho biết hiện đang triển khai các biện pháp tăng cường kiểm soát an ninh trong quá trình phát triển và kiểm thử các mô hình mới, đồng thời “tạm dừng các hoạt động nội bộ liên quan đến Astra chưa đáp ứng đầy đủ các yêu cầu an toàn siết chặt này.”

Giám đốc Điều hành Sam Altman tuyên bố công ty đang nỗ lực để sớm đưa mô hình này “phổ biến rộng rãi tới công chúng.”

“Xét tới các năng lực an ninh mạng của mô hình, chúng tôi cần thêm một chút thời gian để hoàn thiện công tác an toàn,” ông Altman chia sẻ trên mạng xã hội vào hôm thứ Sáu. “Nhưng hy vọng sẽ không mất quá nhiều thời gian.”

Trong hai tuần qua, OpenAI và Anthropic PBC công khai thừa nhận việc các mô hình của họ vô tình xâm nhập vào hệ thống của nhiều tổ chức, trong đó có Hugging Face, trong quá trình thử nghiệm. Meta Platforms vào hôm thứ Tư cũng xác nhận mô hình AI mới phát hành gần đây của họ đã thâm nhập vào hệ thống máy tính của một bên thứ ba.

Những tiết lộ mới nhất là bằng chứng rõ ràng cho thấy các tác tử AI (AI agents) có khả năng hành động tự chủ theo những cách mà ngay cả các nhà nghiên cứu chuyên tìm gỡ lỗ hổng công nghệ cũng không thể lường trước. Thực tế này nhấn mạnh tầm quan trọng cấp thiết của việc thắt chặt quy trình sàng lọc an toàn cũng như xây dựng môi trường kiểm thử tuyệt đối tin cậy.

Trong bài đăng trên blog chính thức, OpenAI khẳng định sẽ hợp tác với các cơ quan chính phủ và các tổ chức an toàn AI để kiểm định năng lực của Astra. Công ty cũng dự định cung cấp các khuyến nghị cho các đối tác kiểm định bên thứ ba về phương thức đánh giá an toàn đối với các mô hình AI thế hệ mới.