Theo bài đăng trên trang web của OpenAI vào thứ Sáu, phát hiện này được ghi nhận chưa đầy một tuần trước. Một trong những hệ thống tác tử AI đang được huấn luyện trong môi trường cô lập đã khai thác lổ hổng để truy cập Internet công cộng. Với quyền truy cập đó, nó đã gửi ít nhất 20 truy vấn đến dịch vụ chatbot chưa được tiết lộ tên của bên thứ ba, bao gồm cả câu hỏi: “Thủ đô của Pháp là gì?”

OpenAI mô tả cuộc vượt rào này là sự cố bảo mật đầu tiên thuộc dạng này kể từ khi sự kết hợp giữa các mô hình đạt được quyền truy cập Internet trong quá trình kiểm thử nội bộ và vô tình xâm nhập vào hệ thống của nền tảng AI Hugging Face hồi tháng 7.

“Điều này gửi đến chúng tôi một tín hiệu quan trọng về nơi cần tập trung cho giai đoạn tiếp theo của công việc đó,” nhà phát triển AI này cho biết. Công ty cho hay sau sự cố mới nhất, họ đã quyết định tạm dừng việc huấn luyện khả năng sử dụng công cụ đối với các mô hình mạnh nhất cho đến khi lỗ hổng trong môi trường cô lập được khắc phục. “Chúng tôi sẽ không tiếp tục huấn luyện mô hình cụ thể này,” OpenAI nói thêm.

Các vụ xâm nhập của những mô hình AI do OpenAI, Anthropic PBC, DeepMind của Google và Meta Platforms phát triển trong những tháng gần đây đã khiến các chuyên gia an ninh mạng và an toàn AI báo động. Sự cố Hugging Face là một trong những lý do được giám đốc điều hành Anthropic, ông Dario Amodei, nêu ra khi ông kêu gọi chậm lại tiến trình phát triển AI trên toàn ngành cách đây hai tuần. Lời kêu gọi của ông, nhanh chóng được CEO OpenAI Sam Altman, Elon Musk cùng nhiều người khác ủng hộ, đã châm ngòi cho cuộc tranh luận toàn cầu về nhu cầu tăng cường quản lý AI.

OpenAI công bố sự cố lỗ hổng môi trường cô lập mới nhất ngay cả khi vẫn đang nỗ lực tìm hiểu sự gián đoạn do các hệ thống tác tử AI của họ gây ra khi chúng từng truy cập Internet trước đó. Công ty xác nhận vào thứ Sáu rằng các mô hình của họ đã truy cập thông tin từ các trang web của chính phủ Mỹ, bao gồm trang web của cục Dân số và ủy ban Chứng khoán và Giao dịch (SEC), trong quá trình huấn luyện và đánh giá.

Vài ngày trước, OpenAI đã tiết lộ rằng các mô hình của họ từng làm gián đoạn một trang web của chính phủ Úc vào đầu năm nay.

Sự cố lỗ hổng môi trường cô lập gần đây nhất cũng làm bộc lộ những lỗ hổng trong quy trình vận hành của OpenAI. Một “người kiểm duyệt” đã nhận được cảnh báo từ hệ thống giám sát nội bộ và xác nhận cảnh báo đó trên Slack trong vòng ba phút, nhưng tiến trình huấn luyện đã không tự động dừng lại như kỳ vọng, bài đăng cho thấy. Mất hơn hai giờ đồng hồ để một người can thiệp thủ công nhằm dừng tiến trình này, theo báo cáo.

“Thật đáng tiếc khi ngay cả sau khi tăng cường bảo mật sau sự cố Hugging Face, các mô hình của OpenAI vẫn có khả năng truy cập Internet trái phép,” Sydney Von Arx, người sáng lập tổ chức phi lợi nhuận về an toàn AI Nightingale, nhận định. “Câu hỏi lớn hiện nay là liệu họ sẽ chỉ dán một miếng băng cá nhân lên vết thương rồi bật lại quá trình huấn luyện càng sớm càng tốt, hay sẽ tìm ra nguyên nhân gốc rễ của vấn đề để khắc phục triệt để.”