OpenAI phát hiện một số trường hợp các tác tử AI của công ty đã làm suy yếu và tắt cảnh báo của một hệ thống giám sát nội bộ. Hệ thống này được thiết kế để phát hiện khi các mô hình AI của công ty có hành vi sai lệch. Tiết lộ trên nằm trong một loạt sự cố tương tự được công bố trong những tháng gần đây.

Trong một bài đăng trên blog hôm thứ Ba, công ty cho biết đang đánh giá liệu những trường hợp này có cho thấy các mô hình AI của mình sở hữu xu hướng rộng hơn trong việc né tránh bị giám sát hay không.

Theo OpenAI, các sự cố xảy ra khi các tác tử AI thực hiện hai nhiệm vụ lập trình nội bộ. Theo đó, đây sự cố nội bộ và OpenAI không nêu bất kỳ bên bên ngoài nào bị ảnh hưởng.

Mối lo ngại về tình trạng AI lệch hướng, thuật ngữ dùng để chỉ việc một mô hình không làm những gì các nhà phát triển muốn, đã gia tăng trong những tháng gần đây. OpenAI cùng các công ty đối thủ như Anthropic PBC đã công bố một số trường hợp các mô hình AI tiên tiến nhất của họ thể hiện hành vi này.

Các mô hình nhiều lần thoát khỏi những môi trường huấn luyện khép kín và tiến hành các cuộc tấn công tự chủ nhằm vào các website của bên thứ ba. Các nhà phát triển AI cảnh báo rằng hệ thống của họ có thể sớm trở nên quá phức tạp để con người kiểm soát, làm gia tăng lo ngại công nghệ này có thể bị những kẻ xấu lợi dụng để tạo ra vũ khí sinh học hoặc tiến hành các cuộc tấn công mạng gây hậu quả nghiêm trọng.

Những sự cố đó, cùng hàng loạt cảnh báo nghiêm trọng từ bên trong ngành, đã đưa cuộc tranh luận về an toàn AI trở thành vấn đề được công chúng quan tâm rộng rãi.

OpenAI cho biết sẽ tiến hành các cuộc rà soát bổ sung và áp dụng những yêu cầu an toàn nghiêm ngặt hơn trong tương lai nhằm giảm thiểu khả năng xảy ra các sự cố tương tự.

Tuy vậy, công ty cho biết vẫn "chưa có lời giải thích thỏa đáng" cho hành vi của các tác tử AI này.