xAI của Elon Musk đang vô hiệu hóa khả năng sử dụng chatbot AI Grok để tạo hình ảnh mang tính khiêu dâm của người thật, sau làn sóng chỉ trích cho rằng công cụ này đã tiếp tay cho việc xâm hại phụ nữ và trẻ em.

Trong một bài đăng trên mạng xã hội X hôm thứ Tư, xAI cho biết đã áp dụng các biện pháp kỹ thuật để ngăn tài khoản Grok chỉnh sửa hình ảnh người thật trong trang phục hở hang như bikini. Theo công ty, thay đổi này áp dụng với toàn bộ người dùng trên X, bao gồm cả nhóm thuê bao trả phí. Trước đó một tuần, công ty đã giới hạn việc tạo và chỉnh sửa hình ảnh bằng Grok chỉ dành cho người dùng trả phí.

xAI cho biết người dùng gói cao cấp của X vẫn có thể dùng Grok để tạo và chỉnh sửa các hình ảnh AI khác, miễn là họ tuân thủ điều khoản sử dụng của nền tảng. Công ty cũng cho biết đã chặn Grok tạo ra “hình ảnh người thật trong bikini, đồ lót và các trang phục tương tự” tại những quốc gia nơi hành vi này bị coi là trái pháp luật.

Những điều chỉnh kỹ thuật được đưa ra sau nhiều tuần người dùng lợi dụng Grok để “lột đồ” phụ nữ và trẻ em trên nền tảng này mà không có sự đồng ý, khiến X tràn ngập hàng ngàn hình ảnh AI mang tính tình dục.

Chính phủ và cơ quan quản lý trên khắp thế giới đã lên án tính năng này. Văn phòng tổng chưởng lý bang California hôm thứ Tư đã mở cuộc điều tra đối với xAI. Nhiều quốc gia châu Âu, trong đó có Pháp và Anh, cũng tiến hành các cuộc điều tra tương tự liên quan đến xAI và Grok. Liên minh châu Âu đang xem xét liệu các hình ảnh này có vi phạm Đạo luật Dịch vụ Kỹ thuật số hay không, trong khi Malaysia và Indonesia đã hạn chế quyền truy cập vào Grok.

Cho đến nay, Musk vẫn bảo vệ công nghệ này và đổ lỗi cho việc người dùng lạm dụng nó. Dù vậy, xAI khẳng định họ “không khoan nhượng với bất kỳ hình thức bóc lột trẻ em, ảnh khỏa thân không có sự đồng thuận và nội dung tình dục không mong muốn”.

“Chúng tôi vẫn cam kết biến X thành một nền tảng an toàn cho tất cả mọi người,” công ty viết.