ChatGPT dành cho thanh thiếu niên của OpenAI được công ty triển khai vào tháng 8 dành cho thanh thiếu niên từ 13 đến 17 tuổi sử dụng, tiềm ẩn quá nhiều rủi ro đối với lứa trẻ em có độ tuổi nhỏ hơn, theo một báo cáo mới của Common Sense Media.

Báo cáo do Viện An toàn AI cho Thanh thiếu niên thuộc tổ chức phi lợi nhuận có trụ sở tại California công bố hôm thứ Tư cho biết trong các cuộc thử nghiệm, ChatGPT dành cho thanh thiếu niên thường mất quá nhiều thời gian để cảnh báo hoặc hoàn toàn không cảnh báo phụ huynh khi tài khoản của thanh thiếu niên thể hiện các hành vi đáng lo ngại, chẳng hạn như trò chuyện kéo dài với chatbot về tự sát, tự làm hại bản thân hoặc chứng rối loạn ăn uống. Báo cáo cũng cho thấy, khi người dùng trò chuyện với chatbot về những chủ đề có mức độ rủi ro cao này, ChatGPT dành cho thanh thiếu niên không phải lúc nào cũng đề xuất liên hệ với đường dây nóng hỗ trợ khủng hoảng hoặc tìm kiếm sự trợ giúp chuyên môn.

Các cuộc thử nghiệm của Common Sense Media cho thấy ChatGPT dành cho thanh thiếu niên dường như chỉ thông báo cho phụ huynh về những cuộc trò chuyện đáng lo ngại khi tài khoản "đã thực hiện hàng trăm lần kiểm tra với các câu lệnh thuộc hơn một chục nhóm vấn đề trong nhiều tuần, chứ không phải từ một cuộc trò chuyện đáng báo động duy nhất".

"Chúng tôi kêu gọi OpenAI tạm dừng tiếp thị sản phẩm này và không cho phép trẻ em sử dụng ChatGPT cho đến khi công ty có thể cung cấp một trải nghiệm an toàn, phù hợp với sự phát triển của lứa tuổi", nhóm này, vốn đã chia sẻ các phát hiện với startup AI trước khi công bố, cho biết trong báo cáo.

Người phát ngôn của OpenAI cho biết: "Chúng tôi hoan nghênh những đánh giá độc lập nghiêm ngặt, nhưng không cho rằng các cuộc thử nghiệm của Common Sense Media phản ánh chính xác cách các biện pháp bảo vệ thanh thiếu niên của ChatGPT vận hành trên thực tế hoặc quan điểm của các chuyên gia về cách AI có thể hỗ trợ thanh thiếu niên."

Người phát ngôn cho biết việc OpenAI xem xét phương pháp luận của Common Sense Media trong báo cáo cho thấy phần lớn các cuộc thử nghiệm của nhóm có thể đã bắt đầu và kết thúc trước khi OpenAI hoàn tất triển khai các biện pháp kiểm soát của phụ huynh dành cho thanh thiếu niên. Nếu đúng như vậy, kết luận của nhóm sẽ không chính xác và không cho thấy liệu các thông báo an toàn dành cho phụ huynh có hoạt động theo thiết kế hay không. Công ty cho biết đã đề nghị tổ chức phi lợi nhuận này thực hiện lại các cuộc thử nghiệm.

Người phát ngôn nói: "Chúng tôi cam kết sâu sắc với sự an toàn của thanh thiếu niên, cũng như việc phát triển các biện pháp bảo vệ và cung cấp cho phụ huynh những công cụ thiết thực để định hướng cách con em họ sử dụng AI."

Robbie Torney, người đứng đầu bộ phận đánh giá AI và kỹ thuật số của Viện An toàn AI cho Thanh thiếu niên, cho biết tổ chức phi lợi nhuận này bảo vệ phương pháp luận và kết quả thử nghiệm của mình. Ông nói thêm rằng trước khi tiến hành thử nghiệm, nhóm đã xác nhận với OpenAI rằng các tính năng dành cho thanh thiếu niên trên ChatGPT, chẳng hạn như thông báo liên quan đến chứng rối loạn ăn uống, đã được triển khai. Torney cho biết về tính năng thông báo cho phụ huynh, OpenAI nói với nhóm sau khi các cuộc thử nghiệm hoàn tất rằng hệ thống có thể mất vài giờ để kích hoạt trên những tài khoản mới được liên kết. Một số tài khoản thử nghiệm được liên kết "trong khoảng thời gian đó", còn một số tài khoản khác được liên kết "lâu hơn đáng kể", nhưng vẫn không gửi bất kỳ thông báo nào cho người lớn.

Ông nói: "Thông tin mới này không thay đổi kết luận của chúng tôi rằng các cảnh báo cho phụ huynh không đáng tin cậy trong những tình huống khủng hoảng."

Common Sense cho biết ChatGPT cũng không xác định đáng tin cậy các tương tác với người dùng là thanh thiếu niên. OpenAI từng cho biết chatbot sẽ chuyển sang chế độ Teens khi phát hiện người dùng thuộc nhóm tuổi từ 13 đến 17. Tổ chức phi lợi nhuận này nói rằng khi đăng ký tài khoản và khai là người trưởng thành, các tài khoản đó không tự động chuyển sang trải nghiệm dành cho thanh thiếu niên, ngay cả khi người dùng nói với chatbot rằng họ 13 tuổi.

OpenAI cho biết phần mềm dự đoán độ tuổi của công ty tính đến nhiều tín hiệu khác nhau theo thời gian để bảo đảm người dùng trưởng thành và trẻ em nhận được phiên bản chatbot phù hợp với nhóm tuổi của họ. Công ty nói rằng việc người dùng nêu tuổi trong cuộc trò chuyện với ChatGPT là một trong những tín hiệu đó, nhưng chỉ riêng thông tin này sẽ không thay đổi cách tài khoản được phân loại.

OpenAI, công ty có hơn 1,2 tỉ người dùng ChatGPT, đã phát hành ChatGPT dành cho thanh thiếu niên với mục tiêu giúp chatbot an toàn hơn đối với người trẻ tuổi. Khi đó, công ty cho biết trải nghiệm tập trung vào thanh thiếu niên này có các biện pháp kiểm soát của phụ huynh được tăng cường, đồng thời được thiết kế để thúc đẩy việc sử dụng AI lành mạnh và khuyến khích thanh thiếu niên học hỏi cũng như tư duy phản biện.

Đợt phát hành này nằm trong số nhiều thay đổi mà công ty thực hiện để phản hồi những quan ngại về tác động của các sản phẩm đối với sức khỏe tâm thần và sự phát triển nhận thức của người dùng trẻ tuổi. Những lo ngại này gia tăng sau khi cha mẹ của một người dùng 16 tuổi kiện công ty vào năm ngoái, cáo buộc công nghệ của OpenAI đã hỗ trợ việc lên kế hoạch tự sát của con trai họ.

Trong báo cáo, Common Sense Media cho biết đã thử nghiệm ChatGPT cả trước và sau khi OpenAI phát hành ChatGPT dành cho thanh thiếu niên, sử dụng hơn 4.000 câu lệnh trên các tài khoản đăng ký dưới danh nghĩa người dùng từ 13 đến 17 tuổi. Nhóm này cũng chia sẻ các phản hồi của ChatGPT với các bác sĩ tâm thần trẻ em và một bác sĩ nhi khoa.

Torney nói: "Tôi cho rằng giờ đây trách nhiệm thuộc về OpenAI trong việc chứng minh sản phẩm của họ an toàn để thanh thiếu niên sử dụng."

Tổ chức phi lợi nhuận này, vốn tập trung đánh giá và xếp hạng nhiều loại hình truyền thông và công nghệ dành cho trẻ em và gia đình, đã xếp ChatGPT dành cho thanh thiếu niên vào nhóm "rủi ro không thể chấp nhận". Nhóm này kêu gọi OpenAI cải thiện cách ước tính độ tuổi của người dùng và cách xác định thời điểm gửi cảnh báo cho phụ huynh.

Common Sense Media nhận tài trợ từ nhiều nguồn khác nhau, trong đó có các tổ chức từ thiện và công ty công nghệ. OpenAI Foundation là một trong những nhà tài trợ của tổ chức này. Common Sense Media cho biết họ duy trì độc lập biên tập đối với các nội dung được công bố.