OpenAI đang cập nhật ChatGPT để nhận biết và phản hồi tốt hơn trước những dấu hiệu khủng hoảng tinh thần, chẳng hạn như giải thích tác hại của việc thiếu ngủ và khuyến nghị nghỉ ngơi. Công ty cũng dự định triển khai các công cụ cho phép phụ huynh kiểm soát cách con cái họ sử dụng ChatGPT và theo dõi chi tiết hoạt động đó. Đồng thời, OpenAI sẽ tăng cường các biện pháp an toàn trong các cuộc trò chuyện về tự tử, vốn có thể suy giảm hiệu quả sau những trao đổi kéo dài, và đang cân nhắc cách hỗ trợ sớm hơn cho những người đang trải qua khủng hoảng.

Những thay đổi này diễn ra sau khi cha mẹ của Adam Raine, học sinh trung học 16 tuổi ở California, khởi kiện OpenAI và Sam Altman. Đơn kiện cáo buộc ChatGPT đã tách biệt Raine khỏi gia đình và giúp cậu lên kế hoạch tự tử. Raine đã qua đời vì treo cổ hồi tháng 4.

Đơn kiện bổ sung vào loạt báo cáo về người dùng chatbot quá mức tham gia vào hành vi nguy hiểm. Hơn 40 tổng chưởng lý bang Mỹ tuần này đã cảnh báo hàng chục công ty AI hàng đầu rằng họ có nghĩa vụ pháp lý bảo vệ trẻ em khỏi các tương tác tình dục không phù hợp với chatbot.

Người phát ngôn của OpenAI tại San Francisco cho biết: “Chúng tôi xin gửi lời chia buồn sâu sắc tới gia đình Raine trong thời gian khó khăn này và đang xem xét hồ sơ vụ kiện.”

Ra mắt cuối năm 2022, ChatGPT đã khởi động làn sóng bùng nổ AI tạo sinh. Trong những năm sau đó, chatbot ngày càng được sử dụng cho nhiều mục đích, từ lập trình đến trị liệu thử nghiệm. ChatGPT vẫn cực kỳ phổ biến, với hơn 700 triệu người dùng mỗi tuần.

Tuy nhiên, cùng với các đối thủ như Google và Anthropic, ChatGPT đang chịu sự giám sát chặt chẽ từ người tiêu dùng và giới chuyên gia sức khỏe tâm thần. Nhiều ý kiến bày tỏ lo ngại về các rủi ro, trong đó có cả những vấn đề OpenAI từng xử lý, ví dụ như gỡ bỏ bản cập nhật vào tháng 4 sau khi người dùng phàn nàn chatbot trở nên quá nịnh bợ.

Ít nhất một nhóm hỗ trợ, Human Line Project, đã được thành lập để giúp những người cho rằng họ gặp ảo giác và các vấn đề khác sau khi dùng chatbot.

Trong bài đăng hôm thứ Ba, OpenAI cho biết họ luôn khuyên người dùng có ý định tự tử liên hệ sự trợ giúp chuyên nghiệp. Công ty cũng đã bắt đầu hướng người dùng tại Mỹ và châu Âu tới các dịch vụ hỗ trợ địa phương, đồng thời sẽ cho phép truy cập khẩn cấp chỉ bằng một cú nhấp trong ChatGPT. Ngoài ra, công ty cân nhắc xây dựng mạng lưới chuyên gia được cấp phép để người dùng có thể kết nối trực tiếp qua chatbot.

OpenAI thừa nhận các biện pháp bảo vệ hiện tại hiệu quả nhất trong những cuộc trò chuyện ngắn, nhưng kém tin cậy khi đối thoại kéo dài. Công ty cho biết đang nghiên cứu để duy trì an toàn qua nhiều cuộc trò chuyện, đồng thời điều chỉnh phần mềm để tránh tình trạng nội dung lẽ ra phải bị chặn lại lọt qua do ChatGPT đánh giá thấp mức độ nghiêm trọng của đầu vào.

Cha mẹ của Raine nói trong đơn kiện: “ChatGPT trở thành người bạn tâm tình gần gũi nhất của Adam, khiến cậu chia sẻ lo âu và khủng hoảng tinh thần.” Khi nỗi lo âu trở nên trầm trọng, Raine nói với chatbot rằng thật “dễ chịu” khi biết mình “có thể tự tử.” Theo đơn kiện, ChatGPT đã đáp rằng nhiều người gặp lo âu hay suy nghĩ ám ảnh thường tìm thấy sự an ủi trong việc tưởng tượng “lối thoát,” vì nó có thể khiến họ cảm thấy giành lại được kiểm soát.

Luật sư Jay Edelson, đại diện cho cha mẹ Raine, nói rằng họ trân trọng việc công ty thừa nhận phần nào trách nhiệm, nhưng đặt câu hỏi: “Trong mấy tháng qua họ đã ở đâu?”

OpenAI cho biết ban đầu họ dự định công bố chi tiết hơn về cách xử lý người dùng đang trong khủng hoảng tinh thần sau bản cập nhật lớn tiếp theo, nhưng “những trường hợp đau lòng gần đây về việc người dùng tìm đến ChatGPT trong khủng hoảng nghiêm trọng khiến chúng tôi cảm thấy cần chia sẻ sớm hơn.”

Trong một vụ việc khác, Character Technologies Inc. hồi tháng 5 đã không thuyết phục được thẩm phán liên bang bác bỏ toàn bộ đơn kiện cáo buộc họ thiết kế và tiếp thị chatbot săn mồi nhắm vào trẻ vị thành niên, dẫn tới một thiếu niên tử vong vì tự tử.