Bang Florida hôm thứ Hai đã khởi kiện OpenAI và CEO Sam Altman, yêu cầu bồi thường thiệt hại lên tới hàng tỉ USD. Đây là lần đầu tiên một tiểu bang tại Mỹ thực hiện hành động pháp lý chống lại gã khổng lồ AI này.

Vụ kiện cáo buộc công ty đã trình bày sai lệch về mức độ an toàn của ChatGPT, đồng thời ưu tiên cuộc đua phát triển AI và lợi nhuận hơn an toàn của người dùng.

Trong đơn kiện dài 83 trang nộp lên tòa án bang, Tổng chưởng lý Florida James Uthmeier đã liệt kê hàng loạt tác hại mà ChatGPT bị cho là đã gây ra. Cụ thể, chatbot này bị cáo buộc đã hỗ trợ và tiếp tay cho các tay súng trong những vụ xả súng gây chết người, trong đó có một vụ việc xảy ra tại một trường đại học ở Tallahassee vào năm ngoái.

Không dừng lại ở đó, theo Reuters, đơn kiện còn cho rằng nền tảng này đã cung cấp hướng dẫn về hành vi tự làm hại cho những người dùng dễ bị tổn thương, làm suy giảm kỹ năng tư duy phản biện và gây nghiện cho trẻ vị thành niên thông qua một công cụ được mô tả là “giả tạo lòng trắc ẩn của con người” nhằm thu thập dữ liệu mà không có sự giám sát của phụ huynh. Thông qua vụ kiện này, Florida muốn buộc OpenAI thực hiện các nghĩa vụ theo Đạo luật về Hành vi Thương mại Gian lận và Không lành mạnh của bang.

Một điểm đáng chú ý trong vụ kiện là việc nhắm đến trách nhiệm cá nhân của CEO Sam Altman. Tổng chưởng lý Uthmeier cho biết ông Altman bị nêu tên vì đã “đóng vai trò rất quan trọng” trong việc thúc đẩy những tính năng bị cho là gây hại nhất của ChatGPT.

Theo đơn kiện, ông Altman đã “hoàn toàn coi thường rủi ro đối với tính mạng con người” trong quá trình điều hành công ty. “Mọi người đang bị tổn thương, các bậc cha mẹ đang bị lừa dối, và họ cần phải trả giá cho điều đó”, ông Uthmeier phát biểu tại một cuộc họp báo.

Động thái pháp lý này diễn ra sau khi văn phòng Tổng chưởng lý Florida mở một cuộc điều tra hình sự vào tháng 4 nhằm xác định vai trò của ChatGPT trong vụ xả súng tại Đại học Bang Florida. Trước khi thực hiện vụ tấn công, tay súng được cho là đã tham khảo ý kiến từ chatbot này.

Trong khi đó, OpenAI trước đây khẳng định các mô hình của họ được huấn luyện để từ chối những yêu cầu có thể “tạo điều kiện đáng kể cho bạo lực”. Công ty cũng cho biết sẽ thông báo cho cơ quan thực thi pháp luật khi các cuộc trò chuyện cho thấy “nguy cơ gây hại sắp xảy ra và đáng tin cậy đối với người khác”. Quá trình đánh giá những trường hợp nằm ở ranh giới này có sự hỗ trợ của các chuyên gia sức khỏe tâm thần.