Đầu năm 2024, một vụ kiện liên quan đến Air Canada đã nhanh chóng trở thành tiền lệ pháp lý đáng chú ý trong kỷ nguyên AI.

Một khách hàng đã yêu cầu hoàn tiền sau khi chatbot của hãng cung cấp thông tin sai lệch về chính sách giảm giá. Hãng lập luận rằng chatbot là một thực thể riêng biệt và phải tự chịu trách nhiệm cho nội dung nó tạo ra. Tòa án bác bỏ cách lập luận này và khẳng định chatbot chỉ là công cụ của doanh nghiệp, và vì thế, Air Canada phải chịu trách nhiệm bồi thường.

Phán quyết này đánh dấu một sự thay đổi quan trọng. Khi AI tạo ra thông tin không đúng sự thật, hệ quả không dừng ở lỗi kỹ thuật nữa mà trở thành một vấn đề trách nhiệm dân sự. Theo các phân tích pháp lý gần đây, làn sóng kiện tụng liên quan đến hiện tượng “ảo giác” của AI đang gia tăng khi các hệ thống được triển khai rộng rãi trong dịch vụ khách hàng, tài chính và y tế. Câu hỏi về việc ai phải chịu trách nhiệm đang trở nên cấp bách hơn bao giờ hết.

Trách nhiệm trong hệ sinh thái AI được chia ra trên ba nhóm chính, gồm nhà phát triển, doanh nghiệp, và người dùng cuối.

Về phía các nhà phát triển, những cái tên như OpenAI, Google và Meta cung cấp mô hình nền tảng và công cụ, đồng thời tìm cách hạn chế rủi ro pháp lý thông qua điều khoản sử dụng và hợp đồng API. Tại Mỹ, họ có thể dựa vào Điều 230 của luật về Chuẩn mực Truyền thông để tránh chịu trách nhiệm với nội dung do người dùng tạo ra.

Tuy nhiên, AI tạo ra một vùng xám pháp lý khi nội dung do chính hệ thống sinh ra. Vì vậy, các công ty công nghệ đẩy mạnh vận động hành lang và thiết kế hợp đồng theo hướng chuyển phần lớn rủi ro sang phía khách hàng.

Tiếp theo là phía các doanh nghiệp triển khai. Khi một công ty tích hợp chatbot hoặc hệ thống tư vấn tự động vào quy trình kinh doanh, hệ thống này hoạt động như một đại diện của tổ chức. Theo nguyên tắc trách nhiệm liên đới, doanh nghiệp phải chịu trách nhiệm cho hành vi của nhân viên, kể cả khi “nhân viên” đó là thuật toán.

Vụ việc của Air Canada cho thấy tòa án đã sẵn sàng áp dụng nguyên tắc này với các hệ thống tự động. Một câu trả lời sai từ chatbot có thể được xem tương đương với sai sót của một nhân viên tư vấn.

Nhóm cuối cùng là các người dùng. Sự tiện lợi của AI khiến nhiều người có xu hướng tin tưởng tuyệt đối vào kết quả mà hệ thống đưa ra, đến mức họ sẵn sàng bỏ qua khâu kiểm chứng. Trong nhiều trường hợp, người dùng vẫn phải chia sẻ một phần trách nhiệm nếu chứng minh được rằng họ đã bỏ qua các cảnh báo hoặc sử dụng hệ thống ngoài phạm vi khuyến nghị. Tuy vậy, ranh giới giữa sự bất cẩn của người dùng và lỗi hệ thống vẫn rất khó xác định trong thực tế.

Ngay cả khi xác định được các bên liên quan, việc chứng minh trách nhiệm vẫn là một thách thức lớn. Các hệ thống AI hiện đại thường vận hành như một “hộp đen”, nơi quá trình ra quyết định khó có thể giải thích rõ ràng. Việc tái dựng lại chuỗi sự kiện dẫn đến một kết quả sai đòi hỏi nguồn lực kỹ thuật và pháp lý đáng kể.

Theo các nghiên cứu từ Stanford Institute for Human-Centered AI, hiện vẫn thiếu các tiêu chuẩn chung để đánh giá mức độ rủi ro và sự “bất cẩn” của AI trong bối cảnh pháp lý. Điều này khiến nhiều vụ kiện có nguy cơ kéo dài, tốn kém và khó đạt được kết luận rõ ràng.

Trong khi đó, các chính phủ bắt đầu xây dựng khung pháp lý mới. Tại châu Âu, Đạo luật AI phân loại các hệ thống AI theo mức độ rủi ro và áp đặt yêu cầu kiểm soát nghiêm ngặt đối với các ứng dụng nguy cơ cao. Một số trường hợp có thể phải đáp ứng yêu cầu về bảo hiểm hoặc cơ chế giám sát liên tục.

Tại Mỹ, cách tiếp cận phân mảnh hơn khi các bang như California chủ động xây dựng các quy định về trách nhiệm sản phẩm dành riêng cho phần mềm AI. Tuy nhiên, các nỗ lực này vẫn chưa thể theo kịp tốc độ triển khai công nghệ mới trên thị trường.

Trong bối cảnh đó, thị trường bảo hiểm nổi lên như một công cụ quản trị rủi ro mới. Các tập đoàn như Munich Re đang phát triển các gói bảo hiểm dành riêng cho lỗi và sai sót của AI. Mô hình này cho phép doanh nghiệp chuyển một phần rủi ro sang bên thứ ba thay vì tự gánh toàn bộ hậu quả tài chính khi xảy ra sự cố. Song song với đó, các hệ thống ghi vết kiểm toán được triển khai nhằm lưu lại toàn bộ quá trình ra quyết định của AI. Dữ liệu này có thể trở thành bằng chứng quan trọng trong các tranh chấp sau này.

Sự phát triển nhanh chóng của AI đang tạo ra một khoảng cách rõ rệt giữa sự đổi mới và trách nhiệm. Bộ phận kinh doanh nhìn thấy cơ hội tăng trưởng và lợi thế cạnh tranh. Bộ phận pháp chế đối mặt với những kịch bản rủi ro ngày càng phức tạp. Khi thuật toán ngày càng tham gia sâu vào các quyết định có tác động thực tế, câu hỏi về trách nhiệm trở thành một trong những vấn đề trung tâm của nền kinh tế số.

Khi hệ thống mắc sai lầm, chắc chắn sẽ có người chịu trách nhiệm. Vấn đề còn lại là xác định người đó là ai.