Các công ty đang trao cho những hệ thống trí tuệ nhân tạo nhiều quyền tự chủ hơn để nâng cao năng suất và hiệu quả. Tuy nhiên, khi các bot đảm nhận ngày càng nhiều trách nhiệm, lãnh đạo doanh nghiệp, quản lý và nhân viên vẫn chưa rõ ai phải chịu trách nhiệm khi xảy ra sự cố.

Một báo cáo mới do trường Wharton thuộc đại học Pennsylvania công bố hôm thứ Ba cho thấy các nhà quản lý hầu như không có sự đồng thuận. Khi được hỏi ai phải chịu trách nhiệm nếu một bot "gây ra sai sót nghiêm trọng", những người trả lời được chia tương đối đồng đều giữa nhân viên triển khai tác nhân AI, quản lý của nhân viên đó và bộ phận quản trị rủi ro của công ty, với khoảng một phần tư lựa chọn mỗi bên. Khoảng 10% quy trách nhiệm cho nhà cung cấp, trong khi một tỉ lệ tương tự cho biết họ không chắc ai phải chịu trách nhiệm.

Câu hỏi về trách nhiệm đang trở nên cấp thiết hơn khi các công ty như OpenAI, Google thuộc Alphabet Inc. và Meta Platforms Inc. đưa những tác nhân AI ngày càng mạnh vào tay nhân viên. Các bot này được cấp danh tính doanh nghiệp riêng và có thể tự chủ theo đuổi các mục tiêu, trong một số trường hợp kéo dài nhiều ngày.

Dù những lo ngại về các tác nhân AI hoạt động ngoài tầm kiểm soát đã chiếm lĩnh các tiêu đề trong những tháng gần đây, rủi ro trước mắt đối với doanh nghiệp có thể bình thường và ít kịch tính hơn nhiều. Leeron Walter, phó chủ tịch tại Teramind, công ty cung cấp phần mềm giám sát nhân viên, cho biết một lỗi nhỏ trong câu lệnh hoặc chỉ dẫn không rõ ràng có thể nhanh chóng leo thang thành một cuộc khủng hoảng lớn hơn khi các tác nhân AI được quyền truy cập vào những hệ thống đang vận hành như tài khoản email hoặc cơ sở dữ liệu khách hàng.

Các công ty đã bắt đầu đối mặt với những sai sót như vậy. Walter dẫn ví dụ về một nhà bán lẻ toàn quốc của Mỹ, nơi một nhân viên xây dựng hệ thống AI để tự động hóa email gửi khách hàng. Lỗi trong câu lệnh khiến bot gửi thông báo hoàn tiền và hủy đơn hàng không chính xác tới hơn 18.000 khách hàng trong chưa đầy sáu giờ, kéo theo hàng nghìn yêu cầu hỗ trợ. Walter cho biết nhu cầu của khách hàng đối với các hệ thống giám sát nhân viên đã tăng lên sau những sai lầm đáng xấu hổ như vậy.

Tại một công ty điện tử tiêu dùng khác ở Mỹ, Walter cho biết một nhân viên marketing đã sử dụng AI để tự động tạo và đăng giá sản phẩm. Lỗi trong câu lệnh khiến một thiết bị chủ lực được niêm yết với mức giảm giá 85% trong ba giờ. Hơn 700 đơn hàng đã được đặt trước khi sai sót được phát hiện, và những vấn đề phát sinh với bộ phận chăm sóc khách hàng mất nhiều tuần mới được xử lý.

Những sự cố như vậy có thể gây ra tổn thất lớn và thiệt hại lâu dài cho danh tiếng doanh nghiệp, đồng thời đặt người lao động và các quản lý trước một câu hỏi khó chịu: Nếu người sử dụng lao động được khuyến khích thử nghiệm AI, ai sẽ chịu trách nhiệm khi có sự cố?

"Các tổ chức đang học hỏi trong thời gian thực," Jeremy Korst, đối tác tại công ty tư vấn GBK Collective và đồng tác giả nghiên cứu của Wharton, cho biết. "Khi tôi đặt câu hỏi này với một lãnh đạo cấp cao, câu trả lời tôi thường nhận được nhất là họ chưa từng nghĩ về vấn đề đó."