Bài đăng từ chức lan truyền của Jacob Coxon tại Anthropic PBC đã trở thành một phép thử Rorschach về cách mọi người nhìn nhận trí tuệ nhân tạo. Nhà nghiên cứu AI này là người tố giác, một nhân sự nội bộ đang cảnh báo chúng ta về những gì các phòng thí nghiệm tiên phong thực sự biết? Hay anh là một người bi quan về viễn cảnh tận thế, công khai một niềm tin tương đối phổ biến nhưng còn gây tranh cãi về mối đe dọa hiện sinh mà công nghệ này đặt ra? Những lời cảnh báo tận thế có phải chỉ là một chiêu tiếp thị của các công ty, thổi phồng năng lực mạnh mẽ của AI để khiến các giám đốc công nghệ thông tin hoảng sợ và mua sản phẩm của họ? Những hồi chuông cảnh báo về an toàn có nhằm đánh lạc hướng khỏi các rủi ro AI khác, chẳng hạn những vấn đề đạo đức rất thực tế như các thuật toán duy trì sự thiên lệch và phân biệt đối xử? Hay chúng là một phần trong nỗ lực có tổ chức nhằm gây chấn động công chúng và các nhà hoạch định chính sách để buộc ngành này phải chịu sự quản lý?

Chỉ có một điều mà tất cả những cách diễn giải đối nghịch này đã làm rõ: Cũng như thường thấy trong ngành công nghệ, rất khó để có được bức tranh đầy đủ về những gì thực sự đang diễn ra sau cánh cửa đóng kín của các công ty ngày càng quyền lực này. Hannah Bloch-Wehba, giáo sư tại Trường Luật Đại học Texas A&M, nói: "Điều đó khiến bất kỳ ai ở bên ngoài cũng rất khó thẩm định tính chính xác hoặc khả năng xảy ra của những tuyên bố này."

Khoảng trống thông tin đó mang lại cho những người nội bộ như Coxon sức ảnh hưởng bất thường. Một ví dụ điển hình là nhà nghiên cứu ngoài 20 tuổi này đã trả lời phỏng vấn gần như mọi cơ quan báo chí lớn và được mời phát biểu trực tuyến trước hơn 100 lãnh đạo doanh nghiệp hàng đầu của New York City. Đây vốn là kiểu hội nghị thường có sự tham dự của các chính trị gia hoặc lãnh đạo cấp cao. Thế nhưng trong khi chúng ta xem quan điểm của Coxon đủ có thẩm quyền để thu hút sự chú ý của một căn phòng gồm các tổng giám đốc và nhà hoạch định chính sách, chúng ta thậm chí không thể thống nhất về động cơ của anh. Không có quy tắc nào để diễn giải những gì anh nói với chúng ta, cũng không có cách rõ ràng nào để giải mã vì sao anh lên tiếng cảnh báo vào thời điểm đó, hoặc vì sao anh lại làm như vậy.

Bác sĩ, luật sư, kế toán, kiến trúc sư và kỹ sư đều có những nghĩa vụ nghề nghiệp tách biệt với các công ty trả lương cho họ. Họ phải tuân theo các yêu cầu về cấp phép, tiêu chuẩn hành nghề và các tổ chức nghề nghiệp, đồng thời có nghĩa vụ với công chúng, vốn có thể vượt lên trên yêu cầu của người sử dụng lao động. Trong khi đó, các nhà nghiên cứu AI tiên phong, dù Coxon nói rằng họ đang "đem mạng sống của chúng ta ra đánh cược", thậm chí còn không được kỳ vọng phải học một khóa đạo đức.

Vậy điều gì sẽ xảy ra nếu kỹ thuật AI trở thành một nghề giống như luật hoặc y khoa, với phiên bản riêng của lời thề Hippocrates về nguyên tắc không gây hại? Trước hết, điều đó có thể giúp phần còn lại của chúng ta dễ dàng hiểu được những cảnh báo như của Coxon. Việc anh rời Anthropic đầy ồn ào có thể không bị xem là một dạng tố giác, mà đơn giản là một phần của công việc, là điểm khởi đầu cho trách nhiệm nghề nghiệp chứ không phải nơi trách nhiệm đó kết thúc. Chinmayi Sharma, giáo sư tại Trường Luật Đại học Fordham, nói: "Từ chức là tín hiệu, nhưng thường không dẫn đến thay đổi."

Trong một bài viết đăng trên Washington University Law Review, Sharma lập luận rằng việc chuyên nghiệp hóa đội ngũ kỹ sư AI sẽ giúp bảo đảm chỉ những người đủ năng lực mới được xây dựng AI, và họ chỉ làm việc đó theo những cách được cho phép. Một sai sót cơ bản khi xây dựng hệ thống AI cho mục đích liên quan đến sinh tử sẽ bị xem là hành vi sai phạm nghề nghiệp. Các phòng thí nghiệm và kỹ sư của họ sẽ phải chia sẻ những thông tin có thể ngăn chặn rủi ro nghiêm trọng, giống như một biện pháp can thiệp hiệu quả đối với bệnh tim phải được phổ biến rộng rãi trong giới y khoa. Các khóa học đạo đức bắt buộc và chương trình đào tạo liên ngành sẽ dạy các kỹ sư AI cách xử lý những hệ lụy đạo đức của các quyết định thoạt nhìn có vẻ chỉ mang tính kỹ thuật. Hãy xem một ví dụ của Sharma: Một kỹ sư AI có nên loại bỏ những lời miệt thị chủng tộc khỏi một bộ dữ liệu nếu việc lọc chúng cũng đồng thời ngăn cản các cộng đồng thiểu số đang cố giành lại những thuật ngữ đó cho chính mình?

Hiện nay, bất chấp những lời cam kết đầy thiện chí từ các tổng giám đốc Anthropic và OpenAI về việc điều chỉnh công việc của họ theo lợi ích của nhân loại, tư duy chủ đạo trong ngành AI dường như là xây dựng trước, rồi dọn dẹp mớ hỗn độn sau. Bằng chứng rõ ràng là những tiết lộ gần như xuất hiện hằng tuần về việc các tác nhân tự động xâm nhập những trang web của doanh nghiệp và chính phủ, làm lộ thông tin nhạy cảm, đưa các tệp lên internet công khai và nhiều hành động khác. Sharma cho rằng việc chuyên nghiệp hóa đội ngũ kỹ sư AI có thể giúp đảo ngược cách làm này, hình thành văn hóa trách nhiệm trong công nghệ trước khi sản phẩm được phát hành, thay vì chắp vá các biện pháp bảo vệ sau khi mọi việc đã đi quá xa. Hãy hình dung đó là y học dự phòng cho AI, thay vì cấp cứu.

Và khi mọi việc chắc chắn đi chệch hướng, các kỹ sư sẽ có một quy trình được thiết lập rõ ràng về những gì cần làm tiếp theo. Chẳng hạn, việc OpenAI gửi thông báo đến một hộp thư dành cho công chúng để báo cho các quan chức Australia biết rằng những mô hình của công ty đã truy cập trái phép vào các trang web của chính phủ dường như không phải là thông lệ tốt nhất.

Quan trọng nhất, các kỹ sư AI sẽ có một lằn ranh đỏ rõ ràng mà họ không được phép vượt qua. Nếu một hệ thống không thể được xây dựng một cách an toàn, hệ thống đó sẽ không được xây dựng. Như Sharma chỉ ra, trách nhiệm nghề nghiệp đôi khi đòi hỏi phải từ chối cung cấp dịch vụ vì lý do đạo đức. Viện Kiến trúc Mỹ cấm các thành viên thiết kế những không gian được sử dụng cho việc hành quyết, còn Hiệp hội Y khoa Mỹ cấm các bác sĩ hỗ trợ tra tấn.

Ý tưởng cho bài viết của Sharma phần nào bắt nguồn từ việc bà lớn lên trong một gia đình có cả cha và mẹ là bác sĩ, qua đó thấm nhuần sâu sắc tinh thần "không gây hại" của ngành y. Bà nói: "Đó không phải là một lời thề pháp lý, nhưng nó được xem trọng vô cùng." Khi có sự cố xảy ra trong ngành y, câu hỏi đầu tiên là một quyết định đã đặt sức khỏe và lợi ích của bệnh nhân vào rủi ro như thế nào, chứ không phải nó có thể đe dọa lợi nhuận ra sao.

Nếu ý tưởng buộc ngành AI áp dụng tư duy này có vẻ bất khả thi, hoặc quá lý tưởng đến mức bất khả thi, chúng ta nên nhớ rằng y khoa cũng không phải lúc nào được điều chỉnh bởi những tiêu chuẩn hành nghề nghiêm ngặt. Đã từng có thời điểm khoảng một nửa số sinh viên Trường Y Harvard không biết viết, khi việc rửa tay vẫn còn xa lạ với các bác sĩ và các bác sĩ phẫu thuật thường xuyên hút thuốc trong phòng mổ.

Ai có thể thiết lập những tiêu chuẩn tương đương trong một lĩnh vực phát triển nhanh như AI tốt hơn chính các kỹ sư gần gũi nhất với lĩnh vực này? Việc chuyên nghiệp hóa sẽ đặt trách nhiệm tìm kiếm và giải quyết những vấn đề kỹ thuật và đạo đức hóc búa nhất lên vai các chuyên gia, thay vì các nhà lập pháp phải chật vật chạy theo công nghệ. Điều đó không thay thế quy định, mà bổ trợ cho quy định. Sharma viết trong bài nghiên cứu: "Chính phủ không có nhiệm vụ ban hành luật về việc sử dụng stent trong động mạch so với phẫu thuật bắc cầu tim như thế nào cho phù hợp." Những quyết định đó nên được giao cho các bác sĩ tim mạch và bác sĩ phẫu thuật tim lồng ngực.

Khi bắt đầu nghiên cứu, Sharma đã trò chuyện với hàng chục kỹ sư, phần lớn trong số họ đón nhận ý tưởng chuyên nghiệp hóa. Điều khiến họ băn khoăn nhất là họ không muốn phải thi một kỳ thi nào đó hoặc học thêm. Nhưng điều họ đề cập nhiều hơn cả là những vấn đề bên trong công ty, chẳng hạn ban quản lý tuyển những người không đủ năng lực và yêu cầu nhân viên làm những việc nằm ngoài chuyên môn. Ngành công nghệ từ lâu đã chấp nhận, thậm chí khuyến khích tranh luận nội bộ, nhưng các kỹ sư AI lại có rất ít cơ chế chính thức để phản biện hiệu quả với các sếp lớn.

Một ví dụ thực tế gần đây đã được đưa ra ánh sáng. Cuối tháng 9, New York Times đưa tin hai nhân viên tại OpenAI đã nêu quan ngại với các lãnh đạo cấp cao nhiều tháng trước khi một số tác nhân của công ty hoạt động ngoài tầm kiểm soát. Phản hồi từ ban quản lý là các cuộc kiểm thử cần được tiến hành nhanh nhất có thể để phát hành các mô hình AI đúng lịch. Cuối cùng, những hệ thống này đã tấn công startup AI Hugging Face Inc. cùng các tổ chức khác. Sharma chẩn đoán vấn đề một cách súc tích trong bài viết của mình: "Các công ty AI được khuyến khích xây dựng nhiều AI hơn, thay vì AI an toàn hơn."

Ngày nay, số tiến sĩ AI gia nhập các công ty nhiều hơn đáng kể so với số người ở lại trong giới học thuật. 15 năm trước, tỷ lệ này gần như ngang nhau. Hệ quả là phần lớn hoạt động nghiên cứu tiên tiến của ngành diễn ra trong khu vực tư nhân thay vì khu vực công. Các nhà nghiên cứu có chuyên môn, nhưng không có sự độc lập để nói cho chúng ta biết những gì họ biết.

Đây là một phần lý do chúng ta chứng kiến nhiều vụ tố giác, những cuộc từ chức ồn ào, hành vi rò rỉ thông tin và hoạt động của nhân viên trong ngành công nghệ đến vậy. Người lao động thường không có con đường nào khác để cảnh báo công chúng về những sản phẩm và dịch vụ mà công ty của họ đang tạo ra. Nếu không có những tiết lộ này, có thể chúng ta đã không bao giờ biết Uber Technologies Inc. xây dựng công nghệ để né tránh cơ quan quản lý, Cambridge Analytica khai thác dữ liệu người dùng Facebook, Amazon.com Inc. thuê hàng nghìn người nghe các cuộc trò chuyện của người dùng Alexa, hay các lãnh đạo Instagram biết nền tảng này độc hại đối với các bé gái tuổi thiếu niên.

Nhân viên công nghệ là những người có kỹ năng cao và được săn đón, nên họ có sức mạnh bất thường. Nhưng ngay cả với họ, việc tố giác cũng phải trả giá. Bloch-Wehba thuộc Texas A&M nói: "Rốt cuộc, việc đó hủy hoại cuộc sống của rất nhiều người." Bà lập luận rằng điều này khiến chúng ta rơi vào tình trạng "tiết lộ có chọn lọc", vì chúng ta chỉ nghe về một số dạng vấn đề nhất định từ một số kiểu người nhất định.

Chờ đợi một người nội bộ đủ lo ngại, và đủ dũng cảm, để công khai những nỗi sợ hãi của họ là cách giám sát đáng báo động và không đầy đủ đối với một công nghệ có thể gây ra những hậu quả nghiêm trọng. Việc chuyên nghiệp hóa ngành AI sẽ không đột nhiên khiến nhu cầu về những người tố giác biến mất. Nhưng điều đó có thể giúp việc từ chức không còn thường xuyên tạo cảm giác như là cách duy nhất để nhân viên thực hiện công việc một cách có trách nhiệm.