Có một cách khá thuận tiện để con người tự trấn an trước sự trỗi dậy của AI: tìm một thứ máy chưa làm được rồi tuyên bố đó là bằng chứng cho sự khác biệt. Hôm nay có thể là sáng tạo, ngày mai là cảm xúc, ngày kia là đạo đức. Cách lập luận ấy có một nhược điểm: ranh giới năng lực của máy đang dịch chuyển nhanh hơn nhiều người tưởng.

AI đã vượt con người trong không ít nhiệm vụ từng được xem là cần trí thông minh. Nó đọc và tóm tắt lượng tài liệu mà một chuyên gia không thể xử lý trong nhiều năm, viết phần mềm, phân tích hình ảnh, tìm mẫu hình trong dữ liệu và thử nghiệm hàng nghìn phương án trong thời gian một người chỉ vừa bắt đầu suy nghĩ. Sẽ là sai lầm nếu đặt cược vào từng năng lực riêng lẻ của con người như những thành trì bất khả xâm phạm.

Có một thành trì khác đáng quan tâm hơn: con người là bên quyết định thành trì nào cần được xây.

Máy có thể tối ưu nhưng không tự sinh ra mục tiêu

Đây là khác biệt dễ bị bỏ qua khi người ta so sánh trí tuệ nhân tạo với trí tuệ con người bằng các bài kiểm tra năng lực. Một mô hình có thể tìm lời giải tốt hơn con người cho một bài toán đã được xác định. Nhưng trong đời sống kinh tế, phần khó thường xuất hiện trước khi bài toán được viết ra.

Một công ty không đơn giản cần biết làm thế nào để tối đa hóa lợi nhuận. Ban lãnh đạo phải quyết định lợi nhuận trong thời gian nào, chấp nhận mức rủi ro nào, hy sinh bao nhiêu khả năng phục hồi để giảm chi phí, và liệu một cơ hội sinh lời có đáng đánh đổi danh tiếng hay không. Những lựa chọn đó có thể được hỗ trợ bởi dữ liệu, nhưng không thể được quyết định chỉ bằng cách chạy thêm dữ liệu.

Herbert Simon gọi tình trạng này là “lý trí giới hạn”. Con người không có đủ thời gian, thông tin hay năng lực tính toán để tìm phương án tối ưu trong mọi tình huống, nên thường chọn một phương án đủ tốt. AI làm thay đổi đáng kể giới hạn ấy. Một hệ thống máy có thể tìm kiếm trên không gian phương án rộng hơn nhiều, ghi nhớ lâu hơn và hoạt động với tốc độ mà bộ não sinh học không thể cạnh tranh.

Điều đó khiến con người càng ít có lý do để cố bắt chước máy.

Nếu máy có thể tính toán tốt hơn, hãy để máy tính toán. Nếu nó có thể tìm ra 10.000 phương án, hãy để nó tìm. Giá trị của con người sẽ nằm ở câu hỏi khó hơn: trong số 10.000 phương án ấy, tại sao một phương án lại đáng được chọn?

Kinh tế học từ lâu đã biết rằng tối ưu hóa không đồng nghĩa với tối đa hóa phúc lợi. Một doanh nghiệp có thể giảm chi phí bằng cách tập trung toàn bộ nguồn cung vào một quốc gia, nhưng sự tiết kiệm ấy có thể trở thành thảm họa khi chiến tranh hoặc lệnh cấm thương mại xuất hiện. Một ngân hàng có thể cải thiện lợi nhuận bằng cách nới tiêu chuẩn tín dụng, nhưng mô hình rủi ro sẽ thay đổi khi chu kỳ kinh tế đảo chiều. Một nền tảng có thể tối đa hóa thời gian người dùng ở lại bằng cách đẩy những nội dung gây nghiện hơn, rồi phát hiện quá muộn rằng họ đã làm xói mòn niềm tin của chính mình.

Không có nghịch lý nào ở đây. Thuật toán có thể làm rất tốt điều được yêu cầu, trong khi người giao yêu cầu lại chưa nghĩ đủ kỹ về hậu quả.

Đó là lý do quyền xác định mục tiêu, đặt ràng buộc và bác bỏ kết quả có thể trở thành lợi thế quan trọng nhất của con người trong thời đại AI.

Khuyết điểm nhưng giá trị "người"

Sự tự tin của con người cũng không nên dựa trên một hình ảnh quá đẹp về chính mình. Con người thiên kiến, dễ bị cảm xúc chi phối, nhớ sai và thường đánh giá quá cao khả năng phán đoán của bản thân. Trong những nhiệm vụ có dữ liệu đầy đủ và mục tiêu rõ ràng, đó là những bất lợi thực sự.

Nhưng kinh tế không vận hành trong một phòng thí nghiệm như vậy.

Một nhà quản lý tuyển người không chỉ nhìn vào điểm số. Một nhà đầu tư không chỉ mua một bảng tính. Một nhà ngoại giao không thể giải quyết một cuộc thương lượng bằng cách tối ưu hóa một hàm lợi ích. Trong những tình huống ấy, ý nghĩa của một tín hiệu thường phụ thuộc vào bối cảnh, lịch sử quan hệ và những điều chưa được nói ra.

Cảm xúc có thể làm méo mó quyết định, nhưng cũng cung cấp thông tin. Sự nghi ngờ có thể khiến một nhà đầu tư bỏ qua một thương vụ tưởng như hấp dẫn. Sự đồng cảm giúp một nhà quản lý hiểu tại sao một nhân viên giỏi đang chuẩn bị rời đi dù các chỉ số hiệu suất vẫn tốt. Trực giác đôi khi chỉ là kinh nghiệm được nén lại thành một phản ứng nhanh, dù nó cũng có thể trở thành nguồn gốc của những sai lầm nghiêm trọng.

Điểm quan trọng không phải là con người luôn đúng còn máy luôn sai. Chẳng có bằng chứng nào cho một kết luận dễ chịu như vậy. Vấn đề là hai bên có những kiểu sai khác nhau, và một nền kinh tế khôn ngoan sẽ tìm cách để chúng kiểm soát lẫn nhau.

AI có thể phát hiện một mẫu hình mà con người bỏ qua. Con người cũng có thể nhận ra rằng mẫu hình ấy không nên được biến thành quyết định. Một hệ thống có thể đề xuất phương án có xác suất thành công cao nhất, nhưng người chịu trách nhiệm vẫn phải cân nhắc liệu cái giá của thất bại có thể chấp nhận được hay không.

Đó không phải là sự chống đối công nghệ. Nó là nguyên tắc quản trị.

Cổ tức của sự khác biệt

Nếu AI chỉ làm những gì con người đã làm nhưng nhanh hơn, câu chuyện về nó sẽ chủ yếu là câu chuyện thay thế lao động. Điều thú vị hơn là khả năng hai loại trí tuệ tạo ra giá trị bằng cách làm những việc khác nhau.

Hãy tưởng tượng một kỹ sư thiết kế một sản phẩm mới. AI có thể tạo ra hàng nghìn biến thể, mô phỏng hiệu suất và loại bỏ những phương án không đạt tiêu chuẩn. Kỹ sư không cần ngồi tính từng trường hợp. Họ có thể dành thời gian quyết định sản phẩm nên phục vụ ai, trải nghiệm nào đáng ưu tiên và những đánh đổi nào không thể chấp nhận.

Một nhà đầu tư cũng có thể để máy sàng lọc hàng chục nghìn doanh nghiệp, phát hiện những biến động bất thường hoặc mô phỏng các kịch bản. Nhưng cuối cùng vẫn phải có người quyết định liệu một cơ hội có phù hợp với khẩu vị rủi ro, thời hạn đầu tư và những giá trị của tổ chức hay không.

Đây là phân công lao động ở một cấp độ mới. Carbon cung cấp mục đích và phán đoán; Silicon cung cấp quy mô và khả năng tối ưu hóa. Một bên xác định “đáng giá”, bên kia tìm cách đạt được nó hiệu quả nhất.

Cấu trúc ấy chỉ hoạt động nếu quyền lực được phân bổ đúng chỗ. Trao cho AI quyền tối ưu một mục tiêu mà không có cơ chế kiểm soát mục tiêu là một cách rất hiệu quả để biến một sai lầm nhỏ thành một kết quả lớn. Ngược lại, bắt con người kiểm tra từng phép tính mà máy có thể thực hiện tốt hơn sẽ lãng phí chính lợi thế của công nghệ.

Bài toán quản trị AI, do đó, không phải là chọn giữa con người và máy. Nó là quyết định nơi nào cần tự động hóa, nơi nào cần giám sát và nơi nào phải giữ quyền phủ quyết của con người.

Điều này sẽ ngày càng quan trọng khi AI tiến sâu vào các quyết định có hậu quả thật. Một mô hình chấm điểm tín dụng có thể ảnh hưởng đến việc một người được vay tiền. Một hệ thống tuyển dụng có thể quyết định ai được bước qua cánh cửa đầu tiên. Một thuật toán phân bổ nguồn lực có thể xác định bệnh nhân nào được ưu tiên. Trong những trường hợp đó, câu hỏi “mô hình có chính xác không?” vẫn chưa đủ. Cần hỏi thêm: “Nó đang tối ưu điều gì, ai đặt ra mục tiêu đó và ai có quyền nói dừng?”

Đó là những câu hỏi của con người.

Có thể một ngày nào đó AI sẽ làm tốt hơn chúng ta ở cả những lĩnh vực hôm nay được coi là rất con người. Nếu vậy, việc cố giữ từng đặc quyền nhận thức như một bằng chứng về sự vượt trội của loài người sẽ chẳng có nhiều ý nghĩa.

Điều đáng bảo vệ không phải là một danh sách những việc máy chưa làm được. Nó là quyền của con người được quyết định điều gì đáng làm.

Máy có thể tính con đường ngắn nhất. Nó có thể dự báo thời tiết, tối ưu danh mục đầu tư, thiết kế nhà máy và viết ra hàng triệu dòng mã. Nhưng một xã hội vẫn phải quyết định mình muốn đi đâu, mức giá nào có thể chấp nhận và những ranh giới nào không được vượt qua, ngay cả khi vượt qua chúng đem lại một kết quả “tối ưu”.

Có lẽ đó mới là lý do thuyết phục nhất để con người vẫn tự tin trước Silicon. Không phải vì Carbon nhanh hơn, chính xác hơn hay thông minh hơn trong mọi cuộc chơi ... mà vì chúng ta vẫn là bên có thể hỏi liệu cuộc chơi ấy có đáng để tiếp tục hay không.