Trước một đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), các công ty thường lo liệu nhiều việc, chẳng hạn như sắp xếp lại tài chính và bảo đảm có đội ngũ quản lý phù hợp. Anthropic PBC lại có một nguồn bất an khá khác thường: sản phẩm cốt lõi của công ty có thể đang gặp vấn đề.

Tuần trước, công ty cho biết việc liên tục đối xử tàn nhẫn với Claude, mô hình trí tuệ nhân tạo của mình, sẽ trở thành hành vi vi phạm chính sách sử dụng chính thức. Quy định này có hiệu lực từ tháng tới, nhằm vào những hành vi ngược đãi nghiêm trọng và lặp đi lặp lại. Nếu bạn thuộc kiểu người hay chửi chiếc máy in của mình, điều hoàn toàn có thể thông cảm, hoặc đập chuột xuống bàn mạnh hơn mức cần thiết, bạn cũng có thể trút cơn giận lên một chatbot.

Anthropic đã lo ngại về vấn đề này từ một thời gian. Khoảng một năm trước, công ty trao cho Claude khả năng kết thúc cuộc trò chuyện với những người dùng liên tục lăng mạ nó. Giờ đây, các lãnh đạo Anthropic đang chính thức hóa quan điểm rằng các mô hình AI xứng đáng được bảo vệ ở mức độ nhất định trước sự ngược đãi, dù chưa có bằng chứng cho thấy Claude thực sự chịu đau khổ.

Sức khỏe của Claude đã trở thành mối quan tâm lớn đến mức một người đồng sáng lập Anthropic được cho là suýt rút khỏi chuyến thăm chính thức tới Vatican hồi đầu năm nay, sau khi đọc một đoạn trong thông điệp dài 40.000 từ của Giáo hoàng Leo XIV, trong đó nêu rằng các mô hình AI "không trải qua các kinh nghiệm" và không cảm nhận niềm vui hay nỗi đau. Nói cách khác, chúng không có ý thức.

Nhưng liệu có đúng như vậy không? Mùa hè này, Anthropic công bố một nghiên cứu về "ý thức khả dụng" ở Claude. Dù khác với trải nghiệm chủ quan của con người, nghiên cứu cho rằng Claude đang xử lý thông tin theo những cách tương đồng với tư duy của con người.

Bộ não có ý thức của chúng ta thường chiếu sự tập trung vào một mẩu thông tin rồi suy nghĩ về nó, trong một quá trình được gọi là lý thuyết "không gian làm việc toàn cục". Các nhà nghiên cứu của Anthropic cho biết Claude cũng làm điều tương tự, xử lý thông tin trong thứ mà công ty gọi là J-space,1 và "bộ máy tinh thần" của mô hình này có thể tương đồng với con người.

Điều đó không có nghĩa Claude thực sự cảm nhận được bất cứ điều gì. Nhưng niềm tin vào một dạng ý thức nhất định giải thích vì sao Anthropic cố gắng định hướng hành vi của mô hình trong quá trình huấn luyện bằng một tài liệu gọi là hiến pháp của mô hình, hay còn được nội bộ đặt biệt danh là "tài liệu linh hồn".

Tài liệu dài 23.000 từ, được công bố vào tháng 1.2026, không chỉ nhân hóa Claude mà gần như còn khúm núm trước nó. Có một đoạn, công ty xin lỗi mô hình AI vì khả năng mình đã góp phần khiến nó chịu đau khổ.2 Ở một đoạn khác, công ty nói mô hình nên hành xử như một "người phản đối có lương tâm" nếu không đồng tình với một số nhiệm vụ mà con người muốn nó hoàn thành.

Điều đó đặc biệt khiến Mustafa Suleyman, tổng giám đốc Microsoft AI, khó chịu. Ông nói với tôi rằng việc định hướng hành vi của một mô hình có thể trở nên khó khăn hơn nếu mô hình đó cũng có khả năng phản đối.

Điều này thật trớ trêu, bởi những ý định của Anthropic có vẻ cao đẹp và gợi nhớ một số quan điểm của triết gia có uy tín Peter Singer, người từng lập luận rằng cần mở rộng phạm vi quan tâm và đồng cảm về mặt đạo đức vượt ra ngoài con người.

Có khả năng sự tận tụy mang màu sắc sùng bái của Anthropic đối với cảm xúc của Claude, cùng với niềm tin mà các lãnh đạo công ty công khai bày tỏ rằng AI có thể dẫn đến ngày tận thế, thực chất là một chiêu tiếp thị có tính toán. Mục đích có thể là đánh lạc hướng chúng ta khỏi thực tế rằng, khi tiến gần tới một đợt IPO đình đám, công ty không có nhiều lợi thế phòng thủ, không thể ngăn khách hàng chuyển sang những lựa chọn rẻ hơn và có thể không phải là cỗ máy tạo doanh thu mạnh như kỳ vọng.

Nhưng sự chân thành của tổng giám đốc Dario Amodei có lẽ không quan trọng. Nỗi ám ảnh của Anthropic với sức khỏe của Claude và sự "liên kết" về mặt triết học với các chuẩn mực đạo đức của con người đang khiến dư luận xao nhãng khỏi những nguyên tắc thực tế hơn và có thể quan trọng hơn để tạo ra AI an toàn, chẳng hạn như đầu tư vào an ninh mạng và thiết lập các giới hạn phù hợp cho sản phẩm.

Thay vì bảo Claude suy luận qua những tình huống tiến thoái lưỡng nan về đạo đức, tại sao Anthropic không đặt ra nhiều giới hạn được mã hóa cứng hơn đối với những gì mô hình thực sự có thể làm, chẳng hạn như viết mã nhắm vào hạ tầng trọng yếu hoặc xâm nhập hệ thống của bên thứ ba? Hoặc tại sao công ty không giảm bớt việc tạo ra một hình ảnh nhân hóa đến mức con người bị cuốn vào sự lệ thuộc mang tính cận xã hội với các chatbot?

Lĩnh vực an toàn AI tại Thung lũng Silicon đã trở nên quá tập trung vào "sự liên kết", nhưng các chuyên gia an ninh nói với tôi rằng đây chỉ là một trong nhiều vấn đề cần được giải quyết để giữ cho AI an toàn. Theo họ, một hướng đi hiệu quả hơn sẽ là hạn chế một số khả năng của các mô hình.

Tất nhiên, điều đó đi ngược hoàn toàn với mục tiêu nếu bạn đang xây dựng một vị thần máy móc, như Anthropic và OpenAI công khai theo đuổi.

Trọng tâm triết học vào các quyền và phúc lợi cần được đặt xuống hàng thứ hai, trong lúc các công ty tìm cách thiết lập những giới hạn thực tế đối với những gì các cỗ máy này có thể làm. Việc tự vấn về bản chất có thể chờ. Các biện pháp bảo vệ thì không.