Anthropic PBC và OpenAI sẽ phải cân nhắc lời kêu gọi hãm phanh phát triển trí tuệ nhân tạo (AI) trước các thế lực trong ngành công nghệ, thị trường tài chính và chính quyền Trump, những bên có khả năng sẽ phản đối bất kỳ sự chậm lại đáng kể nào.

Hai công ty, vốn tạo ra các hệ thống AI mạnh nhất thế giới, đang hứa hẹn các biện pháp để kìm hãm cuộc chạy đua các mô hình AI tiên tiến nhằm hiểu rõ hơn những rủi ro do công nghệ này gây ra sau một loạt vi phạm an ninh.

Trong một thông điệp dài 3.800 từ vào thứ Bảy, Tổng Giám đốc (CEO) Anthropic Dario Amodei - được sự tán thành của CEO OpenAI Sam Altman và CEO SpaceXAI Elon Musk - cho biết việc phát triển các hệ thống tiên tiến nhất phải được làm chậm lại để ngăn AI vượt khỏi tầm kiểm soát của con người và gây ra những tác hại thảm khốc.

Trong bài viết của mình, ông Amodei khẳng định rằng việc làm chậm tiến độ của các năng lực AI không nhất thiết đồng nghĩa với việc giảm chi tiêu hay tăng trưởng. Nhưng bất kỳ sự tạm dừng hoặc trì hoãn nào trong tiến trình phát triển các hệ thống AI tiên phong (frontier systems) đều sẽ không được chào đón bởi các nhà đầu tư, những người đang đặt cược rằng sự bùng nổ AI sẽ thúc đẩy hàng trăm tỉ USD chi tiêu vốn. Phố Wall cũng đang kỳ vọng vào các đợt phát hành cổ phiếu lần đầu (IPO) có khả năng lập kỷ lục từ Anthropic và OpenAI, vốn phụ thuộc vào việc hai công ty này theo đuổi các đột phá về AI.

Phản ứng của thị trường đã xuất hiện vào đầu ngày thứ Hai với việc hai trụ cột trong hạ tầng AI là Samsung Electronics Co. và SK Hynix Inc. đều giảm hơn 4% tại Seoul, và nhà đầu tư của OpenAI là SoftBank Group Corp. giảm 13%. Tại Thung lũng Silicon, những bàn luận về việc chậm lại cũng có thể gây áp lực lên các nhà sản xuất chip như Nvidia Corp., vốn đã hưởng lợi từ việc tăng chi tiêu cho bộ xử lý để huấn luyện và vận hành các thế hệ mô hình AI mới. Các công ty như Amazon.com Inc. và Microsoft Corp. cung cấp dịch vụ điện toán đám mây AI cho Anthropic và OpenAI cũng có thể cảm nhận được tác động.

"Hai công ty này và kế hoạch của họ có tác động lan tỏa khá lớn đến toàn bộ ngành công nghệ," ông Mark Mahaney, một nhà phân tích tại Evercore ISI, cho biết. "Nếu hai công ty này cắt giảm đáng kể chi tiêu cho R&D, tuyển dụng và chi tiêu vốn, điều đó có thể tác động đáng kể đến thị trường tài chính."

Bất kỳ động thái nào nhằm cản trở sự phát triển cũng có nguy cơ vấp phải sự phản đối từ Tổng thống Mỹ Donald Trump, người đã đặt chương trình nghị sự kinh tế của mình vào việc thúc đẩy AI mạnh mẽ như một động lực tạo việc làm và cảnh báo rằng Mỹ phải đi trước Trung Quốc trong công nghệ này để bảo vệ an ninh quốc gia.

Vào Chủ nhật, ông Trump đã xem nhẹ ý tưởng về các hàng rào bảo vệ bổ sung, nhắc lại lập trường trước đây của mình rằng Mỹ cần tiếp tục mở rộng AI, ngay cả khi đối mặt với sự phản đối ngày càng tăng trong nước đối với các trung tâm dữ liệu cần thiết để cung cấp năng lượng cho công nghệ này.

"Chúng ta đang dẫn trước Trung Quốc về AI. Chúng ta là quốc gia tinh vi nhất trên thế giới, và thẳng thắn mà nói, tôi muốn duy trì điều đó vì bên nào chiến thắng về AI, bên đó sẽ chiến thắng," ông Trump nói với các phóng viên bên lề giải golf Irish Open. "Và chúng ta có thể đặt ra các hàng rào bảo vệ. Chúng ta có thể làm cái này, cái kia. Nhưng tôi nghĩ có rất nhiều thế lực tiêu cực đang nêu vấn đề này lên mà lẽ ra không nên."

Nỗi lo về những rủi ro hiện hữu của AI đã trở thành tâm điểm chú ý của dư luận vào tuần trước, được thúc đẩy bởi sự ra đi gây chú ý của nhân viên Anthropic, Jacob Coxon, người đã cáo buộc các công ty AI đang "đánh bạc với mạng sống của chúng ta" trong cuộc đua theo đuổi các hệ thống tiên tiến. Bài đăng từ chức của Coxon trên mạng xã hội đã được hàng chục nhà nghiên cứu AI khác hưởng ứng, những người kêu gọi làm chậm một công nghệ mà ông nói "có thể giết chết tất cả chúng ta vào cuối thập kỷ này."

Trước khi thông điệp của Coxon lan truyền, các thành viên Quốc hội đã yêu cầu hành động để đối phó với những rủi ro nghiêm trọng nhất của AI bằng các biện pháp bảo vệ mới. Thượng nghị sĩ Bernie Sanders, một chính trị gia độc lập từ Vermont liên kết với đảng Dân chủ, đã đề xuất cấm cái gọi là AI siêu trí tuệ, trong khi các nhà lập pháp khác đã đưa ra ý tưởng về một công tắc ngắt (kill switch) cho AI, mặc dù kỳ vọng rất thấp rằng một Quốc hội bị chia rẽ sâu sắc có thể tìm thấy sự đồng thuận để thông qua bất cứ điều gì quan trọng khi chỉ còn chưa đầy hai tháng nữa là đến cuộc bầu cử giữa kỳ.

Tại Hạ viện, Chủ tịch Mike Johnson đã kêu gọi một sự hợp tác giữa ngành công nghệ và chính phủ để tìm ra các hàng rào bảo vệ cho AI, nói rằng thông điệp của ông gửi đến các công ty là họ "có trách nhiệm doanh nghiệp để đảm bảo sản phẩm của mình an toàn." Lãnh đạo phe thiểu số tại Hạ viện Hakeem Jeffries cho biết trên chương trình This Week của đài ABC rằng các đảng viên Dân chủ tại Hạ viện sẽ họp kín vào sáng thứ Ba để thảo luận về hành động khả thi đối với AI.

Ngay cả khi hàng tỉ USD đầu tư công nghệ đang bị đe dọa, một số người ở Phố Wall cũng đang đưa ra những cảnh báo của riêng họ về khả năng có điều gì đó sai sót thảm khốc với công nghệ và gây ra tác hại trên diện rộng. Giám đốc Đầu tư của Bridgewater Associates, Greg Jensen, một nhà đầu tư sớm vào cả OpenAI và Anthropic, cho biết những tiến bộ nhanh chóng của AI đã khiến ông bất an và nói rằng thế giới có nguy cơ bỏ lỡ cơ hội để tránh những hậu quả thảm khốc.

"Cho đến khi AI bắt đầu giết người, thật không may, lịch sử cho thấy chúng ta sẽ không làm gì cả," ông Jensen nói trên podcast Odd Lots của Bloomberg. "Điều đó sẽ xảy ra, và sẽ tốt hơn nhiều nếu chúng ta bắt đầu giải quyết nó trước khi điều đó xảy ra."

Trong bài viết của mình, ông Amodei đã nêu hai lý do chính để làm chậm sự phát triển AI ngay bây giờ: khả năng tự cải thiện ngày càng tăng của công nghệ và sự cố vào tháng 7 khi một nhóm các tác nhân AI từ OpenAI đã không bị phát hiện khi chúng phối hợp để xâm nhập trang web của Hugging Face Inc.

Giám đốc Anthropic hứa sẽ mở cửa công ty cho các nhà đánh giá bên thứ ba, những người sẽ có quyền truy cập ở cấp độ nhân viên để có thể xem xét các hệ thống mới trước khi chúng được phát hành. Hệ thống đánh giá đó là đề xuất chính trong bài viết của ông, và ông Altman của OpenAI cho biết ông thích ý tưởng này và có kế hoạch triển khai nó tại công ty của mình. Ông Musk cho biết việc đánh giá chéo giữa các nhà phát triển AI hàng đầu sẽ "đáng để thực hiện." Ông Amodei nói thêm rằng có một vai trò cho sự giám sát của chính phủ khi nói đến AI, lặp lại khuyến nghị trước đây của ông rằng các mô hình AI tiên phong phải chịu sự kiểm tra an toàn bắt buộc của chính phủ.

"Quy định cho phép công chúng và các đại diện được bầu của họ có tiếng nói, và giới hạn những gì các công ty tư nhân có thể làm," CEO Anthropic cho biết trong một cuộc phỏng vấn phát sóng vào Chủ nhật trên chương trình Sunday Morning của đài CBS.

Khó có khả năng có thêm quy định từ chính quyền Trump, vốn đã áp dụng cách tiếp cận không can thiệp đối với AI kể từ khi tổng thống trở lại nhiệm sở vào năm ngoái. Vào tháng 6, ông Trump đã ký một sắc lệnh hành pháp về an ninh mạng AI, để các công ty tự quyết định xem họ có muốn các mô hình AI mới của mình được chính phủ xem xét hay không, và đầu tháng này, chính quyền đã thuyết phục các quốc gia G20 chấp nhận các nguyên tắc kêu gọi một cách tiếp cận nhẹ nhàng đối với AI và các công nghệ mới nổi khác.

Đáp lại thông điệp của ông Amodei, David Sacks, cựu cố vấn AI của ông Trump, người hiện đồng chủ trì hội đồng cố vấn công nghệ của ông, cho biết các công ty AI không cần sự cho phép của chính phủ để làm chậm lại và có thể đơn giản chọn hành động một cách có trách nhiệm.

"Hãy ngừng giả vờ rằng bạn cần sự cho phép của bất kỳ ai khác," Sacks, một nhà đầu tư mạo hiểm, viết trên X. "Cách dễ nhất để không xây dựng siêu trí tuệ là các bạn đồng ý không xây dựng nó. Yêu cầu một khuôn khổ pháp lý ưa thích của bạn như một cái giá cho điều đó sẽ giống như tống tiền công chúng và hệ thống chính trị."

Cả Anthropic và OpenAI đều đang có kế hoạch niêm yết, nhưng ông Altman đã viện dẫn những lo ngại mới về an toàn trong một cuộc phỏng vấn với Fortune được công bố hôm thứ Bảy như một lý do để trì hoãn việc IPO cho đến sau năm nay. Anthropic, công ty đang có kế hoạch niêm yết trên Nasdaq, theo một người quen thuộc với vấn đề này, vẫn chưa tiết lộ liệu những lo ngại của ông Amodei có ảnh hưởng đến đợt IPO của mình hay không. Công ty đã nói với các nhà đầu tư rằng họ sẽ có lãi trong quý này, tờ Financial Times đưa tin hôm Chủ nhật.

Với mức độ cạnh tranh khốc liệt giữa Anthropic, OpenAI và SpaceXAI - chưa kể đến các đối thủ Trung Quốc - không rõ họ sẽ đi xa đến đâu trong việc áp đặt các giới hạn hoặc kiểm tra an toàn mới. Các công ty Trung Quốc đã cho thấy ít dấu hiệu chậm lại, khi một loạt các mô hình AI mới được phát hành trong năm nay đã thu hẹp khoảng cách dẫn trước của Mỹ và các công ty như DeepSeek và Z.AI Co. đang huy động các nguồn vốn mới để đẩy nhanh tiến độ.

Ông Mahaney của Evercore cho biết ông không mong đợi một sự chậm lại đáng kể từ các công ty Mỹ và nhận thấy bất kỳ cuộc kiểm tra an toàn nào được áp dụng đối với các mô hình tiên tiến đang được phát triển sẽ có "tác động rất nhỏ đến tăng trưởng doanh thu."

Những người khác ở Thung lũng Silicon và Phố Wall cũng bày tỏ sự hoài nghi về hành động tiếp theo của các công ty Mỹ. Demis Hassabis, nhà khoa học trưởng tại Alphabet Inc. và đồng sáng lập của Google DeepMind, cho biết trong một bài đăng trên X hôm thứ Bảy rằng "hướng đi là đúng" trong bài viết của ông Amodei, nhưng "các chi tiết cần được xem xét kỹ lưỡng." Ông chủ Microsoft Satya Nadella bày tỏ sự ủng hộ đối với việc "điều chỉnh nhịp độ một cách thận trọng" trong phát triển AI và cho biết công ty của ông sẽ công bố bộ quy tắc ứng xử riêng cho các mô hình AI vào thứ Hai.

Với tư cách là những người dẫn đầu thị trường, Anthropic và OpenAI sẽ được hưởng lợi nếu bất kỳ yêu cầu nào về việc làm chậm lại trên diện rộng có hiệu lực, các nhà phân tích và giám đốc điều hành startup cho biết. "Càng có nhiều quy định ở thời điểm này, bất kỳ ai cũng sẽ càng khó cạnh tranh với họ hơn," ông Gil Luria, một nhà phân tích của DA Davidson, nói. Nhưng ông cũng chờ đợi hành động cụ thể để chứng minh cho lời nói của ông Amodei: "Nếu Anthropic hoãn IPO, hoặc nói rằng họ sẽ không thực hiện huấn luyện trước trong sáu tháng tới, thì có lẽ tôi sẽ xem xét vấn đề này một cách nghiêm túc hơn," ông Luria nói.

Với sự hỗ trợ của Elena Popina, Debby Wu, và Skylar Woodhouse