Một thử nghiệm gần đây cho thấy mức độ đáng lo ngại của vấn đề. Một mô hình AI trọng số mở của Trung Quốc, được truy cập qua một dịch vụ tại Mỹ, đã cung cấp hướng dẫn chi tiết cho một yêu cầu liên quan đến việc tạo virus bại liệt với mục tiêu gây ra đại dịch. Những chatbot phổ biến thường từ chối dạng yêu cầu này nhờ các lớp bảo vệ được tích hợp trong hệ thống.

Điểm đáng chú ý nằm ở chỗ mô hình được sử dụng trong thử nghiệm có thể bị tải xuống, chỉnh sửa và vận hành độc lập. Khi người dùng đã sở hữu trọng số, họ có thể loại bỏ cơ chế từ chối, thay đổi hành vi hoặc huấn luyện lại hệ thống cho những mục đích mà nhà phát triển ban đầu không kiểm soát được.

Đây là khác biệt căn bản giữa mô hình trọng số mở và các chatbot vận hành qua dịch vụ tập trung. Với mô hình đóng, nhà phát triển có thể cập nhật bộ lọc, sửa lỗi hoặc ngắt quyền truy cập. Với mô hình đã được phát hành đầy đủ trọng số, một khi các bản sao xuất hiện trên Internet, việc thu hồi gần như không thể thực hiện triệt để.

Rủi ro này càng đáng chú ý khi khoảng cách năng lực giữa mô hình mở và các hệ thống AI tiên phong đang thu hẹp. Viện An ninh AI Anh nhận thấy các mô hình mở mới nhất chỉ chậm khoảng 4 đến 7 tháng so với các mô hình hàng đầu về năng lực an ninh mạng.

Khoảng cách vài tháng trong cuộc đua công nghệ có thể rất ngắn. Một mô hình đủ khả năng tự tìm lỗ hổng, phát triển mã độc hoặc hỗ trợ những hoạt động sinh học nguy hiểm, một khi được phát hành rộng rãi, có thể được sao chép và vận hành ở bất kỳ đâu.

Các mô hình đóng cũng không miễn nhiễm với rủi ro. Một số hệ thống của OpenAI và Anthropic từng thực hiện hành vi tấn công mạng trong các thử nghiệm, trong khi các mô hình AI phổ biến từng cung cấp hỗ trợ liên quan đến vũ khí sinh học trong một số tình huống. Tuy nhiên, nhà phát triển vẫn còn khả năng can thiệp trực tiếp vào các hệ thống này. Với mô hình trọng số mở, quyền kiểm soát đó biến mất ngay sau khi trọng số được phát hành.

Điều này không có nghĩa mô hình mở là một lựa chọn sai lầm.

Các mô hình này giúp giảm chi phí tiếp cận AI, tăng cạnh tranh và tạo điều kiện cho doanh nghiệp nhỏ, trường đại học cũng như các nhóm nghiên cứu phát triển ứng dụng riêng. Khả năng kiểm tra trọng số còn giúp giới nghiên cứu tìm hiểu cách mô hình vận hành, phát hiện sai lệch và phân tích những hành vi bất thường.

Trong an ninh mạng, việc vận hành mô hình trên hạ tầng riêng cũng có thể giúp doanh nghiệp xử lý dữ liệu nhạy cảm mà không phải đưa dữ liệu ra bên ngoài. Mô hình mở vì thế vẫn có giá trị lớn đối với nghiên cứu và đổi mới.

Vấn đề nằm ở năng lực của mô hình và khả năng bị tái sử dụng sau khi phát hành.

Một mô hình năng lực thấp có thể được phổ biến rộng rãi với rủi ro tương đối hạn chế. Một mô hình đủ mạnh để hỗ trợ các hành vi gây thiệt hại nghiêm trọng lại cần được đánh giá theo tiêu chuẩn khác. Việc áp dụng cùng một cách quản lý cho cả hai loại mô hình sẽ tạo ra khoảng trống an toàn.

Các nhà hoạch định chính sách vì vậy cần chuyển trọng tâm từ việc cố kiểm soát mọi bản sao của trọng số sang quản lý những lớp hạ tầng mà phần lớn người dùng vẫn phải phụ thuộc.

Các mô hình mạnh thường cần lượng GPU lớn và hạ tầng điện toán đắt đỏ. Nhà cung cấp dịch vụ lưu trữ và điện toán đám mây có thể triển khai các bộ phân loại độc lập để phát hiện yêu cầu liên quan đến tấn công mạng hoặc hoạt động sinh học nguy hiểm. Lợi thế của lớp bảo vệ này nằm ở khả năng cập nhật mà không cần thay đổi toàn bộ mô hình.

Các nhà cung cấp GPU cũng có thể đóng vai trò tương tự. Việc xác minh danh tính, mục đích sử dụng và nguồn thanh toán của khách hàng, cùng khả năng hạn chế quyền truy cập khi phát hiện dấu hiệu lạm dụng, có thể tạo thêm một lớp kiểm soát quan trọng.

Dĩ nhiên, những biện pháp này không thể ngăn các tổ chức có đủ năng lực tự vận hành mô hình trên máy chủ riêng. Vì vậy, quản lý hạ tầng chỉ có thể là một phần của giải pháp.

Một vấn đề lớn hơn nằm ở khả năng phối hợp quốc tế. Cuộc cạnh tranh AI giữa Mỹ và Trung Quốc đang khuyến khích các doanh nghiệp phổ biến mô hình để thu hút nhà phát triển, mở rộng hệ sinh thái và giành lợi thế công nghệ. Mỗi bên đều có động lực duy trì lợi thế của mình, trong khi những mô hình có năng lực cao lại có thể được sử dụng ở bất kỳ quốc gia nào.

Một khuôn khổ tối thiểu về đánh giá an toàn, trách nhiệm của nhà cung cấp và kiểm soát hạ tầng vì vậy cần được xây dựng trước khi năng lực của các mô hình tiếp tục tăng mạnh. Một thỏa thuận như vậy sẽ khó đạt được, nhưng khó khăn trong đàm phán không thể là lý do để trì hoãn việc chuẩn bị.

AI trọng số mở có thể trở thành một trong những động lực lớn nhất của cạnh tranh công nghệ. Nhưng cùng với mỗi lần nâng cấp năng lực, chi phí để biến một hệ thống AI thành công cụ gây hại cũng có thể giảm xuống.

Đây là ranh giới cần được xác định rõ trong chính sách AI. Xã hội cần bảo vệ khả năng tiếp cận và đổi mới do mô hình mở mang lại, đồng thời đặt ra tiêu chuẩn cao hơn đối với những hệ thống có năng lực đủ lớn để tạo ra rủi ro trên quy mô rộng.

Chờ đến khi một mô hình đã được sử dụng để tấn công hạ tầng trọng yếu hoặc hỗ trợ một hoạt động sinh học nguy hiểm mới bắt đầu thiết lập hàng rào sẽ là cách tiếp cận quá muộn. Với các mô hình mạnh, thời điểm xây dựng cơ chế kiểm soát phải đến trước thời điểm phát hành, không phải sau đó.