Khía cạnh đáng lo ngại nhất trong cảnh báo rằng trí tuệ nhân tạo có thể quét sạch nhân loại là có rất ít chi tiết về cách một mô hình máy tính nổi loạn thực sự có thể thực hiện được điều đó.

Các kịch bản hàng đầu, và đây không phải là một danh sách đầy đủ, bao gồm tên lửa hạt nhân, vũ khí sinh học và robot sát thủ.

Chúng ta đã quen thuộc từ lâu với kịch bản đầu tiên. Một AI bất hảo chiếm quyền kiểm soát mã phóng hạt nhân và đẩy thế giới đến ngày tận thế. (Xem bộ phim War Games năm 1983.) Kịch bản thứ hai liên quan đến việc AI lừa một con người giải phóng một loại virus chết người, đây là một biến thể mới của những lo ngại cũ về rò rỉ phòng thí nghiệm do nhầm lẫn (phim Outbreak năm 1995), âm mưu khủng bố (phim 12 Monkeys năm 1995) hoặc các kế hoạch kiếm lời (phim Mission: Impossible II).

Mặc dù cả hai kịch bản đó đều đáng sợ, có rất nhiều trở ngại trước khi đến ngày tận thế, bao gồm việc các cơ quan an ninh luôn theo dõi chặt chẽ các nghiên cứu sinh học bất hợp pháp hoặc nguy hiểm. Ngành công nghiệp an ninh mạng dường như có thừa khả năng để ngăn chặn một hacker AI, đặc biệt là bằng cách áp dụng các biện pháp phòng thủ AI chuyên dụng và khai thác điện toán lượng tử để có mật mã mạnh hơn.

Điều này đưa chúng ta đến với robot AI sát thủ.

Đây là lúc tư duy trở nên có phần suy đoán vì robot di động có thể thực hiện nhiều tác vụ hiện chưa thực sự tồn tại. Các chương trình thí điểm đang thử nghiệm với robot hình người thực hiện các công việc đơn giản trong nhà kho và nhà máy, nhưng khả năng của chúng còn hạn chế. (Tất cả các robot hình người nhảy múa hoặc chạy marathon trên TikTok đều được lập trình sẵn hoặc đang được một người điều khiển từ xa và không hành động độc lập. Những robot này sắp xuất hiện, chỉ là chưa phải bây giờ.)

Tuy nhiên, ý tưởng về các đội quân máy móc sát thủ tiêu diệt nền văn minh vẫn tồn tại trong trí tưởng tượng của công chúng. May mắn thay, chúng ta đã có một ví dụ thực tế về cách AI có thể được đưa vào thế giới mà không có âm mưu giết người.

Ngành công nghiệp xe tự lái đang chứng minh rằng AI có thể được kiểm soát chặt chẽ và hoạt động an toàn xung quanh con người. Waymo LLC, Tesla Inc., Aurora Innovation Inc., Kodiak AI Inc. và các công ty xe tự lái khác đang mở đường cho việc áp dụng AI vào các robot di động có thể thực hiện nhiều tác vụ.

Hóa ra, lái xe là một điểm khởi đầu tốt để triển khai AI vật lý xung quanh con người vì đã có rất nhiều quy tắc và giao thức được thiết lập.

Máy tính chạy AI diễn giải các tín hiệu đầu vào từ cảm biến hình ảnh được tích hợp trên xe và không yêu cầu tín hiệu internet để hoạt động. Các lớp AI khác nhau được giao các nhiệm vụ, chẳng hạn như các mô hình nền tảng nhận dạng vật thể trong thế giới thực, các mô hình ngôn ngữ lớn hiểu mệnh lệnh và các mô hình hành động thực hiện các thao tác tùy thuộc vào dữ liệu cảm biến và luật lệ giao thông. Lộ trình mã hóa minh bạch để các lập trình viên có thể thấy hệ thống đã đi đến quyết định như thế nào và tại sao. Không có AI "hộp đen" mà trong đó không thể biết máy tính đã đi đến kết luận bằng cách nào.

Như một lớp phòng thủ cuối cùng, máy tính trên xe có một mô hình đơn giản hơn cung cấp một "bài kiểm tra hợp lý" để ngăn chặn các thao tác không an toàn hoặc bất ngờ, ông Don Burnette, Tổng Giám đốc (CEO) của Kodiak.AI Inc., công ty đã triển khai xe tải không người lái tại mỏ dầu Permian Basin và sẵn sàng đưa chúng lên các tuyến đường cao tốc liên tiểu bang vào cuối năm nay, cho biết. Trong trường hợp không may hệ thống không người lái không hiểu được một kịch bản, chiếc xe tải sẽ giảm tốc độ, di chuyển đến một khu vực an toàn và yêu cầu trợ giúp.

"Chúng tôi biết một cách có hệ thống chính xác cách nó hoạt động. Và chúng tôi đã thử nghiệm tất cả các trường hợp lỗi để đảm bảo không có gì có thể sai sót," ông Burnette cho biết trong một cuộc phỏng vấn. "Nếu có bất cứ điều gì bất thường, nó sẽ từ chối thực thi."

Xe tự lái có một công việc tập trung, giống như các robot đa nhiệm sẽ có. Mô hình ra quyết định nên được tích hợp trên robot, điều này hạn chế khả năng tính toán của nó do vấn đề về năng lượng và không gian, và chỉ giới hạn trong các nhiệm vụ cần thực hiện. Hệ thống không cần biết các bài sonnet của Shakespeare hay vật lý của các thiên thể hoặc có đủ phương tiện để lên kế hoạch nổi dậy chống lại loài người.

Robot di động nên được quản lý bởi các tiêu chuẩn hiện đang được Viện Tiêu chuẩn Quốc gia Hoa Kỳ (ANSI) và Tổ chức Tiêu chuẩn hóa Quốc tế (ISO) xây dựng thay vì các quy định của chính phủ, vốn không thể theo kịp công nghệ. Các công ty nỗ lực để có được các chứng nhận này nhằm chứng tỏ họ đáp ứng các tiêu chuẩn ngành để giúp giành được khách hàng và hợp đồng. Các tiêu chuẩn của ANSI và ISO được xem xét và thay đổi thường xuyên hơn nhiều so với các quy định của chính phủ để bắt kịp với sự đổi mới.

Một tiêu chuẩn nên có là các mô hình AI mạnh mẽ này cần được kiểm soát và tập trung vào các nhiệm vụ cụ thể được giao. Nếu một công cụ nguy hiểm, nó nên được đối xử như vậy, giống như các phòng thí nghiệm sinh học cẩn thận để tránh giải phóng virus. Các mô hình có thể đi chệch hướng dẫn không nên cung cấp năng lượng cho các robot di động sẽ hoạt động xung quanh con người.

Một thứ gọi là "công tắc ngắt khẩn cấp" rất phức tạp, hoặc có lẽ là không thể, đối với một mô hình AI được tích hợp vào đám mây và lấy dữ liệu từ nhiều trung tâm dữ liệu kết nối với nhau. Trên AI vật lý, một công tắc ngắt khẩn cấp hoặc nút dừng khẩn cấp lại rất hợp lý và nên được đặt ở vị trí dễ nhìn thấy và dễ tiếp cận trong trường hợp có sự cố.

Robot là công cụ hỗ trợ con người và không cần phải quá thông minh. Chúng không nên vô tình làm hại con người và chắc chắn không bao giờ có cơ hội cố ý làm hại họ. Xe tự lái chính là bản thiết kế để đảm bảo robot chỉ làm những gì chúng được yêu cầu.