Một nhà nghiên cứu tại Anthropic rời ngành công nghiệp AI với cảnh báo các phòng thí nghiệm đang chạy đua phát triển những hệ thống có khả năng tự cải thiện, trong khi các công ty công nghệ tiếp tục đưa AI vào những lĩnh vực vốn phụ thuộc nhiều vào kinh nghiệm của con người, từ sản xuất đến nông nghiệp.

Nhà nghiên cứu Anthropic rời ngành vì lo AI tự cải thiện

Jacob Coxon, nhà nghiên cứu 27 tuổi chuyên về phương pháp huấn luyện mô hình AI bằng lượng dữ liệu lớn, cho biết ông rời Anthropic vì không muốn tiếp tục tham gia cuộc đua phát triển các hệ thống AI có khả năng tự cải thiện. Theo ông, quá trình này có thể dẫn tới những hệ thống vượt khỏi khả năng kiểm soát của con người.

Coxon từng rời OpenAI để gia nhập Anthropic vì công ty này được biết đến với định hướng chú trọng an toàn AI. Tuy nhiên, sau thời gian làm việc tại đây, ông cho rằng ngay cả một phòng thí nghiệm đặt vấn đề an toàn ở vị trí cao cũng khó phát triển một hệ thống có khả năng vượt con người trong nhiều nhiệm vụ mà vẫn bảo đảm kiểm soát, một mục tiêu thường được gắn với khái niệm trí tuệ nhân tạo tổng quát (AGI).

Những lo ngại này đang xuất hiện ngày càng rõ trong chính cộng đồng nghiên cứu AI. Một số nhà nghiên cứu sử dụng các khái niệm như "thời gian khủng hoảng" và "trò chơi kết thúc" để mô tả giai đoạn phát triển hướng tới các mô hình có khả năng tự cải thiện. Coxon cho rằng với tốc độ cạnh tranh hiện nay giữa các phòng thí nghiệm Mỹ và Trung Quốc, những sự cố về an toàn có thể trở nên khó tránh khỏi.

Anthropic không bình luận về việc Coxon rời công ty. Giám đốc điều hành Dario Amodei cùng một số lãnh đạo khác của Anthropic trước đó cũng nhiều lần cảnh báo về rủi ro từ các mô hình AI có năng lực cao và kêu gọi ngành công nghiệp thận trọng hơn với tốc độ phát triển.

Sau thông tin Coxon rời đi, Evan Hubinger, một nhà khoa học hàng đầu của Anthropic, công khai đồng tình với cảnh báo về rủi ro. Ông cho rằng khả năng AI gây ra hậu quả nghiêm trọng đối với nhân loại trong thập niên tới là một rủi ro đáng kể, đồng thời nhận định ngành AI hiện vẫn chưa có phương án đầy đủ để bảo đảm khả năng kiểm soát các hệ thống đạt năng lực tương đương chuyên gia.

Những cảnh báo tương tự cũng đã bắt đầu xuất hiện ngoài giới công nghệ. Thống đốc Illinois JB Pritzker kêu gọi ngành công nghiệp và chính quyền Washington có hành động ngay lập tức trước những rủi ro mà AI có thể gây ra đối với con người.

Deere đưa trợ lý AI vào quyết định canh tác

AI đang được đưa xuống một lĩnh vực rất khác: nông nghiệp. Deere, nhà sản xuất thiết bị nông nghiệp của Mỹ, triển khai trợ lý AI mang tên JD, được thiết kế theo cách tương tự các chatbot như ChatGPT và Claude.

JD có thể trả lời các câu hỏi liên quan đến thời điểm gieo trồng, thu hoạch và một số quyết định trong hoạt động canh tác. Hệ thống dựa trên dữ liệu được tích lũy qua nhiều năm từ các cánh đồng, qua đó biến lượng dữ liệu vốn nằm trong hệ thống vận hành của Deere thành thông tin có thể sử dụng trực tiếp trong quá trình sản xuất.

Đây là bước tiếp theo trong chiến lược phát triển thiết bị nông nghiệp thông minh của Deere. Công ty đã kết nối khoảng 1,2 triệu máy móc trên toàn cầu với trung tâm vận hành và đặt mục tiêu nâng con số này lên 1,5 triệu máy vào cuối năm nay. Trong khoảng hai thập niên, các hệ thống dẫn đường bằng vệ tinh của Deere đã trở thành một phần phổ biến của máy kéo và máy thu hoạch hiện đại.

AI đang giúp những dữ liệu đó được sử dụng sâu hơn. Các hệ thống gieo hạt biến đổi mật độ có thể điều chỉnh lượng hạt theo năng suất lịch sử của từng khu vực trên cánh đồng. Máy phun thuốc thông minh sử dụng camera tốc độ cao cùng cơ sở dữ liệu hình ảnh để nhận diện cỏ dại, sau đó chỉ phun thuốc tại những vị trí cần thiết trong khi máy di chuyển qua các hàng cây trồng.

Deere đang cung cấp miễn phí quyền truy cập JD cho nông dân, với kỳ vọng người dùng sẽ tiếp tục mở rộng sang các phần mềm AI dành cho máy gặt, máy phun thuốc, máy gieo hạt và những thiết bị khác. Công ty cũng cam kết dữ liệu nông trại được lưu trong tài khoản vận hành sẽ không được chia sẻ với bên thứ ba nếu chưa có sự cho phép của người sử dụng.

Việc Deere đẩy mạnh AI diễn ra trong lúc chi tiêu của nông dân cho thiết bị và phần mềm tự động hóa suy giảm do điều kiện kinh tế của ngành nông nghiệp. Công ty từng đặt mục tiêu nâng tỷ trọng doanh thu từ thuê bao phần mềm lên 10% vào năm 2030.

Drone chiến trường thúc đẩy làn sóng hợp nhất công nghệ AI

AI cũng đang trở thành một phần quan trọng trong quá trình phát triển công nghệ drone quân sự tại Ukraine. Swarmer, công ty drone được thành lập ở Ukraine và hiện đặt trụ sở tại Austin, Texas, đang mua lại Rezist Robotics với giá trị thương vụ lên tới 234 triệu USD bằng tiền mặt và cổ phiếu.

Rezist Robotics phát triển phương tiện mặt đất không người lái, trong khi Swarmer tập trung vào phần mềm AI cho phép nhiều drone phối hợp hoạt động trên không. Thương vụ cho thấy AI đang được kết hợp với phần cứng không người lái để tạo ra các hệ thống có khả năng phối hợp nhiều phương tiện cùng lúc.

Thị trường drone Ukraine hiện có hơn 500 công ty cạnh tranh các đơn hàng quân sự. Ngành công nghiệp này phát triển nhanh trong chiến tranh với Nga, tạo ra một hệ sinh thái công nghệ được đánh giá là tiên tiến, song cũng khiến thị trường trở nên phân mảnh.

Các thương vụ mua bán và sáp nhập đang bắt đầu xuất hiện khi những công ty nhỏ gặp khó trong việc mở rộng sản xuất và đưa sản phẩm ra thị trường quốc tế. Năm ngoái, nhà sản xuất drone Vyriy của Ukraine đã mua cổ phần chi phối tại năm công ty quốc phòng trong nước. Một công ty đầu tư của Mỹ cũng hợp nhất bốn doanh nghiệp quốc phòng Ukraine thành MITS Industries.

Trong lĩnh vực này, AI đang được phát triển song song với phần cứng, từ drone bay trên không đến phương tiện mặt đất không người lái. Sự kết hợp này mở rộng phạm vi ứng dụng của AI từ phần mềm thuần túy sang những hệ thống có khả năng quan sát, phối hợp và thực hiện nhiệm vụ trong môi trường thực tế.