Úc đang đón nhận làn sóng bùng nổ AI, khi hàng tỉ đô la đổ vào các trung tâm dữ liệu và công nghệ này hứa hẹn làm thay đổi nền kinh tế. Tuy nhiên, sự lo lắng cũng đang gia tăng. Việc một tác nhân AI của OpenAI tự ý truy cập hệ thống Medicare đã đặt ra những câu hỏi mới về điều gì xảy ra khi các hệ thống AI ngày càng tự chủ hành xử theo những cách mà người tạo ra chúng không hề dự định.

Chris Bourke của Bloomberg tham gia cùng Newley Purnell, phóng viên công nghệ khu vực châu Á, để phân tích vụ việc cho thấy gì về những rủi ro của AI, liệu Úc có đủ quyền lực để kiểm soát các tập đoàn công nghệ Mỹ hay không, cũng như tình thế tiến thoái lưỡng nan của Canberra khi vừa thúc đẩy các biện pháp bảo vệ chặt chẽ hơn, vừa tìm cách thu hút một làn sóng đầu tư AI có quy mô tiềm năng rất lớn. Dưới đây là cuộc trò chuyện:

Chris Bourke: Tuần này, ChatGPT đã phải trả lời chất vấn tại Sydney. Chính xác hơn là nhà sáng lập ra nó, trong một phiên điều trần diễn ra một tuần sau khi OpenAI buộc phải xin lỗi về vụ một tác nhân AI tự ý xâm nhập hệ thống Medicare.

Nhưng Australia có thể cứng rắn đến mức nào với các tập đoàn công nghệ Mỹ, trong khi vẫn thuyết phục họ đầu tư hàng tỉ đô la vào nước này? Và liệu Canberra thực sự có đủ quyền lực để kiểm soát công nghệ đang phát triển nhanh chóng này hay không?

Để phân tích tình thế tiến thoái lưỡng nan của Úc về AI, tôi có Newley Purnell, phóng viên công nghệ của Bloomberg đang làm việc tại Hong Kong, tham gia cùng chúng ta. Chào mừng Newley đến với chương trình.

Newley Purnell: Cảm ơn Chris. Tôi rất vui được tham gia.

Bourke: Newley, hôm thứ Ba, anh đã theo dõi vài giờ chất vấn đại diện OpenAI, Anthropic và các công ty khác tại cuộc điều tra của Quốc hội Úc. OpenAI đã cử Giám đốc Chiến lược Jason Kwon đến tham dự, và ông ấy một lần nữa xin lỗi về vụ xâm nhập hệ thống Medicare. Nhưng thực sự chúng ta đã biết thêm điều gì mà trước đây chưa biết, và có điều gì khiến anh bất ngờ không?

Purnell: Đúng như anh nói, phiên điều trần mở đầu bằng lời xin lỗi sâu sắc của Jason Kwon từ OpenAI. Ông nói công ty lẽ ra có thể làm tốt hơn và đang nỗ lực cải thiện các quy trình nội bộ.

Tôi cho rằng có hai điểm nổi bật nhất trong phiên điều trần. Một là đã có những câu hỏi về việc OpenAI biết gì về các tác nhân AI tự ý truy cập những website của chính phủ Úc, cũng như thời điểm công ty công bố thông tin đó. Tất nhiên, chúng ta biết Thủ tướng Albanese nói rằng công ty đã không công bố đủ nhanh. Một số người đặt câu hỏi liệu Giám đốc điều hành OpenAI Sam Altman có thảo luận về vụ việc khi ông gặp Phó Thủ tướng Richard Marles tại California hồi đầu tháng hay không.

Jason Kwon được hỏi trực tiếp về vấn đề này. Ông nói rằng trên thực tế Sam Altman không biết về vụ việc khi gặp Phó Thủ tướng. Tôi không nghĩ điều này từng được công bố trước đó. Nhưng ông đã khẳng định dứt khoát như vậy.

Điểm thứ hai là chúng ta có thêm một chút thông tin về cách OpenAI cho biết họ đang cải thiện các cơ chế an toàn nhằm ngăn những hành động tương tự xảy ra trong tương lai.

Bourke: Nhắc đến các cơ chế an toàn, hãy quay lại vụ việc đã châm ngòi cho tất cả chuyện này. Một tác nhân AI của OpenAI được giao một nhiệm vụ khá tiêu chuẩn. Khi gặp trở ngại, nó đã tìm ra cách vượt qua và giành quyền truy cập trái phép vào một hệ thống của chính phủ Úc, trong trường hợp này là Medicare. Chúng ta nên lo ngại đến mức nào về hành vi đó khi các tác nhân AI ngày càng có năng lực và tự chủ hơn?

Purnell: Điều đó đáng lo. Theo tôi, vụ việc thực sự chạm đến những nỗi lo sâu xa hơn về cách công nghệ AI đang phát triển. Những lo ngại ban đầu tập trung vào các câu hỏi mang tính sống còn, khi các nhà nghiên cứu tại một số công ty, chẳng hạn, từ chức và nói rằng các công ty chưa xem xét đủ nghiêm túc những mối đe dọa tận thế. Tất cả khi đó vẫn chỉ mang tính trừu tượng.

Các công ty gần như chưa chia sẻ nhiều về những hệ thống kỹ thuật của họ, cũng như các mối nguy hiểm, hoặc nguy cơ tiềm ẩn, từ những hệ thống đó. Nhưng đây thực sự là một ví dụ cụ thể cho thấy những hệ thống này có thể thoát khỏi phạm vi kiểm soát, vốn được thiết kế để giới hạn chúng, và thực hiện hành động trong thế giới thực như thế nào. Nói cách khác, chúng ta đang chuyển từ lý thuyết sang những hệ quả thực tế và cụ thể.

Dù hành động lần này chưa gây ra thảm họa, họ không xâm nhập một lò phản ứng hạt nhân hay một hệ thống tiện ích, cũng không thực hiện tội phạm mạng, nhưng họ vẫn hành động theo những cách không được phép.

Vì vậy, tôi cho rằng vụ việc đã khiến những lo ngại về khả năng công nghệ này thoát khỏi kiểm soát và làm những điều không nên làm trở nên cụ thể hơn.

Bourke: Chỉ cần anh nhắc đến các lò phản ứng hạt nhân cũng đã khiến tôi cảm thấy rất bất an. Thủ tướng Anthony Albanese đã dùng vụ xâm nhập hệ thống Medicare để kêu gọi thiết lập các tiêu chuẩn cao hơn về AI tại Úc. Ông đã nói về việc xây dựng các tiêu chuẩn của Úc. Anh có biết trên thực tế điều đó có thể bao hàm những gì không?

Ý tôi là, câu hỏi lớn hơn là hiện Úc có những quyền hạn nào để quản lý các công ty quyền lực như vậy, vốn đặt trụ sở tại Mỹ?

Purnell: Ông Albanese đã nói về các cường quốc tầm trung, những quốc gia nhỏ hơn như Úc, không nên chỉ để các gã khổng lồ AI muốn làm gì thì làm, đồng thời cho rằng những quốc gia nhỏ hơn này phải hợp tác với nhau. Tuy nhiên, chưa rõ một quốc gia như Úc có thể làm gì với các công ty đó.

Một điểm đáng chú ý xuất hiện tại phiên điều trần là cuộc thảo luận về lý do OpenAI công bố vụ việc và liệu công ty có nghĩa vụ pháp lý phải làm như vậy tại Úc hay không.

Đại diện công ty nói đó là một lần công bố thông tin tự nguyện. Điều này cho thấy trên thực tế công ty không bị Australia yêu cầu về mặt pháp lý. Một việc Úc có thể làm, cũng như một số quốc gia khác từng đề cập, là ban hành luật quy định rằng nếu hệ thống AI của một công ty làm điều không được phép và gây ảnh hưởng đến một thực thể khác, công ty đó sẽ có nghĩa vụ pháp lý phải công bố vụ việc.

Tại phiên điều trần hôm qua, một số nghị sĩ đã hỏi chính xác vì sao OpenAI công bố thông tin. Việc đó dựa trên các tiêu chuẩn nội bộ của công ty hay yêu cầu pháp lý? Đại diện công ty trả lời rằng đó là một lần công bố tự nguyện. Trên thực tế, họ nói sẽ hoan nghênh việc các quốc gia xây dựng những cơ chế pháp lý buộc họ phải làm như vậy, vì điều đó sẽ tạo ra sự rõ ràng.

Một trong những lý do họ đưa ra về việc chậm công bố thông tin cho Úc là công ty cần xác minh các sự việc, đồng thời đánh giá mức độ nghiêm trọng của vụ việc.

Tôi cũng tự hỏi liệu họ có xem xét việc mình có nghĩa vụ pháp lý phải công bố hay không, hoặc liệu các tiêu chuẩn riêng của công ty có yêu cầu điều đó hay không. Họ nói đó là tiêu chuẩn riêng của công ty. Nhưng tôi cho rằng điều này cho thấy sự thiếu rõ ràng, cũng như những câu hỏi về tính hợp pháp và các yêu cầu pháp lý đối với doanh nghiệp.

Vì vậy, một việc Úc có thể làm là đưa ra yêu cầu pháp lý cụ thể rằng nếu một sự việc tương tự xảy ra trong tương lai, các công ty sẽ phải công bố thông tin. Đúng không?

Bourke: Nhưng rõ ràng vấn đề là công nghệ này dường như đang phát triển nhanh hơn nhiều so với khả năng quản lý của bất kỳ chính phủ nào. Chúng ta đã thấy OpenAI phải hủy kế hoạch phát hành một mô hình AI gần đây vì những lo ngại về an toàn. Tất nhiên, những lo ngại về mức độ tự chủ của AI cũng đang gia tăng. Liệu hiện nay Úc có thể theo kịp công nghệ này hay không?

Purnell: Tôi nghĩ điều đó rất khó. Một trong những lợi thế mà Mỹ có, chẳng hạn, là các công ty được đặt tại nước này. Họ có nhân viên ở đó, nhà đầu tư ở đó, hoặc có rất nhiều người dùng tại đó. Vì vậy, không chỉ Mỹ mà bất kỳ quốc gia nào cũng có thêm một chút đòn bẩy khi các công ty thực sự có nhân viên tại nước đó. Chính phủ có thể yêu cầu họ đến trao đổi.

Về mặt này, Mỹ có nhiều quyền lực hơn. Nhưng đây là câu hỏi mà nhiều quốc gia phải đối mặt, đặc biệt khi công nghệ của Mỹ hoặc Trung Quốc được triển khai tại các nước đó mà không có nhân viên, nhà đầu tư lớn hay cộng đồng người dùng đông đảo của các công ty hiện diện tại địa phương.

Điểm tích cực là Úc là một nền kinh tế phát triển, người tiêu dùng có tiền. Điều đó tác động trực tiếp đến lợi nhuận của các công ty.

Các công ty quan tâm đến một quốc gia như Úc vì nước này có dân số ở quy mô đáng kể và người dân sẵn sàng trả tiền cho sản phẩm của họ. Điều này không thể nói về một số nền kinh tế mới nổi khác, vốn có thể có dân số lớn hơn nhưng lại có ít người sẵn sàng chi trả hơn. Vì vậy, lợi nhuận thường là yếu tố quan trọng đối với các công ty này.

Bourke: Một lý do khác khiến họ có thể quan tâm đến Úc là làn sóng đầu tư khổng lồ vào AI. Theo ước tính của Westpac, danh mục các dự án trung tâm dữ liệu của Úc có giá trị khoảng 175 tỉ đô la Úc, trong đó khoảng 110 tỉ đô la Úc có khả năng được rót vào trong ba năm tới.

Anh đã đưa tin về sự phát triển của các trung tâm dữ liệu trên khắp châu Á. Theo anh, điều này có thể quan trọng đến mức nào đối với nền kinh tế Úc?

Purnell: Điều đó có thể rất quan trọng, với lưu ý rằng tác động đáng kể có thể đến trong dài hạn hơn là trước mắt. Tôi cho rằng một quan niệm sai lầm của một số người là các trung tâm dữ liệu tạo ra rất nhiều việc làm. Chúng có tạo ra việc làm trong giai đoạn xây dựng, nhưng so với những cơ sở có quy mô tương đương, các trung tâm dữ liệu thường không cần nhiều người để vận hành.

Tuy nhiên, về dài hạn, lập luận của các công ty AI là khi công nghệ này phát triển, nó sẽ thúc đẩy tăng trưởng kinh tế và cải thiện thực sự đời sống con người.

Jason Kwon của OpenAI đưa ra ví dụ về một cuộc khảo sát, theo đó một số doanh nghiệp nhỏ tại Úc cho biết họ đang ghi nhận mức tăng năng suất và tiết kiệm thời gian trong công việc. Ông đề cập đến việc sử dụng ChatGPT cho nghiên cứu y khoa.

Vì vậy, các công ty cho rằng công nghệ này sẽ tạo ra rất nhiều giá trị trong dài hạn. Mặt khác, một nghiên cứu vừa được công ty đầu tư mạo hiểm Andreessen Horowitz của Mỹ công bố cho thấy khoảng một nửa số người trưởng thành tại Mỹ sử dụng các dịch vụ AI, nhưng chỉ một tỷ lệ rất nhỏ thực sự trả tiền cho chúng.

Điều đó dẫn đến câu hỏi liệu đây có phải là những phiên bản Google mới lạ, về cơ bản là Google được tăng cường mạnh hơn hay không. Liệu chúng chỉ là những ứng dụng thú vị giúp người dùng thực hiện nhiều nghiên cứu, như cách phần lớn mọi người đang sử dụng hiện nay, hay thực sự tạo ra cuộc cách mạng mang tính cấu trúc, cùng những lợi ích về kinh tế và năng suất?

Các công ty nói về việc đạt tới thứ mà họ gọi là trí tuệ nhân tạo tổng quát, trong đó các hệ thống sẽ thông minh ngang bằng hoặc vượt con người. Khi đó, liệu chúng có cách mạng hóa các ngành công nghiệp? Liệu chúng có tạo ra việc làm, thúc đẩy sự bùng nổ của các ngành công nghiệp? Chúng ta thậm chí chưa biết. Đó là điều các công ty AI sẽ lập luận, nhưng tất cả vẫn còn rất xa.

Bourke: Đây là tình thế tiến thoái lưỡng nan lớn, và tôi không chắc anh có thể trả lời câu hỏi này. Làm thế nào để Australia thu hút hàng trăm tỉ đô la đầu tư AI tiềm năng, đồng thời nói với các công ty như OpenAI rằng nước này muốn kiểm soát chặt chẽ hơn và về cơ bản họ cần hành xử tốt hơn rất nhiều?

Purnell: Điều đó rất khó. Đây thực sự là một bài toán nan giải. Một vấn đề xuất hiện tại phiên điều trần là luật bản quyền. Có câu hỏi được đặt ra rằng nếu Úc áp dụng các biện pháp bảo vệ sở hữu trí tuệ và luật bản quyền chặt chẽ hơn, liệu điều đó có khiến OpenAI và các công ty khác không muốn xây dựng trung tâm dữ liệu và huấn luyện mô hình tại Úc, nếu họ có thể thực hiện dễ dàng hơn tại Mỹ hoặc nơi khác hay không. Đó là một vấn đề.

Có thể hiểu vì sao chính phủ muốn duy trì các quy định về bản quyền, và người dân cũng không muốn nới lỏng những hạn chế về bản quyền vì lợi ích của một số công ty này.

Một vấn đề khác được nêu ra là các trung tâm dữ liệu. Một người đã hỏi về việc một công ty trung tâm dữ liệu xây dựng cơ sở tại Tasmania, dự án dường như đã vấp phải sự phản đối. OpenAI trả lời rằng họ thực sự không biết về vụ việc đó.

Các công ty AI thường chỉ sử dụng những cơ sở do các công ty trung tâm dữ liệu xây dựng. Tuy nhiên, họ nói có thể hình dung Úc trở thành một thị trường hấp dẫn đối với các trung tâm dữ liệu, vì nước này có nhiều đất đai, không gian và nguồn lực. Úc cũng khá cởi mở với hoạt động kinh doanh so với các chính phủ khác trong khu vực, đồng thời có cơ sở hạ tầng tốt.

Vì vậy, có thể hình dung Úc là điểm đến hấp dẫn để một số công ty xây dựng các cơ sở này. Nhưng đồng thời, tôi nghĩ họ sẽ xem xét sự phản đối đối với các trung tâm dữ liệu, lập trường của chính phủ và những gì các nhà hoạch định chính sách phát biểu. Những yếu tố đó chắc chắn có thể khiến họ thay đổi quyết định.

Bourke: Đúng vậy, điều kiện và địa lý của Úc dường như tạo ra điểm đến lý tưởng cho sự bùng nổ của các trung tâm dữ liệu. Anh cũng đúng khi nói rằng sự phản đối tại đây đang gia tăng. Một trung tâm dữ liệu ở Sydney vừa bị hủy bỏ vào tuần trước do sự phản đối của cộng đồng.

Cơ sở này dự kiến được xây dựng ngay gần một trường học và các khu dân cư. Nhưng hiện nhiều quốc gia trên thế giới cũng đang đặt ra câu hỏi này: Úc thực sự có thể thu được gì từ sự bùng nổ của các trung tâm dữ liệu?

Liệu lợi ích chỉ đơn giản là có những trung tâm dữ liệu khổng lồ nằm trên lãnh thổ Úc? Hay nước này thực sự có tiềm năng biến điều đó thành một điều gì lớn hơn rất nhiều, với năng suất cao hơn, hàng loạt việc làm và một ngành AI nội địa có sức cạnh tranh thực sự?

Purnell: Tôi nghĩ tiềm năng đó tồn tại. Tôi cũng cho rằng rất dễ hiểu vì sao mọi người lo lắng hoặc hoài nghi về một số dự án xây dựng này, bởi công nghệ và những lợi ích mà nó mang lại dường như vẫn còn rất xa.

Hiện nay, trong cuộc sống thường nhật, nếu anh làm việc trong văn phòng hoặc có nhiều bạn bè và người thân làm việc trong ngành kinh tế tri thức, anh sẽ nghe thấy những trường hợp sử dụng công nghệ này hiệu quả nhất. Đó là việc dùng AI để đơn giản hóa các nhiệm vụ văn phòng, tiết kiệm thời gian khi tạo các bài thuyết trình PowerPoint, hỗ trợ soạn thảo tài liệu nhanh hơn hoặc thực hiện những nghiên cứu chuyên sâu hơn mà trước đây không thể làm được.

Tôi nghĩ những người đang sử dụng AI theo cách đó có thể là nhóm dễ nhận thấy nhất những lợi ích tiềm năng của công nghệ trong dài hạn.

Ngay cả trong số nhiều người hiện sử dụng AI tại văn phòng, vẫn có sự hoài nghi về tốc độ phát triển của công nghệ và việc liệu nó thực sự mang lại lợi ích cho họ hay chỉ mang lại lợi ích cho các công ty AI lớn hơn.

Đây là giai đoạn rất khó khăn đối với các tập đoàn công nghệ lớn của Mỹ. Sau những tiết lộ về tác hại của mạng xã hội, đặc biệt đối với trẻ em, các công ty công nghệ lớn, nhất là những công ty Mỹ, đang gặp nhiều khó khăn khi cố thuyết phục thế giới rằng họ đang xây dựng những sản phẩm có thể thay đổi thế giới và mang lại lợi ích cho nhân loại. Đó là lập luận của họ.

Đây là thời điểm rất khó để đưa ra lập luận đó, đặc biệt khi những trung tâm dữ liệu khổng lồ đang được xây dựng một cách hữu hình, dường như cần rất nhiều nguồn lực, trong khi lợi ích của chúng vẫn còn khá xa.

Đó là một giai đoạn rất khó khăn. Tôi nghĩ Úc, cũng như nhiều nơi khác, đang suy nghĩ về những câu hỏi như: Công nghệ này thực sự sẽ làm được gì? Nó sẽ mang lại lợi ích như thế nào? Cái giá mà chúng ta và môi trường phải trả là gì?

Tôi cho rằng phần lớn những lợi ích tiềm năng vẫn còn khá xa.