Một trong những mối đe dọa âm thầm và nguy hiểm nhất của trí tuệ nhân tạo là khả năng thao túng ký ức.

Nhà tâm lý học Elizabeth Loftus đã dành 50 năm chứng minh con người dễ bị tác động đến mức có thể nhớ sai hoàn toàn một hay nhiều sự kiện không có thật, đặc biệt khi bị thẩm vấn bởi cảnh sát hoặc công tố viên.

Hiện bà Loftus, giáo sư tại Đại học California ở Irvine, đang hợp tác với các nhà nghiên cứu thuộc Viện Công nghệ Massachusetts (MIT) để tìm hiểu cách AI có thể can thiệp vào ký ức con người. Kết quả ban đầu cho thấy AI vẫn khiến người tham gia nhớ sai, dù họ biết rõ đang đọc văn bản hoặc xem hình ảnh do AI tạo ra. Phát hiện này làm dấy lên lo ngại AI có thể khuếch đại nguy cơ cài cắm ký ức giả vào não bộ.

Trong loạt thí nghiệm nổi tiếng từ thập niên 1970, Loftus đã chứng minh rằng chỉ bằng những gợi ý phù hợp, các nhà tâm lý học có thể khiến người tham gia tin rằng họ từng bị lạc trong trung tâm mua sắm thời thơ ấu, hoặc từng bị ngộ độc sau khi ăn trứng hay kem dâu trong một buổi dã ngoại. Những ký ức giả này thậm chí có thể khiến họ tránh xa các món ăn đó về sau. Tuy nhiên, công chúng vẫn thường nhầm lẫn ký ức là bản ghi trung thực của quá khứ, và chính quan niệm sai lầm này khiến con người dễ bị thao túng.

“Những ai tin rằng ký ức vận hành như một máy ghi âm thường không nhận ra rằng bộ não tạo ra ký ức từ những mảnh thông tin rời rạc theo thời gian,” Loftus nói. Bà cho rằng chúng ta quen với việc quên một ký ức nào đó, nhưng ít khi nhận thức được quá trình tự thêm thắt chi tiết sai lệch vào bộ nhớ.

Bà cũng nghiên cứu ảnh hưởng của các cuộc “thăm dò định hướng”, khi người khảo sát đưa thông tin sai lệch vào câu hỏi, chẳng hạn: “Ông nghĩ gì về Joe Biden nếu biết ông ấy từng bị buộc tội trốn thuế?” Loftus cảnh báo AI hoàn toàn có thể thực hiện kiểu thao túng này ở quy mô lớn hơn, và đó là một nguy cơ đáng lo ngại.

Nhà nghiên cứu Pat Pataranutaporn thuộc MIT Media Lab cho rằng việc thao túng trí nhớ khác với đánh lừa người xem bằng hình ảnh giả. Người dùng không cần thấy một trang web giả mạo của New York Times, mà chỉ cần bị thuyết phục rằng họ đã từng đọc điều gì đó trên đó. “Mọi người hiếm khi nghi ngờ trí nhớ của chính mình,” anh nói.

Pataranutaporn là tác giả chính của ba nghiên cứu về trí nhớ. Nghiên cứu đầu tiên cho thấy chatbot có thể làm thay đổi lời khai của nhân chứng chỉ bằng cách đặt câu hỏi gợi ý, một phiên bản hiện đại hơn của thí nghiệm trước đây của Loftus.

Trong nghiên cứu, người tham gia xem một đoạn video về vụ cướp có vũ trang. Sau đó, một số được hỏi các câu đánh lạc hướng, chẳng hạn: “Có camera an ninh gần nơi những tên cướp đỗ xe không?” Khoảng một phần ba người sau đó khẳng định đã thấy chiếc xe, dù thực tế không có chiếc xe nào. Ký ức “giả” này vẫn tồn tại sau một tuần.

Người tham gia được chia thành ba nhóm: nhóm không nhận câu hỏi đánh lạc hướng, nhóm nhận câu hỏi đó dưới dạng văn bản và nhóm được chatbot AI đặt câu hỏi. Kết quả cho thấy nhóm sử dụng chatbot ghi nhận lượng ký ức sai cao gấp 1,7 lần so với nhóm chỉ đọc thông tin sai bằng văn bản.

Một nghiên cứu khác chỉ ra chatbot hoặc bản tóm tắt của AI có thể dễ dàng cài ký ức giả vào nội dung mà người đọc vừa tiếp nhận. Theo Pataranutaporn, điều đáng lo hơn là những người nhận thông tin sai từ AI không chỉ nhớ ít thông tin thật hơn, mà còn thường nghi ngờ cả những thông tin chính xác.

Nghiên cứu thứ ba chứng minh AI có thể tạo ký ức giả thông qua hình ảnh và video. Các nhà nghiên cứu chia 200 người tham gia thành bốn nhóm. Mỗi nhóm xem 24 hình ảnh, gồm cả ảnh tin tức và ảnh cá nhân như ảnh cưới trên mạng xã hội.

Sau vài phút, mỗi nhóm xem lại ảnh với mức độ thay đổi khác nhau. Một nhóm xem ảnh gốc, nhóm thứ hai xem ảnh đã chỉnh sửa bằng AI, nhóm thứ ba xem video ngắn do AI tạo từ ảnh đã chỉnh sửa, và nhóm cuối cùng xem video hoàn toàn do AI tạo ra từ ảnh AI.

Ngay cả nhóm xem lại ảnh gốc cũng nhớ sai một vài chi tiết, điều dễ hiểu do khối lượng ảnh quá lớn. Tuy nhiên, những người tiếp xúc với nội dung do AI chỉnh sửa nhớ sai nhiều hơn rõ rệt. Nhóm xem video từ ảnh hoàn toàn do AI tạo ra là nhóm có nhiều ký ức sai nhất.

Kết quả cũng cho thấy người trẻ dễ bị “làm giả” ký ức hơn người lớn tuổi, trong khi trình độ học vấn không ảnh hưởng đáng kể. Quan trọng là tất cả người tham gia đều được thông báo trước rằng nội dung họ sắp xem do AI tạo ra.

Trong thí nghiệm này, một số thay đổi chỉ đơn giản như điều chỉnh bối cảnh, ví dụ thêm hình ảnh quân đội vào nơi công cộng hoặc thay đổi thời tiết. Phần lớn đặc điểm chính của ảnh gốc vẫn được giữ nguyên. Theo các chuyên gia, để thông tin sai lệch hiệu quả, câu chuyện phải đúng ít nhất 60%.

Loạt nghiên cứu này cần được nhìn nhận nghiêm túc, bởi tác động của công nghệ lên nhận thức không chỉ dừng ở việc lan truyền thông tin giả. Thuật toán mạng xã hội cũng khiến nhiều người tin vào thuyết âm mưu hoặc tư tưởng cực đoan bằng cách tạo cảm giác rằng những ý tưởng này được ủng hộ rộng rãi.

Chatbot AI sẽ tiếp tục tạo ra những ảnh hưởng tinh vi và khó lường. Chúng ta cần cởi mở trước những dữ kiện mới và lập luận xác đáng, nhưng cũng phải cảnh giác với mọi nỗ lực bóp méo những gì mình nhìn thấy, cảm nhận hoặc ghi nhớ.