Cảnh báo nội dung do AI tạo ra có thể gieo rắc ký ức giả

Các nhà nghiên cứu cho biết sự tin tưởng vào trí tuệ nhân tạo (AI) đang rẽ sang hướng nguy hiểm khi ảnh và bản tóm tắt do công nghệ này tạo ra có thể bóp méo ký ức con người.

Chia sẻ với tờ Washington Post, nhà khoa học Pattie Maes từ Viện Công nghệ Massachusetts (MIT, Mỹ) cho biết trong thử nghiệm cho người tham gia xem ảnh gốc rồi xem lại bản gốc hoặc bản đã chỉnh sửa bằng AI sau giờ nghỉ, nhóm xem ảnh AI không chỉ dễ nhớ sai ảnh gốc hơn mà còn tự tin thái quá vào ký ức sai lệch đó.

ẢNH: CHỤP MÀN HÌNH 360INFO

Nguy cơ từ việc quá tin tưởng vào nội dung và hệ thống do AI vận hành

Các thí nghiệm tâm lý học từ thế kỷ 19 đã chỉ ra trí nhớ con người vốn thất thường và dễ bị ám thị, khiến thông tin sai lệch vẫn ảnh hưởng đến việc ra quyết định (gồm cả quyết định chính trị) ngay cả khi đã có đính chính. Sự xuất hiện của nội dung rác do AI tạo ra ngày càng thuyết phục đang thúc đẩy làn sóng lừa đảo và tin giả mới; một nghiên cứu năm ngoái phát hiện cả deepfake lẫn văn bản AI đều gieo rắc hiệu quả ký ức giả về các bê bối chính trị mang tính bịa đặt.

Ngay cả khi không dùng cho mục đích xấu, AI tạo sinh vẫn dễ mắc lỗi ‘ảo giác’ trong kết quả đầu ra. Khi các cơ quan chính phủ, ngân hàng, quân đội và bệnh viện chạy đua triển khai AI để đẩy nhanh quy trình từ lưu trữ hồ sơ đến không kích quân sự, việc bố trí chuyên gia kiểm duyệt vẫn lộ điểm yếu do người dùng không giỏi phát hiện ảo giác và rất dễ bị bóp méo phán đoán ngay cả khi kết quả AI mâu thuẫn với sự thật họ đã biết.

Hiện khả năng một người bình thường nhận diện đúng nội dung AI chỉ ngang việc tung đồng xu may rủi, và dù giới nghiên cứu đang tìm phương pháp đào tạo nhận biết deepfake, vẫn chưa có giải pháp hoàn hảo nào. Trong khi đó, ngành công nghiệp AI lại đang ráo riết chạy đua loại bỏ con người khỏi quy trình bằng các hệ thống AI tác tử (agentic AI) tự vận hành hoàn toàn.

Sự lệch pha này đã dẫn đến hậu quả thảm khốc vào đầu năm nay khi cuộc tấn công quân sự của Mỹ vào một trường tiểu học ở Iran làm hơn 150 người thiệt mạng, gồm ít nhất 123 trẻ em. Bloomberg đưa tin vào tháng trước cho biết, cuộc điều tra nội bộ của Bộ Quốc phòng Mỹ kết luận vụ việc một phần do phụ thuộc quá mức vào hệ thống AI của Palantir – công cụ đã đề xuất ngôi trường làm mục tiêu tấn công ngay ngày đầu tiên vì sử dụng dữ liệu truyền thống.