Trung Quốc, Nga hy vọng AI sẽ giúp thao túng thông tin như thế nào
Nhân viên DIỄN ĐÀN
Theo các nhà nghiên cứu, các tác nhân độc hại ở Cộng hòa Nhân dân Trung Hoa (CHND Trung Hoa), Nga và các nơi khác đã sử dụng trí tuệ nhân tạo (AI) — mặc dù với tác động không đáng kể — để nâng cao kế hoạch thao túng thông tin.
OpenAI, nhà phát triển chatbot AI ChatGPT có trụ sở tại Hoa Kỳ, đã báo cáo vào giữa năm 2024 rằng họ đã phát hiện và phá vỡ ít nhất năm hoạt động ảnh hưởng bí mật sử dụng các mô hình AI của mình. Trong số đó có mạng lưới của CHND Trung Hoa được gọi là Spamouflage, được biết đến với các thông điệp ủng hộ Bắc Kinh và quấy rối các nhà bất đồng chính kiến ở nước ngoài, và chiến dịch Doppelganger của Nga, thường cố gắng làm suy yếu sự hỗ trợ cho Ukraine khi Moscow tiến hành chiến tranh với nước láng giềng được quản lý dân chủ.
Theo nhà phát triển, các đặc vụ truyền bá thông tin sai lệch và gây hiểu lầm đã sử dụng các công cụ của OpenAI để tạo ra một lượng lớn văn bản, bao gồm cả bình luận trực tuyến, bằng nhiều ngôn ngữ. Các nhà phân tích nói rằng mục tiêu là tạo ra ấn tượng sai lầm rằng các thông điệp thao túng đến từ một lượng lớn khán giả hữu cơ chứ không phải là các nhóm do nhà nước bảo trợ chịu trách nhiệm.
Theo OpenAI, trong một trường hợp khác, Spamouflage đã nhờ ChatGPT giúp đỡ về mã hóa máy vi tính trên một trang web, nơi đăng các bài tấn công các thành viên của cộng đồng người Hoa lưu vong chỉ trích các hành vi lạm dụng của CHND Trung Hoa.
Những người tạo ra thông tin sai lệch và gây hiểu lầm cũng yêu cầu ChatGPT tạo văn bản với ít lỗi ngữ pháp và ngôn ngữ khác. Nếu AI có thể khiến những lời tuyên truyền như được viết bằng ngôn ngữ mẹ đẻ của mục tiêu, thì người đọc có nhiều khả năng cho rằng đó là chính đáng.
Những người thao túng thông tin mà OpenAI phát hiện đã không đạt được sự tinh vi như vậy.
Tạp chí Wired đưa tin: “Các chiến dịch ảnh hưởng đang vấp phải giới hạn của trí tuệ nhân tạo thế hệ mới, vốn không thể tạo ra bản sao hay mã tốt một cách đáng tin cậy”. “Nó gặp khó khăn với các thành ngữ – thứ giúp ngôn ngữ nghe có vẻ tự nhiên và cá nhân hơn – và đôi khi cũng gặp khó khăn với ngữ pháp cơ bản (đến mức OpenAI đặt tên cho một mạng luới là ‘Ngữ pháp Kém’)”.
Chiến dịch mạng Ngữ pháp Kém của Nga, dựa vào AI thay vì kỹ năng tiếng Anh, đã vô tình đăng nhiều bình luận lên Telegram bắt đầu với câu: “Là một mô hình ngôn ngữ AI, tôi ở đây để hỗ trợ và cung cấp …”
Không có chiến dịch thao túng thông tin nào mà OpenAI phát hiện trên nền tảng của mình cho thấy sự gia tăng đáng kể về mức độ tương tác hoặc phạm vi tiếp cận của khán giả nhờ AI.
Các nhà nghiên cứu Josh Goldstein, thuộc Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown, và Renee DiReste, thuộc Đài quan sát Internet Stanford, viết: “AI thế hệ mới làm giảm chi phí vận hành các chiến dịch tuyên truyền, làm cho việc sản xuất nội dung và chạy các tài khoản tự động tương tác trở nên rẻ hơn đáng kể”.
“Nhưng nó không phải là một viên đạn thần kỳ, và trong trường hợp các hoạt động mà OpenAI tiết lộ, những gì được tạo ra đôi khi có vẻ giống như thư rác. Khán giả không cắn câu”.
Khán giả trực tuyến có thể chống lại nội dung lừa đảo bằng cách xem xét tính xác thực của nguồn tin, tiếp cận thông tin kỹ thuật số với sự hoài nghi và giúp bạn bè và gia đình hiểu được sự phổ biến của nội dung AI.
Các nhà nghiên cứu đang chia sẻ thông tin và phơi bày việc lạm dụng AI với các công cụ như Cơ sở dữ liệu sự cố AI và Cơ sở dữ liệu sự cố Deepfakes chính trị.
Theo bài viết của hai nhà nghiên cứu Goldstein và DiReste cho tạp chí Massachusetts Institute of Technology Review, trong khi đó, AI cũng đang được sử dụng để phân tích nội dung nhằm phát hiện tốt hơn việc thao túng thông tin không chính xác và có khả năng gây hại.
Trong báo cáo về việc sử dụng công nghệ của mình với mục đích xấu, OpenAI đã kêu gọi hợp tác để đảm bảo môi trường thông tin kỹ thuật số. Họ nói: “Chúng tôi sẽ không thể ngăn chặn mọi trường hợp [thao túng thông tin]”, “Nhưng bằng cách tiếp tục đổi mới, điều tra, hợp tác và chia sẻ, chúng tôi khiến cho các tác nhân đe dọa khó có thể lẩn tránh sự phát hiện trên toàn bộ hệ sinh thái kỹ thuật số”.
