ความคาดหวังของจีนและรัสเซียต่อปัญญาประดิษฐ์ในการช่วยบิดเบือนข้อมูล

เจ้าหน้าที่ ฟอรัม

ผู้กระทำการที่มุ่งร้ายในสาธารณรัฐประชาชนจีน รัสเซีย และประเทศอื่น ๆ ได้ใช้ปัญญาประดิษฐ์เพื่อยกระดับแผนการบิดเบือนข้อมูล แม้ว่าจะมีผลกระทบเล็กน้อยก็ตามที ตามรายงานของนักวิจัย

โอเพ่นเอไอ ซึ่งเป็นผู้พัฒนาแชทบอทเอไอ แชทจีพีที ในสหรัฐอเมริการายงานเมื่อกลาง พ.ศ. 2567 ว่าได้ตรวจพบและขัดขวางปฏิบัติการแผ่ขยายอิทธิพลแอบแฝงอย่างน้อย 5 ครั้งที่มีการใช้โมเดลเอไอ หนึ่งในนั้นคือเครือข่ายของจีนที่รู้จักในชื่อ สแปมมูฟลาจ ซึ่งเป็นที่รู้จักจากข้อความสนับสนุนรัฐบาลจีนและการคุกคามผู้เห็นต่างในต่างประเทศ รวมถึงปฏิบัติการด็อปเปลแกงเกอร์ของรัสเซีย ซึ่งมักจะพยายามบ่อนทำลายการสนับสนุนที่ให้แก่ยูเครน ในขณะที่รัฐบาลรัสเซียทำสงครามกับประเทศเพื่อนบ้านที่ปกครองด้วยระบอบประชาธิปไตยนี้

นักพัฒนาระบุว่า ผู้ที่เผยแพร่ข้อมูลอันเป็นเท็จและทำให้เข้าใจผิดนี้ใช้เครื่องมือของโอเพ่นเอไอเพื่อสร้างข้อความจำนวนมาก รวมถึงความคิดเห็นทางออนไลน์ในหลายภาษา นักวิเคราะห์กล่าวว่า เป้าหมายของการดำเนินการนี้คือ สร้างความรู้สึกแย่ ๆ ว่าข้อความที่มีการบิดเบือนนั้นมาจากผู้ชมทั่วไปจำนวนมากแทนที่จะเป็นกลุ่มที่ได้รับการสนับสนุนจากรัฐ

ในอีกกรณีหนึ่ง สแปมมูฟลาจได้ขอความช่วยเหลือจากแชทจีพีทีในการเขียนโค้ดคอมพิวเตอร์บนเว็บไซต์ที่มีบทความโจมตีสมาชิกของชาวจีนพลัดถิ่นที่วิพากษ์วิจารณ์การละเมิดของจีน ตามรายงานของโอเพ่นเอไอ

นอกจากนี้ ผู้สร้างข้อมูลอันเป็นเท็จและทำให้เข้าใจผิดยังให้แชทจีพีทีสร้างข้อความที่มีข้อผิดพลาดทางไวยากรณ์และข้อผิดพลาดทางภาษาอื่น ๆ น้อยลงด้วย หากปัญญาประดิษฐ์สามารถทำให้โฆษณาชวนเชื่อมีสำนวนที่ใกล้เคียงกับภาษาแม่ของประเทศเป้าหมายได้ ผู้อ่านก็มีแนวโน้มที่จะเชื่อว่าโฆษณานั้นชอบด้วยกฎหมาย

เครื่องมือบิดเบือนข้อมูลที่โอเพ่นเอไอตรวจพบไม่ได้มีส่วนในความซับซ้อนดังกล่าว

“นโยบายที่มีอิทธิพลนั้นดำเนินการไปจนเกินขีดจำกัดของปัญญาประดิษฐ์เชิงสร้างสรรค์ ซึ่งไม่สามารถผลิตสำเนาหรือโค้ดที่ดีได้อย่างน่าเชื่อถือ” ตามรายงานของนิตยสารไวรด์ “สิ่งที่ยากคือสำนวน ซึ่งทำให้ภาษาฟังดูเป็นมนุษย์และเป็นปัจเจกมากขึ้น และบางครั้งเป็นเรื่องของไวยากรณ์พื้นฐานด้วย (มากจนโอเพ่นเอไอเรียกเครือข่ายหนึ่งว่า “ไวยากรณ์ห่วย”)”

ปฏิบัติการด้านไวยากรณ์ห่วยของรัสเซียซึ่งมาจากการพึ่งพาปัญญาประดิษฐ์มากกว่าทักษะภาษาอังกฤษ ได้แสดงความคิดเห็นหลายรายการบนเทเลแกรมอย่างไม่ได้ตั้งใจ โดยเริ่มต้นด้วยประโยคที่ว่า “ในฐานะแบบจำลองภาษาของปัญญาประดิษฐ์ ฉันมีหน้าที่ในการช่วยเหลือและจัดหา…”

ไม่มีนโยบายการบิดเบือนข้อมูลที่โอเพ่นเอไอตรวจพบบนแพลตฟอร์มของตนว่า การมีส่วนร่วมหรือการเข้าถึงของผู้ชมที่เพิ่มขึ้นอย่างมากนั้นเป็นผลมาจากปัญญาประดิษฐ์

“ปัญญาประดิษฐ์เชิงสร้างสรรค์ช่วยลดต้นทุนในปฏิบัติการนโยบายโฆษณาชวนเชื่อ ซึ่งทำให้การผลิตเนื้อหาและใช้งานบัญชีอัตโนมัติเชิงโต้ตอบมีค่าใช้จ่ายที่ลดลงอย่างมาก” นายจอช โกลด์สไตน์ นักวิจัยที่ศูนย์ความมั่นคงและเทคโนโลยีใหม่ของมหาวิทยาลัยจอร์จทาวน์ และนางเรนี ดิเรสเต แห่งหอสังเกตการณ์อินเตอร์เน็ตสแตนฟอร์ด เขียนระบุ

“แต่นั่นไม่ใช่เรื่องพิเศษ และในกรณีของปฏิบัติการที่โอเพ่นเอไอเปิดเผย สิ่งที่สร้างขึ้นบางครั้งดูเหมือนจะเป็นข้อความสแปมค่อนข้างมาก ผู้ชมไม่ได้ให้การตอบรับอย่างที่ควรจะเป็น”

ผู้ชมออนไลน์สามารถต่อต้านเนื้อหาที่หลอกลวงผ่านการพิจารณาความถูกต้องของแหล่งที่มา การเข้าถึงข้อมูลดิจิทัลที่มาพร้อมข้อกังขา รวมถึงการช่วยให้เพื่อนและครอบครัวเข้าใจถึงความแพร่หลายของเนื้อหาปัญญาประดิษฐ์

นักวิจัยได้แบ่งปันข้อมูลและเปิดเผยการละเมิดปัญญาประดิษฐ์ด้วยเครื่องมือต่าง ๆ เช่น ฐานข้อมูลเหตุการณ์ผิดพลาดที่เกิดจากปัญญาประดิษฐ์และฐานข้อมูลเหตุการณ์ปลอมแปลงอัตลักษณ์ทางการเมือง

ในขณะเดียวกัน ยังมีการใช้ประโยชน์จากปัญญาประดิษฐ์ในการวิเคราะห์เนื้อหาเพื่อตรวจจับการบิดเบือนข้อมูลที่ไม่ถูกต้องและอาจเป็นอันตรายได้ดียิ่งขึ้น นายโกลด์สไตน์และนางดิเรสเตเขียนให้กับสถาบันตรวจสอบเทคโนโลยีแมสซาชูเซตส์

ในรายงานเกี่ยวกับการใช้เทคโนโลยีในทางที่มุ่งร้าย โอเพ่นเอไอเรียกร้องให้ร่วมมือกันเพื่อรักษาสภาพแวดล้อมของข้อมูลดิจิทัล “เราไม่สามารถหยุดยั้งการบิดเบือนข้อมูลได้ทั้งหมด” โอเพ่นเอไอระบุ “แต่เมื่อมีการสรรค์สร้างนวัตกรรม ตรวจสอบ ทำงานร่วมกัน และแบ่งปันกันอย่างต่อเนื่อง เราทำให้การตรวจพบผู้กระทำการคุกคามในระบบนิเวศทางดิจิทัลทำได้ง่ายยิ่งขึ้น”