포럼 스태프
페르디난드 마르코스 주니어(Ferdinand Marcos Jr.) 필리핀 대통령은 온라인에 유포된 그의 딥페이크 음성이 말하는 것처럼 ‘특정 외국’에 대응하는 군사적 행동을 지시한 적이 없다고 필리핀 대통령궁 공보실이 밝혔다.
이 조작된 오디오는 2024년 4월 말, 남중국해 일부가 필리핀의 배타적 경제수역이라는 국제재판소의 2016년 판결에도 불구하고 중국이 해당 지역에 대한 영유권을 주장하며 점점 더 공격적인 행동을 보이는 가운데 등장했다.
페이크 게시물이 유포된 후에도 중국 해안경비대 함정이 필리핀 선박의 스카보러 사주 순찰을 저지하려고 시도하는 등, 중국의 공세는 계속되었다고 AP 통신이 보도했다. 필리핀 당국은 “중국 해안경비대와 해양민병대의 선박이 필리핀 해안경비대와 어업 및 수산 자원국 소속의 선박을 위협하여 막은 뒤 충돌했다”고 밝혔다.
필리핀과 동맹국 및 파트너국은 중국의 해상 공격을 비난했다.
비디오 스트리밍 플랫폼에 게시된 이번 딥페이크가 ‘외국 행위자’의 소행일 가능성이 높다고 밝힌 대통령궁 공보실은 “그런 지시는 존재하지도 않고, 내려진 적도 없다”고 강조하면서 해당 딥페이크 계정은 삭제되었다고 덧붙였다. 정부는 게시물을 조사 중에 있다.
마닐라의 뉴스 웹사이트 래플러(Rappler)에 따르면, 이 가짜 동영상에는 마르코스 대통령이 ‘필리핀 군 및 특수임무부대’에 중국이 필리핀을 ‘공격’할 경우 상응하는 대응 조치를 지시하는 것처럼 조작된 딥페이크 음성이 포함돼 있었다.
필리핀 뉴스 에이전시는 국가 안보를 위협하는 딥페이크 기술을 테러리즘으로 분류하자고 제안한 한 필리핀 의원의 발언을 소개했다. 해당 통신사는 라나오 델 노르테 주의 모하마드 칼리드 디마포로(Mohamad Khalid Dimaporo) 하원의원이 마르코스 대통령의 딥페이크는 대통령의 외교 정책에 대한 ‘방해공작’ 이라고 주장했다고 전했다.
필리핀 사이버범죄 수사 및 조정 센터는 딥페이크 게시물은 외국이 개입되지 않은 개인이 제작한 것이라고 발표했다.
이 조작 영상은 호주와 프랑스 군을 비롯해 14개 참관국이 참가하는 필리핀-미국의 최대 군사훈련인 발리카탄 훈련이 시작될 즈음에 등장했다. 로이터 통신은 중국이 올해로 39회를 맞이하는 이 연례 훈련이 긴장을 악화하고 역내 안정을 저해한다고 비난했다고 보도했다.
페이크 오디오와 비디오는 소셜 미디어 플랫폼 상에서 점점 더 보편화되고 있는 추세다. 생성형 인공지능(AI)의 급속한 발전으로 이러한 딥페이크의 식별이 어려워짐에 따라, 허위 정보 도구로 선호되고 있다.
유엔을 비롯한 다수의 개별 국가는 이 기술에 대한 감독 방법을 두고 고민 중이다. 2024년 5월, AP통신은 기시다 후미오 일본 총리가 규제 프레임워크를 제안했다고 보도했다. 기시다 총리는 “생성형 AI는 세상을 더욱 풍요롭게 만들 도구로서 무궁한 잠재력을 지니고 있다”면서도 “허위 정보의 위험과 같은 AI의 어두운 면에도 대처해야 한다”고 지적했다.
뉴욕타임스에 따르면 2022년 말, 페이스북과 트위터(현 X)의 친중국 봇 계정이 AI 소프트웨어로 제작한 아바타를 배포한 적이 있었다. 이는 국가가 개입한 허위 정보 캠페인의 일환으로 딥페이크 기술이 가상의 인물을 만드는 데 사용된 것으로 알려진 최초의 사례라고 해당 신문은 2023년 2월에 보도했다.
