2024년 이후 팔레스타인·이스라엘 분쟁과 러시아·우크라이나 전쟁 등 주요 국제분쟁 과정에서 생성형 인공지능(AI) 기반 이미지·영상·음성이 소셜미디어를 통해 빠르게 확산되면서 국제사회 내 ‘진실성 리스크’ 우려가 커지고 있다.
일부 전쟁 장면과 군사작전 영상, 지도자 발언 영상 등이 실제 촬영물이 아닌 AI 생성 콘텐츠 또는 편집·조작된 영상으로 확인되면서 국제여론과 외교 환경에도 영향을 미치고 있다는 분석이 나온다.
생성형 AI가 정보 생산 비용과 기술 장벽을 크게 낮추면서 국제분쟁 환경에서 허위정보와 딥페이크(Deepfake) 콘텐츠 확산 문제가 새로운 글로벌 거버넌스 과제로 떠올랐다.
국제정치에서 정보전과 여론 경쟁은 오래전부터 존재해 왔다. 과거에는 전통 언론과 정부 공식 채널이 주요 정보 전달 창구 역할을 했으나, 생성형 AI 기술이 발전하면서 현재는 개인이나 소규모 조직도 짧은 시간 안에 실제와 유사한 이미지와 영상을 대량 생산할 수 있게 됐다. 특히 국제분쟁 상황은 AI 기반 허위정보가 확산되기 쉬운 환경으로 꼽힌다.
실제 팔레스타인·이스라엘 분쟁 과정에서는 공습 현장과 민간인 피해 등을 담은 이미지와 영상이 소셜미디어를 통해 대량 유통된 이후, 일부 콘텐츠가 과거 사진을 편집하거나 게임 화면을 변형한 사례 또는 생성형 AI로 제작된 콘텐츠로 밝혀지기도 했다. 문제는 사실 검증이 이뤄지기 전에 이미 국제사회에서 강한 감정적 반응을 불러일으켰다는 점이다.
전문가들은 생성형 AI가 국제사회 내 ‘서사 경쟁’ 구조 자체를 변화시키고 있다고 보고 있다. 과거에는 국가 이미지와 국제여론 형성을 위해 외교 채널과 언론, 장기적인 공공외교 전략이 필요했지만, 현재는 AI 생성 콘텐츠를 활용해 낮은 비용으로 강한 시각적·감정적 효과를 만들어 낼 수 있기 때문이다.
이 같은 변화는 단순한 허위 정보 문제를 넘어 국제안보와 외교 문제로 이어질 수 있다는 우려도 낳고 있다. 위기 상황에서 조작된 지도자 발언 영상이나 허위 군사행동 정보가 빠르게 유통될 경우 국가 간 오판 가능성을 높일 수 있으며, 사회 혼란과 금융시장 변동성을 자극할 가능성도 있다. 이에 따라 생성형 AI 기반 딥페이크 문제가 기존 ‘가짜뉴스’ 수준을 넘어 국제정치 안정성과 직결되는 문제로 확대되는 추세다.
국제사회 역시 대응 논의를 확대하고 있다. 유엔(UN)과 주요 국제기구들은 최근 AI 거버넌스와 딥페이크 대응 체계 구축을 지속적으로 논의하고 있으며, 일부 국가는 디지털 워터마크와 AI 생성 콘텐츠 표시제도 도입을 추진하고 있다. 다만 기술 발전 속도가 제도와 국제협력 체계 구축 속도를 앞서고 있어 글로벌 차원의 통일된 기준 마련에는 한계가 있다.
전문가들은 진실성 리스크에 대응하기 위해 정부, 국제기구, 플랫폼 기업 간 공조 체계가 필요하다고 보고 있다. AI 생성 콘텐츠 표시 기술과 검증 시스템을 강화하고, 국제사회 차원의 사실 검증 및 정보 공유 체계를 확대해야 한다는 것이다. 동시에 소셜미디어 이용자의 미디어 리터러시 향상도 중요한 과제로 제시된다.
생성형 AI 확산이 가져온 진실성 리스크는 단순한 기술 문제가 아니라 국제 정보질서와 신뢰 체계 전반의 문제로 연결되고 있으며, 국제사회에서는 앞으로 AI 기술 발전 속에서 정보 신뢰성과 국제적 소통 체계를 어떻게 유지할 것인지가 장기적인 과제가 될 전망이다.
레이 치정(Lei Qizheng)
연세대학교 국제학대학원
글로벌시민개발학 석사과정
정리=이연재 기자.
