정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 강력히 대응하기 위해 관계기관 간 협력체계를 구축한다.
방송미디어통신위원회, 행정안전부, 성평등가족부는 6월 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다. 이번 협약은 AI 기술 발전으로 딥페이크 성범죄가 지능화되고 피해영상물이 온라인상에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다.
협약에 따라 세 기관은 행정안전부가 국립과학수사연구원과 함께 개발한 'AI 딥페이크 탐지·분석모델'을 공유하고, 이를 피해영상물 대응 현장에 본격 활용하기로 했다. 이 모델은 딥페이크 영상을 자동으로 찾아내고 분석하는 기술로, 기존 수작업보다 대응 속도와 정확성을 크게 높일 수 있다.
방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠가 온라인에 유통되는 것을 막고, 플랫폼 사업자들과 협력해 삭제·차단 체계를 강화한다. 재유포나 변형된 콘텐츠에 대응하기 위해 관계기관 간 정보 공유도 확대한다. 고민수 방송미디어통신위원회 상임위원은 "딥페이크 성범죄물을 신속히 삭제·차단하고 재유포를 방지하기 위해 관계기관과 적극 협력하겠다"고 밝혔다.
행정안전부는 AI 기술 발전 속도에 맞춰 탐지·분석모델을 지속적으로 고도화하고, 관계기관이 활용할 수 있도록 제공할 예정이다. 성평등가족부는 기존에 도입한 민간 딥페이크 탐지모델과 이번 AI 모델을 함께 사용해 피해영상물과 의심 콘텐츠를 더 정밀하게 분석·삭제한다. 또 피해영상물 처리와 보안 관련 업무기준을 마련해 피해자 보호와 2차 피해 방지에 나선다. 정구창 성평등가족부 차관은 "이번 협약을 계기로 탐지부터 삭제, 수사·의료·치유회복 지원까지 이어지는 피해자 지원체계를 더욱 강화하겠다"고 말했다.
정부는 이번 협약을 바탕으로 딥페이크 성범죄 대응 전 과정에 AI 탐지·분석 기술을 연계할 방침이다. 피해영상물이나 의심 콘텐츠가 접수되면 먼저 AI 모델로 1차 탐지·분석을 실시하고, 그 결과를 삭제·차단 및 피해자 지원 절차와 연결해 신속히 대응한다. 각 기관은 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제·공유·보관을 제한하는 등 보안관리 기준도 강화할 계획이다.
윤호중 행정안전부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포·변형으로 인한 2차 피해 우려가 크기 때문에 관계기관 간 신속한 공동 대응이 중요하다"며 "행안부는 AI 딥페이크 탐지·분석모델을 관계기관과 공유하고, 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다"고 강조했다.
세 부처는 협약 이후 현장에 이 모델을 본격 적용하면서 활용도를 높이고, 딥페이크 성범죄 공동대응 성과를 지속적으로 점검할 예정이다.
