정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 강력히 대응하기 위해 관계기관 간 기술 협력에 나선다. 행정안전부, 성평등가족부, 방송미디어통신위원회는 6월 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다. 이번 협약은 AI 기술의 발전으로 딥페이크 성범죄가 지능화·고도화되고 피해영상물이 온라인에서 빠르게 확산되는 상황을 막기 위해 마련됐다.
협약에 따라 세 기관은 국립과학수사연구원과 협업해 개발한 'AI 딥페이크 탐지·분석모델'을 공유하고, 피해영상물의 탐지, 삭제, 차단 절차를 연계한다. 또한 2차 피해 방지를 위한 정보 보호와 보안 조치에도 협력하기로 했다. 이 모델은 생성형 AI로 만들어진 영상물을 정확히 식별하고 분석해, 기존 수작업보다 신속하고 효과적인 대응을 가능하게 할 것으로 기대된다.
행정안전부는 AI 기술 발전 속도에 맞춰 탐지·분석모델을 지속적으로 고도화하고, 관계기관이 활용할 수 있도록 제공할 예정이다. 성평등가족부는 기존에 도입한 민간 탐지모델과 함께 이번 모델을 병행해 더 세밀한 분석과 삭제 작업을 진행한다. 피해영상물 처리 기준과 보안 규정을 마련해 피해자 보호와 2차 피해 방지에 힘쓸 방침이다. 정구창 성평등가족부 차관은 “탐지부터 삭제, 수사·의료·치유회복 지원까지 이어지는 피해자 지원체계를 더욱 강화하겠다”고 밝혔다.
방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통을 차단하고, 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다. 재유포나 변형 콘텐츠에 신속히 대응하기 위해 관계기관 간 정보 공유와 협력도 확대한다. 고민수 방송미디어통신위원회 상임위원은 “딥페이크 성범죄물의 신속한 삭제·차단과 재유포 방지를 위해 적극 협력하겠다”고 말했다.
정부는 이번 협약을 계기로 딥페이크 성범죄 대응 전 과정에 AI 탐지·분석 기술을 연계할 계획이다. 피해영상물이나 의심 콘텐츠가 접수되면 AI 모델로 1차 분석을 한 뒤, 그 결과를 삭제·차단과 피해자 지원 절차에 바로 활용한다. 각 기관은 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 하고, 불필요한 복제나 공유를 제한하는 등 보안 관리 기준을 강화할 예정이다.
윤호중 행정안전부 장관은 “딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포·변형으로 인한 2차 피해 우려가 크다”며 “관계기관 간 신속한 공동대응이 중요하다”고 강조했다. 이어 “AI 탐지·분석모델을 공유하고, 탐지부터 삭제·차단, 피해자 보호까지 이어지는 기술 협력체계를 구축하겠다”고 밝혔다. 세 기관은 협약 이후 현장 적용을 본격화하면서 모델의 활용도를 높이고, 공동대응 성과를 지속적으로 점검할 계획이다.
