디지털 성범죄가 갈수록 지능화·고도화되는 가운데, 정부가 인공지능(AI)을 앞세운 24시간 자동 대응 체계를 구축했다. 성평등가족부는 1일 피해 영상물 삭제요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입했다고 밝혔다.
기존에는 피해자 보호가 대부분 수동·사후 대응에 의존해 속도와 정확도에 한계가 있었다. 이번 시스템 도입으로 디지털 성범죄 대응 체계가 자동화·지능화되어 피해자 중심의 신속하고 선제적인 지원이 가능해졌다.
먼저, 피해영상물 삭제요청 자동화 시스템이 도입됐다. 이 시스템은 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하여, 건당 처리 시간을 1분 이내로 단축했다. 특히 중앙디지털성범죄피해자지원센터(디성센터)의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어와 API로 연계하여, 우회 접속 URL도 대량으로 자동 삭제요청이 가능해졌다.
또한 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했다. 종사자의 정신적 소진을 예방하기 위해 미국 NCMEC의 선진 사례를 참고한 촬영물 필터(회색조 처리) 기능도 새로 도입했다. 기존에는 담당자가 수동으로 탐색하고 삭제요청을 했으나, 이제는 전체 수집 사이트 2만 6658개의 삭제 경로를 연동해 자동화했으며, 이력 관리도 자동으로 추적해 누락 없는 체계적 관리가 가능해졌다.
아동·청소년 온라인 성착취 선제적 대응 시스템도 주목할 만하다. 인공지능 기술을 활용해 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고, 자동 신고 및 삭제요청까지 수행한다. 특히 국내 최초로 랜덤채팅앱에 대한 데이터 자동 수집 기술을 탑재했으며, 기존 디성센터의 삭제지원시스템과 연계해 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청도 가능해졌다.
이 시스템에 적용된 AI 모델은 총 5단계의 분석을 거친다. 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단, 아동·청소년 여부 추정, 유사 이미지 대조 등 다단계 분석을 통해 아동·청소년 성착취물 여부를 정밀하게 판단한다.
시스템 구축 후 25일간의 시범운영 결과, 효과는 즉각 나타났다. 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 42.0건에서 116.1건으로 2.7배 이상 증가했고, 성착취 유인정보는 3.7건에서 303.9건으로 80배 이상 폭발적으로 늘었다. 정부는 향후 시스템 본격 운영을 통해 아동·청소년 성착취물은 신속하게 선제적 삭제지원하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 온라인 아웃리치를 병행해 맞춤형 통합지원을 강화할 계획이다.
AI 기반 딥페이크 탐지 솔루션도 도입됐다. 육안으로 판별하기 어려웠던 합성물을 정확히 식별할 수 있게 되어, 피해자의 불안을 해소하고 추가 삭제지원도 가능해졌다. 특히 선제적 삭제지원을 위한 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견된 경우, 딥페이크 탐지 솔루션을 적용해 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단할 수 있다.
실제 지원 사례도 나왔다. 지역 디성센터를 찾은 내담자 A씨는 온라인에 유포된 불법촬영물이 본인의 딥페이크물일 수 있다는 불안감을 호소했다. 지역 디성센터 담당자는 지난 2월 신설된 중앙-지역 실시간 협업게시판을 통해 해당 영상물의 딥페이크 여부 판별을 요청했고, 중앙 디성센터는 AI 딥페이크 판별 솔루션을 적용해 해당 영상물이 딥페이크가 아님을 신속하게 확인했다. 이는 중앙-지역 협업게시판과 AI 딥페이크 탐지 솔루션이 함께 작동해 내담자의 불안을 현장에서 즉시 해소한 첫 연계 사례다.
또 다른 사례로, 수사기관을 통해 중앙 디성센터에 딥페이크 허위영상물 피해가 접수된 경우가 있다. 센터는 선제적 삭제지원을 위한 온라인 모니터링 과정에서 B씨의 추가 피해 의심 사진 다수를 발견했다. 해당 사진이 실제 일상 사진인지 합성·편집된 불법 영상물인지 육안으로 구별이 불가능했으나, AI 딥페이크 탐지 솔루션을 적용해 일부가 딥페이크 합성물임을 확인했다. 접수 당시 피해자도 해당 사진들의 존재를 인지하지 못했으나, 센터는 이를 삭제지원 대상에 즉시 포함해 추가 유포를 차단했다.
원민경 성평등가족부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 밝혔다.
성폭력, 디지털성범죄, 가정폭력, 교제폭력, 스토킹 등으로 전문가의 도움이 필요한 경우 여성긴급 전화 1366(국번없이 1366)으로 전화하면 365일 24시간 상담 및 긴급보호를 받을 수 있다.
