성평등가족부는 2026년 11월 10일 인공지능(AI) 기반 아동·청소년 온라인 성착취 탐지·신고 시스템의 운영 성과를 발표했다. 시스템은 2026년 4월 본격 운영을 시작해 9월까지 6개월간 아동·청소년 성착취물 96,210건의 삭제를 지원했다.
종사자 1인당 하루 평균 삭제 요청 처리 건수는 202.1건으로, AI 도입 전 하루 평균 20.8건보다 약 9.7배 늘었다. 2025년 한 해에는 종사자가 수작업으로 모니터링·분석해 45,438건의 삭제를 지원했다.
AI 시스템은 사회관계망서비스(SNS)와 랜덤채팅앱 등 온라인 채널에서 아동·청소년 성착취물과 유인정보를 24시간 자동으로 수집·분석한다.
현재 14개 온라인 채널을 대상으로 하며, 담당자가 수집된 게시물의 신고 여부를 최종 검토한 뒤 유포 현황 모니터링과 삭제 요청을 진행한다. AI가 유해 영상물을 먼저 탐지해 종사자가 성착취물 등에 직접 노출되는 빈도가 줄고 심리적 부담이 완화돼, 피해자 지원 업무에 더 집중할 수 있는 환경을 조성할 수 있게 됐다고 부처는 설명했다.
중앙디지털성범죄피해자지원센터(중앙디성센터)의 삭제지원시스템도 불법촬영물 등의 삭제 요청과 이력 관리를 자동화했다.
약 2만 개 사이트에 대한 삭제 요청·처리 이력을 자동으로 관리하고, 건당 삭제요청 처리 시간은 1분 이내로 단축됐다. 지난 6개월간 총 58,309건의 URL에 대해 삭제 요청과 삭제 여부 확인이 자동으로 이뤄졌다.
미국 국립실종학대아동방지센터(NCMEC)와 글로벌 인터넷 인프라 사업자 클라우드플레어(Cloudflare)를 시스템 간 연동(API)으로 연결해 우회 접속 URL에 대한 대량 자동 삭제 요청도 가능해졌다. 연계 이후 NCMEC 신고시스템 Cybertipline을 통해 미국 서버 기반의 삭제 불응 사이트 2곳에 게시된 아동·청소년 성착취물 95건의 삭제 지원을 진행했고, Cloudflare를 통해 25,156건의 삭제를 진행했다.
부처는 연계로 삭제 지원 효과가 높아지고 종사자의 반복적인 문서 작성 부담도 줄었다고 밝혔다.
성평등가족부는 과학기술정보통신부와 협업해 2027년까지 AI 시스템 고도화를 추진한다. 탐지 대상 플랫폼 확대 목표는 2026년 74개, 2027년 139개다.
현재의 정해진 단어·사진 위주 판별을 대화 흐름과 맥락까지 이해하는 방식으로 고도화해 신종·우회 표현도 탐지하고, 중앙디성센터 보유 자료 10만 건과 시스템 운영 중 축적되는 사례를 학습에 활용해 정확도를 높일 계획이다. 피해 청소년에게 즉각 지원 정보를 제공하는 AI 챗봇도 도입하고, 시스템을 지역디성센터에 보급해 2027년 시범 운영할 예정이다.
이 고도화 목표는 사업 진행 경과에 따라 조정될 수 있다. 지난 8월에는 지역디성센터, 성착취피해 아동·청소년지원센터, 성폭력상담소 등 피해자 지원기관을 대상으로 시스템의 구축 배경과 주요 기능을 소개하는 설명회를 열었다.
2027년에는 DNA 기반으로 동일·유사 영상을 자동 탐지하는 등 중앙디성센터 시스템의 핵심 기능을 담은 설치형 삭제지원 소프트웨어도 지역에 보급할 계획이다.
지역디성센터의 기존 운영체제에 바로 적용할 수 있는 구조로, 피해자 민감정보를 외부로 전송하지 않고 영상물 분석·정보 추출, 유포 모니터링, 삭제 요청을 수행할 수 있다. 촬영물 속 얼굴 식별과 문자 판독 등 AI 기반 기능도 포함돼, 지역 현장에서도 피해 촬영물 분석부터 사례 관리까지 대응할 수 있을 전망이다.
성폭력·디지털성범죄·가정폭력·교제폭력·스토킹 등으로 전문가 도움이 필요하면 여성긴급전화 1366(국번 없이 1366)에서 365일 24시간 상담과 긴급보호를 받을 수 있다.
경찰 신고 전 법률상담부터 수사·소송 지원까지 무료 법률지원도 연계받을 수 있다.
