AI 성착취물 탐지, 삭제 지원 9.7배

AI 성착취물 탐지 시스템이 본격적으로 가동되면서 아동·청소년 성착취물 삭제 요청 처리량이 크게 늘었다. 종사자 1명이 하루 평균 처리한 삭제 요청은 시스템 도입 전 20.8건에서 도입 후 202건으로 증가했다. 이전보다 9.7배 많은 수준이다.

성평등가족부가 2026년 11월 10일 공개한 운영 결과에 따르면, 2026년 4월부터 6개월 동안 삭제 지원이 이뤄진 아동·청소년 성착취물은 9만 6000여 건이다. 2025년 한 해 동안 수작업 중심의 모니터링과 분석으로 삭제를 지원한 4만 5000여 건보다도 많다.

24시간 자동 탐지와 담당자 검토

성평등가족부와 한국여성인권진흥원이 2026년 4월부터 본격적으로 운영한 AI 시스템은 온라인상의 성착취물과 유인정보를 하루 24시간 자동으로 탐지하고 분석하는 체계다.

시스템은 사회관계망서비스와 랜덤채팅 애플리케이션 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집해 분석한다. 이후 담당자가 탐지 결과를 검토하고, 실제 유포 현황을 살핀 뒤 삭제 요청 등의 절차를 진행한다.

AI가 온라인상의 의심 자료를 먼저 찾아내고 담당자가 내용을 확인하는 방식으로 탐지와 삭제 지원 업무가 이어지는 구조다. 자동 탐지 결과만으로 모든 절차를 끝내는 것이 아니라 담당자의 검토를 거쳐 유포 상황을 확인하고 삭제를 요청한다.

6개월 동안 9만 6000여 건 지원

수작업에 의존했던 2025년에는 한 해 동안 아동·청소년 성착취물 4만 5000여 건에 대한 삭제 지원이 이뤄졌다. AI 시스템이 도입된 뒤에는 6개월 만에 지원 건수가 9만 6000여 건으로 집계됐다.

종사자 1명당 하루 평균 처리량으로 비교하면 변화가 더욱 분명하다. 도입 전에는 하루 평균 20.8건의 삭제 요청을 처리했지만, 도입 후에는 평균 202건을 처리했다. 처리 건수가 9.7배로 늘어난 것이다.

AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물에 직접 노출되는 빈도도 줄었다. 반복적으로 유해물을 확인해야 하는 과정이 일부 감소해 종사자의 심리적 부담을 덜고, 피해자 지원 업무에 더 집중할 수 있는 환경을 만드는 데에도 도움이 됐다.

2만 개 사이트 삭제 이력 자동 관리

불법촬영물 등의 유포에 신속하게 대처하기 위한 자동화 기술도 삭제지원시스템에 적용됐다. 해당 기술은 2만 개 사이트를 대상으로 삭제 요청과 처리 이력을 자동으로 관리한다.

자동화 이후 건당 삭제 요청 처리 시간은 1분 이내로 단축됐다. 최근 6개월 동안에는 불법촬영물 등이 게시된 인터넷 주소 5만 8309건에 대해 삭제 요청과 실제 삭제 여부 확인이 자동으로 진행됐다.

기존에 종사자가 반복적으로 처리하던 삭제 요청과 결과 확인을 시스템이 맡으면서, 여러 사이트에 흩어진 게시물의 처리 현황을 보다 빠르게 관리할 수 있게 됐다.

해외 기관 연계로 대량 삭제 요청

해외 서버나 우회 접속 방식으로 유통되는 성착취물에 대응하기 위해 미국 국립실종학대아동방지센터와 글로벌 콘텐츠전송네트워크 사업자 클라우드플레어의 시스템도 연계됐다.

이 연계를 통해 우회 접속 인터넷 주소에 대한 대량 자동 삭제 요청이 가능해졌다. 종사자가 삭제 요청을 위해 반복적으로 문서를 작성해야 하는 부담도 줄었다.

연계 이후 미국 국립실종학대아동방지센터 신고시스템을 통해 미국 서버를 기반으로 운영되는 삭제 불응 사이트 2곳에 게시된 아동·청소년 성착취물 95건의 삭제가 진행됐다. 클라우드플레어를 통해서는 2만 5156건에 대한 삭제 절차가 이뤄졌다.

• 미국 서버 기반 삭제 불응 사이트 2곳의 성착취물 95건 삭제
• 클라우드플레어 연계를 통한 2만 5156건 삭제
• 우회 접속 인터넷 주소에 대한 대량 자동 삭제 요청 가능
• 반복적인 삭제 요청 문서 작성 부담 감소

2027년 탐지 범위와 정확도 확대

성평등가족부는 과학기술정보통신부와 함께 2027년까지 AI 시스템의 기능을 한층 높일 계획이다. 탐지 대상 플랫폼을 대폭 늘리고, 대규모 데이터를 학습한 AI 모델을 활용해 성착취물 탐지와 판별의 정확도를 높이는 내용이 포함됐다.

중앙디지털성범죄피해자지원센터가 활용하는 기술을 지역 현장에서도 공동으로 사용할 수 있도록 하는 준비도 진행 중이다. 2026년 8월에는 피해자 지원기관을 대상으로 시스템의 구축 배경과 주요 기능을 소개하는 설명회가 열렸다.

향후에는 지역디지털성범죄피해자지원센터를 중심으로 중앙센터의 AI 기술과 업무 경험을 함께 활용할 수 있도록 할 방침이다. 중앙에서 사용해 온 디지털성범죄 대응 기술을 지역 피해자 지원 현장으로 넓혀 피해 촬영물 분석과 삭제 지원의 속도를 높이겠다는 취지다.

민감정보 외부 전송 없는 설치형 소프트웨어

2027년에는 중앙디지털성범죄피해자지원센터 시스템의 핵심 기능을 담은 설치형 삭제 지원 소프트웨어가 지역 현장에 보급될 예정이다. 여기에는 DNA 기반의 동일·유사 영상 자동 탐지 기능이 포함된다.

설치형 소프트웨어를 사용하면 피해자의 민감정보를 외부로 전송하지 않고도 영상물 분석과 정보 추출, 유포 모니터링, 삭제 요청 등의 업무를 수행할 수 있다. 촬영물 속 얼굴을 식별하거나 문자를 판독하는 AI 기반 기능도 제공된다.

지역센터가 사용하고 있는 기존 운영체제에 바로 적용할 수 있는 구조로 개발되는 만큼, 별도의 외부 정보 전송 없이 피해 촬영물을 분석하고 관련 정보를 추출할 수 있다. 유포 상황 확인과 삭제 요청, 피해 사례 관리도 하나의 업무 흐름 안에서 처리할 수 있게 된다.

1. 동일하거나 유사한 영상 자동 탐지
2. 피해 촬영물 분석과 정보 추출
3. 촬영물 속 얼굴 식별과 문자 판독
4. 온라인 유포 현황 모니터링
5. 삭제 요청과 피해 사례 관리

핵심은 중앙센터의 탐지·분석 역량을 지역 현장에서도 활용하면서 피해자의 민감정보는 외부로 보내지 않는다는 점이다. 이를 통해 지역에서도 피해 촬영물 분석부터 삭제 요청과 사례 관리까지 AI를 기반으로 신속하고 정확하게 처리할 수 있을 것으로 제시됐다.

피해자의 빠른 일상 회복에 초점

성평등가족부는 기술 환경의 변화에 따라 빠르게 형태를 바꾸는 디지털 성범죄에 대응하려면 정부 차원의 기술적 조치가 필요하다고 밝혔다. 앞으로도 AI 등 최신 기술을 현장에 적용해 대응 속도와 정확도를 높이고, 피해자가 신속하게 일상으로 돌아갈 수 있도록 지원체계를 촘촘히 운영하겠다는 입장이다.

한국여성인권진흥원도 AI 시스템 도입 이후 삭제 지원 처리 건수가 10배 가까이 늘어난 점에 주목했다. 기술의 발전이 피해자 지원의 속도뿐 아니라 지원 가능한 범위에도 변화를 가져온 사례라고 설명했다.

성평등가족부와 한국여성인권진흥원은 앞으로 관계 부처와의 협업을 이어가며 AI의 판별 정확도와 탐지 범위를 높일 예정이다. 중앙디지털성범죄피해자지원센터가 축적한 기술과 업무 경험이 지역디지털성범죄피해자지원센터까지 전달되도록 지원한다는 계획이다.