유포된 성착취영상 찾아내 삭제 신고까지 '6분' … 피해자 AI 지원 제도 시작

서울시가 디지털 성범죄 영상물에 대한 인공지능(AI) 기반 자동 삭제신고 시스템을 전국 최초로 개발해 운영에 들어갔다. 영상물 검출부터 삭제신고 이메일 생성까지 전 과정을 AI가 자동화해 처리시간은 6분 가량이다.

시는 21일 서울디지털성범죄안심지원센터를 통해 24시간 불법 영상물 감시 체계에 자동 신고 기능까지 추가한 시스템을 도입했다고 밝혔다.

AI는 피해 영상물을 자동 검출한 뒤 화면을 채증해 보고서를 만들고 해당 사이트에 삭제를 요청하는 이메일을 작성한다. 이 이메일은 삭제지원관이 최종 확인한 뒤 전송한다.

기존에는 삭제지원관이 영상마다 직접 채증·보고서를 작성해 평균 2시간 30분가량 소요됐다. 이번 시스템 도입으로 처리 속도는 약 30배 개선될 것으로 시는 보고 있다.

AI는 삭제지원관이 피해 영상물에 직접 노출돼 겪는 트라우마도 줄일 수 있다는 점에서 심리적 부담 경감 효과도 기대된다.

기술적으로는 멀티모달 대형언어모델(MLLM)과 웹 자동화 도구(Selenium)를 결합해 이미지와 텍스트를 동시에 인식하고 필요한 정보를 자동 추출해 법적 증거로 활용할 수 있는 문서로 변환한다.

해외 서버 기반 사이트에도 자동 대응이 가능하다. 영어, 중국어, 일본어, 러시아어 등 7개 국어로 자동 신고 이메일이 작성되며 특히 중국·러시아·베트남 등 최근 유포 경향이 확대되는 국가에 대해 검색 범위도 넓혔다.

서울시는 지난 2023년에도 전국 최초로 디지털 성범죄 대응에 AI 기술을 도입한 바 있다. 

이때 검출 속도는 사람이 수작업으로 검색하던 방식에 비해 97.5% 단축, 삭제지원 건수는 1년 만에 468% 증가했다.

서울디지털성범죄안심지원센터는 지난 2022년 개관 이후 3년간 총 3650명의 피해자를 지원했고 누적 지원 건수는 6만 4677건에 달한다. 

피해지원 인원은 2022년 309명에서 2024년 2820명으로 9배 이상 증가했다.

특히 아동·청소년 대상 디지털 성범죄가 급증한 것으로 나타났다. 

2022년 50명이던 피해자는 2024년 624명으로 13배 증가했고 같은 기간 온라인 그루밍 피해도 19건에서 370건으로 20배 넘게 늘었다.

시는 피해 아동·청소년이 가족에게도 말하지 못하는 사례가 많다는 점을 고려해 카카오톡 오픈채팅 상담 창구 '디지털성범죄 SOS 상담'도 운영 중이다. 피해자뿐 아니라 학부모도 무료 심리치료 지원을 받을 수 있다.

센터는 수사, 법률, 심리, 의료, 삭제 등 모든 절차를 지원한다. 디지털 성범죄 피해자는 상담 직통번호 815-0382(영상빨리) 또는 누리집(www.8150382.or.kr)을 통해 상담을 신청할 수 있다.