서울시, 아동·청소년 성착취물 AI로 잡아낸다 … 90초 만에 삭제

서울시가 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발해 24시간 자동 추적 감시에 나선다고 22일 밝혔다. 

시는 아동·청소년 관련 법에 따라 당사자나 부모 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 신속 대응할 방침이다. 

'아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다. 특히 영상물에 얼굴이 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다. AI가 영상물에 자주 등장하는 책, 교복, 인형 등은 물론, 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해서 최종적으로 피해 영상물 여부를 판별한다. 

키워드 입력부터 영상물 검출까지 걸리는 시간은 90초로, 기존 삭제지원관이 수작업으로 찾아내는 데 걸렸던 2시간과 비교하면 검출 속도도 빨라질 전망이다. 

아울러 검색 영역 확장으로, AI를 통해 국내와 미국뿐 아니라 중국, 러시아 등의 해외에 유포된 피해 영상물 검색도 가능해진다.

김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다"며 "기술 개발로 아동·청소년이 안전한 서울을 만들겠"고 말했다.