탐지 소프트웨어·분석관·AI 범행도구 분석으로 3중 대응"딥페이크 범죄, 무관용 원칙으로 강력 대응"
  • ▲ 국가수사본부. ⓒ뉴데일리 DB
    ▲ 국가수사본부. ⓒ뉴데일리 DB
    경찰청 국가수사본부가 올해 1월부터 7월까지 허위영상물(딥페이크) 범죄 피의자 419명을 검거하고 이중 17명을 구속시켰다고 13일 밝혔다. 

    국수본은 딥페이크 범죄에 대응하기 위해 ▲딥페이크 탐지 소프트웨어 ▲과학수사 영상 분석관 판독 ▲인공지능(AI) 범행도구 분석 등 3중 대응체계를 갖추고 이를 고도화하고 있다.

    우선 딥페이크 탐지 소프트웨어는 얼굴 생성 및 교체 여부, 생물학적 특징 분석(눈 깜빡임, 혈류 변화), 파일 메타데이터 구조 등을 종합적으로 분석해 합성 여부를 가려낸다.

    국수본은 국내 허위영상물 탐지에 특화되도록 훈련된 인공지능 모델을 탑재하는 등 소프트웨어 성능을 지속해서 고도화하고 있다. 개발 후 현재까지 총 1636건의 딥페이크 영상물 탐지에 활용됐다. 올해는 선거범죄 등 기타 수사 분야에서 사용되기도 했다.  

    국수본은 또 딥페이크 탐지 소프트웨어로 영상물을 탐색했음에도 조작 여부가 모호해 추가 분석이 필요한 경우 과학수사 영상분석관이 '영상 분석 프로그램'을 통해 위·변조 검증하도록 절차를 구축했다.

    디지털 포렌식 분야에서는 딥페이크에 악용되고 있는 상용 AI 프로그램의 특이점을 분석한 'AI 포렌식 기법'을 개발 완료해 수사에 활용하고 있다. 시·도경찰청 소속 전문분석관이 '피의자가 어떤 프로그램으로 영상을 조작했는지' '어느 부분을 변경했는지' 등 제작부터 유포까지 범행의 전 과정을 기술적으로 분석해 재구성한다. 

    국수본 관계자는 "딥페이크 탐지기술 활용은 디지털 성범죄 대응에만 머무르지 않고 허위정보 유포·전기통신금융사기 등 인공지능을 악용한 다양한 범죄 전반으로 기술 적용 범위를 넓혀갈 계획"이라고 밝혔다.

    이어 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 강조했다.