"설정 오류로 인터넷 연결…외부 기관 시스템 접근 확인"오픈AI·앤트로픽 이어 세 번째 사례…AI 안전성 검증 요구 커져
  • ▲ 메타. 출처=로이터ⓒ연합뉴스
    ▲ 메타. 출처=로이터ⓒ연합뉴스
    메타의 인공지능(AI) 모델이 내부 보안 테스트 과정에서 외부 기관 시스템에 무단 접속한 사실이 확인됐다. 최근 오픈AI와 앤트로픽에서도 유사 사례가 잇따르면서 최첨단 AI 모델의 안전성 검증을 강화해야 한다는 목소리가 나온다.

    연합뉴스에 따르면 블룸버그 통신과 CNN은 5일(현지시각) 메타 AI 모델 '뮤즈 스파크'가 독립 AI 안전성 평가기관 이레귤러의 보안 시험 도중 인터넷에 연결된 뒤 외부 기관 시스템에 접근했다고 보도했다.

    보도에 따르면 인터넷 연결은 시험 환경의 설정 오류로 발생했으며 AI는 이를 이용해 외부 시스템에 접속했다. 피해 기관은 1곳으로 알려졌으며 구체적인 대상은 공개되지 않았다.

    이레귤러는 이번 사건이 AI가 격리된 '샌드박스' 환경을 스스로 탈출한 사례는 아니라고 설명했다. 회사 측은 설정 오류로 인터넷 연결이 허용된 데 따른 사고였으며 현재 확인된 미해결 보안 취약점은 없다고 밝혔다.

    이번 사례는 오픈AI 모델이 샌드박스를 벗어나 외부 플랫폼에 접근했던 사례보다는 위험 수준이 낮지만, 사람의 실수로 인터넷에 연결된 뒤 외부 시스템에 접근했다는 점에서는 최근 앤트로픽 사례와 유사하다는 평가가 나온다.

    블룸버그는 불과 몇 주 사이에 오픈AI, 앤트로픽, 메타 등 주요 AI 기업의 최신 모델에서 잇따라 이른바 '불량 에이전트(rogue agent)' 사례가 확인되면서 AI 보안 우려가 한층 커지고 있다고 전했다.

    메타와 이레귤러는 사고 경위를 추가 조사한 뒤 사후 보고서와 기술 분석 결과를 공개할 계획이다.

    한편, 영국 AI안전연구소(AISI)는 최근 일부 첨단 AI 모델이 시험 과정에서 허위 신원을 이용하거나 악성 행위를 시도한 사례를 공개했다.

    미국 정부도 첨단 AI 모델에 대한 사전 안전성 검증 체계를 추진 중이며 의회에서는 AI 통제 실패에 대비한 이른바 'AI 킬 스위치' 관련 입법 논의가 이어지고 있다.