앤트로픽도 "딥시크 등 中기업 3사, AI모델 무단추출 적발"

오픈AI에 이어 앤트로픽도 중국 인공지능(AI) 기업들이 자사 AI 모델의 결과물을 무단 추출해갔다고 주장하고 나섰다.

월스트리트저널(WSJ)에 따르면 앤트로픽은 딥시크, 문샷AI, 미니맥스 등 중국 기업 3사가 자사 AI 모델 '클로드'의 기능을 불법적으로 추출해간 사실을 확인했다고 23일(현지시각) 발표했다.

앤트로픽은 이들 기업이 가짜 계정 2만4000개를 통해 클로드와 대화 1600만건 이상을 생성했으며 딥시크는 15만건, 문샷AI는 340만건, 미니맥스는 1300만건의 대화를 통해 결과물을 무단 추출했다고 밝혔다.

앤트로픽은 이 같은 행위가 약관 위반임은 물론 '증류' 기법을 활용한 기술 역량 추출에 해당한다고 설명했다.

증류 기법은 다른 AI 모델이 내놓은 답변을 학습 재료로 삼아 유사한 능력을 갖춘 모델을 만드는 방식이다.

이는 AI 기업들이 자사의 상위 모델에 해당하는 능력을 갖춘 경량 하위 모델을 만들 때 쓰는 방법이다.

그러나 이 방식을 경쟁사 모델을 상대로 무단 활용하는 것은 사실상 도용이나 탈취로 여겨진다.

앤트로픽은 이번 무단 추출에 안보 위험의 위험성도 내포돼 있다고 우려했다.

앤트로픽의 기존 모델에는 생물학 무기 개발이나 악의적인 사이버 활동에 악용되는 것을 막는 안전장치가 있지만, 불법 추출된 모델은 이런 안전장치가 제거될 수 있다는 것이다.

앤트로픽은 국가 안보상의 이유로 중국 내 클로드 접속을 금지했는데 중국 기업들은 우회 접속한 것으로 보인다.

앤트로픽은 이같은 탐지 내용을 다른 AI 연구소 등과 공유하고 인증 절차를 강화하는 한편 새로운 안전장치를 개발 중이라고 밝혔다.

그러면서 중국 기업들의 이 같은 AI 모델 기술 탈취를 제한하려면 첨단 AI 칩의 중국 수출을 통제해야 한다고 주장했다.

한편, 앞서 오픈AI는 지난 12일 미국 하원 중국특별위원회에 제출한 메모에서 딥시크 등 중국 기업이 증류 기법을 활용해 미국 AI 모델의 결과물을 추출해가고 있다는 우려를 전했다.