선 넘는 일론 머스크의 '그록' … "아동 사진에 비키니 합성" 당국 조사받는다

말레이시아 정부가 아동의 사진을 조작해 비키니 사진으로 탈바꿈해 유포한 챗봇 '그록(Grok)'의 행태를 포착하고, 운영사인 인공지능(AI) 기업 xAI에 대한 조사에 착수했다.

블룸버그 통신은 말레이시아 방송통신멀티미디어위원회(MCMC)가 최근 미성년자를 비롯한 여성들의 사진을 조작해 음란 콘텐츠를 생성하는 AI에 대한 신고를 접수해 조사하고 있다고 5일(현지시각) 보도했다.

MCMC는 "이러한 유해 콘텐츠를 제작하거나 전송하는 행위는 말레이시아 법률상 범죄"라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 밝혔다.

말레이시아 당국이 겨냥한 AI는 일론 머스크가 이끄는 xAI의 챗봇 그록으로 알려졌다.

그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 사회관계망서비스(SNS) 엑스(X, 옛 트위터)에 유포해 여러 나라에서 문제를 일으키고 있다.

이 사진들은 일부 이용자들의 요청에 따라 생성됐으며, 1∼2살 영유아로 보이는 아동 사진도 포함돼 특히 문제가 됐다.

그록은 이용자들의 문제제기에 "안전장치의 허점을 확인했다"며 해당 사진들을 삭제했다.

챗GPT와 제미나이 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격하게 금지하고 있지만, 그록은 표현의 자유 등을 이유로 이를 허용한다.

최근 인도 정부 역시 xAI에 서한을 보내 그록이 노출이나 노골적인 성적 표현 등을 생성하지 않도록 포괄적으로 검토하라고 요청했다.

xAI는 이에 따라 72시간 안에 인도 전자정보기술부에 조치 보고서를 제출해야 한다.

앞서 지난주 프랑스 정부도 그록이 사용자 동의 없이 명백하게 불법적인 성적 콘텐츠를 생성했다고 비판했다.

최근 X 내에서 사용자들이 올린 사진에 무단으로 비키니 수영복을 합성하는 등 그록을 이용한 음란 콘텐츠 제작과 유포가 늘어나면서 다수의 사용자들이 불만과 우려를 표하고 있다.