美 캘리포니아주지사, 'AI 규제법안' 거부권 … "문제 해결 못 해"

AI 개발자와 개발업체에 무거운 책임을 부과하는 것을 골자로 한 캘리포니아의 AI 규제법이 주지사의 거부권 행사로 제동이 걸렸다. AI 기술의 본거지로 꼽히는 캘리포니아의 AI법은 미국 및 글로벌 AI 규제의 초석이 될 것으로 주목받았지만, 업계의 강렬한 반대 등으로 멈춰서게 됐다.

월스트리트저널(WSJ) 등 외신에 따르면 개빈 뉴섬 캘리포니아주지사(민주당)는 29일(현지시각) AI 개발업체의 책임을 강화하는 내용의 AI 규제법안 'SB 1047'에 대해 거부권을 행사했다고 밝혔다.

주의회가 지난달 28일 이 법안을 통과시킨 지 한 달여만으로, 거부권은 30일 서명 시한을 하루 앞두고 행사됐다.

뉴섬 주지사는 "(법안의) 규제가 가장 크고 비싼 AI 모델에만 집중됐다"며 "AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지를 고려하지 않았다"고 거부권 행사 이유를 밝혔다.

이어 "작은 AI 모델들도 전력망이나 의료기록과 같은 민감한 데이터를 다루는 매우 위험한 상황을 초래할 수 있는 반면 대형 모델들은 고객 서비스와 같이 비교적 위험이 낮은 작업에 사용되기도 한다"고 지적했다.

그러면서 "대규모 재난이 발생하기 전에 대책을 마련해야 한다는 법안 지지자들의 주장에 동의하지만, 규제는 반드시 과학적이고 실증적인 증거에 기반해야 한다"고 덧붙였다.

개빈 주지사의 거부권 행사에 따라 이번 법안에 반대해 온 기술 기업들은 한숨 돌릴 수 있게 됐다.

이 법안은 1억달러 이상 투입된 대규모 언어모델에 대해 안전성 테스트를 의무화하고, AI 시스템이 다수 사망이나 5억달러 이상의 재산 피해와 같은 심각한 문제를 일으키지 않도록 개발사가 합리적 주의를 기울이도록 하는 내용을 담고 있다.

또한 통제가 어려울 경우 작동을 멈추게 하는 '킬 스위치(kill switch)'를 도입하는 한편, 규정을 지키지 않으면 주 법무장관이 소송을 제기할 수 있도록 했다.

법안은 민주당 스콧 위너 주 상원의원이 "AI가 통제할 수 없게 되기 전에 대중을 보호하기 위한 법률을 만들 필요가 있다"면서 발의해 의회를 통과했다.

그러나 마이크로소프트(MS)와 메타, 챗GPT 개발사 오픈AI 등 테크업계는 "이 법안이 기술 혁신 속도를 늦출 것"이라면서 반대했고 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝히면서 논란이 커졌다.

오픈AI는 해당 법안이 AI 분야의 글로벌 리더로서 캘리포니아의 지위를 위협할 것이라고 지적하면서 "캘리포니아에 있는 세계적 수준의 엔지니어와 기업가들이 더 큰 기회를 찾아 다른 곳으로 떠나게 할 것"이라고 쓴 편지를 주지사에게 보내기도 했다.

실리콘밸리의 유명 벤처캐피털인 앤드리슨 호로비츠 역시 "이 법안이 겉보기엔 뭔가 있어 보이지만, 실질적인 내용은 없다"고 지적하기도 했다.

뉴섬 주지사는 'SB 1047' 거부권 발표와 함께 AI 학자이자 기업가인 페이페이 리 스탠퍼드대 교수를 비롯한 여러 학자가 주도하는 주요 AI 모델의 위험과 역량에 대한 분석을 실시할 것이라고 강조했다.

다만 뉴섬 주지사는 이날 사람의 두뇌에 대한 데이터도 민감한 개인정보에는 포함된다는 개인정보 보호법 개정안에 서명했다. 이 법안은 두뇌 등 '신경 데이터(neuro data)'를 생체인식정보인 얼굴 이미지, 유전자(DNA), 지문 등 '민감데이터'와 동일하게 보고 보호하도록 규정하고 있다.

명상이나 집중력 향상, 우울증 치료 등 문제를 해결하려는 기기들의 개발이 진행되면서 방대한 뇌신경 정보를 수집할 수 있는 장치를 개발 중인 만큼 이 같은 법안 시행은 이른바 '건강기기' 난개발에 제동을 걸 것이라는 평가가 나온다.

이 법안을 후원한 조시 베커 상원의원(캘리포니아, 민주)은 "이 법안은 사람들의 것인 신경 데이터의 프라이버시를 보호하는 데 매우 중요하다"고 말했다.