"딥페이크 등 AI 부작용 선제 대응해야 … 규제·혁신 균형 맞출 필요 있다"

최근 딥페이크 성범죄 등 생성형 인공지능(AI)을 활용한 문제가 발생하자 전문가들 사이에서 AI 생태계 조성을 국제적 협력과 기술적 방법으로 논의해야 한다는 목소리가 나왔다.

김장겸 국민의힘 의원이 주관하고 한국경영학회와 미디어미래비전포럼 공동 주최로 '대한민국 AI 생태계 특징과 발전 방향 토론회'가 5일 서울 여의도 국회의원회관에서 열렸다.

김 의원은 개회사에서 "윤석열 정부가 2030 AI 글로벌 3대 강국 도약 위해 9조4000억 원의 투자를 약속한 바 있다. 동시에 AI 발전에 따른 위험도 대비해야 한다"며 "AI 기술이 디지털 성범죄 도구로 전락해 큰 우려를 낳고 있는 현실이다. 진흥과 규제가 동시에 적절히 추진돼야 한다"고 말했다.

한국 AI 산업의 규제와 육성 방안에 대해 학계는 규제와 혁신 간 균형을 맞추는 게 중요하다고 조언했다. AI 기술이 산업계 전반에 걸쳐 활용됨에 따라 데이터 알고리즘 투명성, 책임성 문제가 화두로 떠올랐지만 과도한 규제가 생기면 산업 전반이 침체될 수 있기 때문이다. 

이상근 교수는 "딥페이크와 같이 가짜뉴스를 양산하고 유통하는 1인 미디어와 유통 플랫폼에 대해 엄격한 법률적 잣대를 적용해 AI 부작용에 선제적으로 대응하고 선기능의 활성화를 통해 이용자 편익을 증대해야 한다"고 강조했다.

이 교수는 규제만으로 AI 산업의 성장을 담보할 수 없다고 전제했다. 이에 기술 발전을 촉진하기 위해 규제를 일부 유예하는 '규제 샌드박스 제도'를 적극 검토하자고 주장했다.

이 교수는 "이를 통해 AI 기업들은 자유롭게 혁신을 추구할 수 있고 기술의 안전성과 효용성이 검증되면 규제 당국과 협력해 법적 규제를 완화하면 된다"고 덧붙였다.

유재흥 책임연구원은 "AI 기술이 인터넷이나 모바일 등 새로운 패러다임으로 자리 잡고 있다"며 "법적 제재로 들어가기보다 기술적, 국제적 협력 등을 통해 비법적인 방식으로 제재하는 방식을 택하는 것이 좋아 보인다"고 했다.

글로벌 빅테크와 대한민국 기업 간 규제 이슈가 발생할 시 국내 기업에 대한 '역차별 문제'가 발생하지 않게 하기 위해 제도 정비가 필요하다는 것이다.

학계는 제21대 국회 당시 임기 만료 폐기된 'AI 기본법'에 대해서도 빠른 처리를 촉구했다.

오순영 과실연(바른 과학기술사회 실현을 위한 국민연합) AI 미래포럼 공동의장은 "규제와 진흥 모두 좋다. 그런데 (AI 생태계에 대한) 기본 틀이 있어야 한다"며 "AI 기본법이 없어 규제도 없고 진흥도 어렵다"고 했다.

이어 "최근 딥페이크 때문에 AI 기본법 통과가 늦어졌다고 하는데 언제까지 (법이) 완벽해져야 하나"라며 "국회에서 지금까지 충분히 많은 계획을 세웠다. 이제는 실행할 때"라고 촉구했다.