[편집자주] 개인정보는 더 이상 '유출되는 정보'만이 아니다. 우리는 오늘도 얼굴과 목소리, 경력과 고민을 AI에 맡긴다. 문제는 그다음이다. AI에 건넨 개인정보는 어디로 가고, 누구를 위해 활용되는가. 오는 9월 시행되는 개인정보보호법 개정안은 이러한 변화를 얼마나 담아내고 있을까. 7월 '정보보호의 달'을 맞아 AI 시대 개인정보 보호 체계의 현주소와 앞으로의 과제를 짚어본다.
"AI가 만든 증명사진이 더 낫네요."
회사원 A(31)씨는 최근 이직을 준비하며 생성형 AI에 자신의 사진을 올렸다. 면접용 증명사진을 만들기 위해서다. 휴대전화에 저장된 셀카 한 장을 입력하자 몇 초 만에 정장을 입은 증명사진이 완성됐다. A씨는 "사진관에 갈 시간도 없었고 결과물도 만족스러웠다"며 "얼굴 사진을 올리는 것 자체는 크게 신경 쓰지 않았다"고 말했다.
그러나 사진 생성이 끝난 뒤 문득 궁금해졌다. 방금 AI에 올린 내 얼굴 사진은 어디에 저장되는 걸까. 생성이 끝난 뒤 다른 목적으로 활용될 가능성은 없을까.
◆ 개인정보 '숨기던 사회'에서 '공유하는 사회'로
22일 본지 취재 결과 오는 9월 개인정보보호법 개정안 시행을 앞두고 생성형 AI 이용자들이 AI에 맡기는 개인정보의 범위는 얼굴과 경력, 가족 정보, 사생활, 회사 자료 등으로 빠르게 넓어지고 있었다.
개인정보는 최소한으로 수집하고 보호해야 할 정보라는 인식이 사회 전반에 자리 잡아왔다. 하지만 생성형 AI 시대에는 더 나은 답변과 결과물을 얻기 위해 스스로 개인정보를 제공하는 일이 일상이 됐다. 개인정보를 '숨기던 사회'에서 '공유하는 사회'로의 변화가 시작된 셈이다.
서울의 한 대학 졸업반 B(26)씨는 지난해 하반기 공채 시즌부터 자기소개서를 쓸 때마다 생성형 AI를 찾았다. 자기소개서 문장을 다듬고, 지원 기업에 맞는 표현을 찾고, 예상 면접 질문을 뽑아낸다. 처음에는 이름과 학교명을 지웠다. 개인정보를 인터넷에 남기는 것이 익숙하지 않았기 때문이다.
수십 개 기업에 지원서를 넣으며 생각이 달라졌다. B씨는 "처음에는 개인정보를 입력하는 게 조심스러웠는데, 내 경험을 많이 알려줄수록 더 나에게 맞는 답변이 돌아온다는 느낌이 들었다"며 "지금은 이름 정도만 확인하고 대부분 그대로 입력한다"고 말했다.
◆ "우리 아이 크면 어떻게 생길까" 가족 정보까지 AI에
AI에 제공되는 개인정보는 본인을 넘어 가족으로 확장되고 있다. 어린 자녀를 키우는 C(35)씨는 최근 생성형 AI 서비스를 이용해 아이의 미래 모습을 만들어봤다. 휴대전화에 저장된 아이 사진 여러 장을 올리자 AI는 성인이 된 모습을 예상한 이미지를 만들어냈다.
C씨는 "SNS를 보고 재미로 해봤다"며 "아이 사진을 AI에 올리는 것이 개인정보를 제공하는 일이라는 생각은 하지 못했다"고 말했다. 과거 아이 사진은 가족 앨범이나 부모의 휴대전화 속에 보관되는 기록이었다. 이제는 미성년자의 얼굴 정보도 AI 입력값이 되고 있다.
"AI가 만든 증명사진이 더 낫네요."
회사원 A(31)씨는 최근 이직을 준비하며 생성형 AI에 자신의 사진을 올렸다. 면접용 증명사진을 만들기 위해서다. 휴대전화에 저장된 셀카 한 장을 입력하자 몇 초 만에 정장을 입은 증명사진이 완성됐다. A씨는 "사진관에 갈 시간도 없었고 결과물도 만족스러웠다"며 "얼굴 사진을 올리는 것 자체는 크게 신경 쓰지 않았다"고 말했다.
그러나 사진 생성이 끝난 뒤 문득 궁금해졌다. 방금 AI에 올린 내 얼굴 사진은 어디에 저장되는 걸까. 생성이 끝난 뒤 다른 목적으로 활용될 가능성은 없을까.
◆ 개인정보 '숨기던 사회'에서 '공유하는 사회'로
22일 본지 취재 결과 오는 9월 개인정보보호법 개정안 시행을 앞두고 생성형 AI 이용자들이 AI에 맡기는 개인정보의 범위는 얼굴과 경력, 가족 정보, 사생활, 회사 자료 등으로 빠르게 넓어지고 있었다.
개인정보는 최소한으로 수집하고 보호해야 할 정보라는 인식이 사회 전반에 자리 잡아왔다. 하지만 생성형 AI 시대에는 더 나은 답변과 결과물을 얻기 위해 스스로 개인정보를 제공하는 일이 일상이 됐다. 개인정보를 '숨기던 사회'에서 '공유하는 사회'로의 변화가 시작된 셈이다.
서울의 한 대학 졸업반 B(26)씨는 지난해 하반기 공채 시즌부터 자기소개서를 쓸 때마다 생성형 AI를 찾았다. 자기소개서 문장을 다듬고, 지원 기업에 맞는 표현을 찾고, 예상 면접 질문을 뽑아낸다. 처음에는 이름과 학교명을 지웠다. 개인정보를 인터넷에 남기는 것이 익숙하지 않았기 때문이다.
수십 개 기업에 지원서를 넣으며 생각이 달라졌다. B씨는 "처음에는 개인정보를 입력하는 게 조심스러웠는데, 내 경험을 많이 알려줄수록 더 나에게 맞는 답변이 돌아온다는 느낌이 들었다"며 "지금은 이름 정도만 확인하고 대부분 그대로 입력한다"고 말했다.
◆ "우리 아이 크면 어떻게 생길까" 가족 정보까지 AI에
AI에 제공되는 개인정보는 본인을 넘어 가족으로 확장되고 있다. 어린 자녀를 키우는 C(35)씨는 최근 생성형 AI 서비스를 이용해 아이의 미래 모습을 만들어봤다. 휴대전화에 저장된 아이 사진 여러 장을 올리자 AI는 성인이 된 모습을 예상한 이미지를 만들어냈다.
C씨는 "SNS를 보고 재미로 해봤다"며 "아이 사진을 AI에 올리는 것이 개인정보를 제공하는 일이라는 생각은 하지 못했다"고 말했다. 과거 아이 사진은 가족 앨범이나 부모의 휴대전화 속에 보관되는 기록이었다. 이제는 미성년자의 얼굴 정보도 AI 입력값이 되고 있다.
건강 정보처럼 민감한 정보까지 AI에 맡기는 사례도 있다. 직장인 D(35)씨는 최근 건강검진 결과를 AI에 입력해 식단과 운동 방법을 추천받았다. D씨는 "병원에 보여주는 것도 아닌데 괜찮다고 생각했다"고 말했다. 그러나 건강 정보는 개인의 질병·상태와 관련된 민감정보로, 개인정보보호법에서도 별도 보호 대상이다.
AI가 파고든 영역 중 하나는 개인의 내밀한 고민이다. 대학생 E(24)씨는 연애 문제나 인간관계 고민이 생기면 AI를 찾는다. 상대방과 나눈 카카오톡 메시지를 입력하고, 어떤 답장을 보내야 할지 묻기도 한다. E씨는 "친구들에게 말하면 평가받을 것 같은 고민도 AI에게는 편하게 말하게 된다"며 "상황을 자세히 설명할수록 더 맞는 답을 얻는 느낌"이라고 말했다.
업무 자료도 예외는 아니다. IT 업계 종사자 F(34)씨는 회의록과 업무 자료를 AI에 입력해 정리한다. F씨는 "보고서 작성 시간이 크게 줄었다"며 "주변에서도 대부분 AI를 업무에 활용한다"고 말했다.
◆ "개인정보 제공보다 중요한 것은 통제권"
개인정보보호법은 그동안 기업의 개인정보 유출 사고에 대한 책임을 강화하는 방향으로 발전해 왔다. 최근에는 AI 등 완전 자동화된 의사결정에 대한 설명 요구권과 거부권을 도입하는 등 기술 변화에 맞춘 제도 개선도 이뤄지고 있다.
전문가들은 생성형 AI 서비스에 개인정보를 입력하는 행위 자체가 현행법상 곧바로 문제가 되는 것은 아니라고 설명한다. 대부분의 서비스는 이용자의 동의를 전제로 운영되고 있으며, 국내외 개인정보 보호 규범 역시 이를 전제로 설계돼 있다는 것이다.
김상봉 한성대 교수는 "생성형 AI 서비스에 개인정보를 입력하는 행위 자체가 현행법상 문제가 되는 것은 아니다"라며 "국내 개인정보보호법 역시 개인정보의 적법한 활용을 인정하고 있으며, 이용자의 동의를 전제로 서비스가 제공되고 있다"고 설명했다.
다만 AI의 확산으로 개인정보를 바라보는 관점은 달라지고 있다. 개인정보 보호의 쟁점은 개인정보 제공 자체를 막는 데 있는 것이 아니라, 이용자가 자신의 정보가 어떻게 활용되는지 알고 선택할 수 있는 환경을 만드는 데 있다는 분석이 나온다.
황석진 동국대 국제정보보호대학원 교수는 "딥시크 사례처럼 개인정보가 해외 서버로 이전되거나 제3자에게 제공되는 과정에서 투명성이 확보되지 않는다면 문제가 될 수 있다"며 "이용자가 자신의 정보가 어디로 전송되고 어떤 목적으로 활용되는지 알 수 있어야 한다"고 지적했다.
AI가 파고든 영역 중 하나는 개인의 내밀한 고민이다. 대학생 E(24)씨는 연애 문제나 인간관계 고민이 생기면 AI를 찾는다. 상대방과 나눈 카카오톡 메시지를 입력하고, 어떤 답장을 보내야 할지 묻기도 한다. E씨는 "친구들에게 말하면 평가받을 것 같은 고민도 AI에게는 편하게 말하게 된다"며 "상황을 자세히 설명할수록 더 맞는 답을 얻는 느낌"이라고 말했다.
업무 자료도 예외는 아니다. IT 업계 종사자 F(34)씨는 회의록과 업무 자료를 AI에 입력해 정리한다. F씨는 "보고서 작성 시간이 크게 줄었다"며 "주변에서도 대부분 AI를 업무에 활용한다"고 말했다.
◆ "개인정보 제공보다 중요한 것은 통제권"
개인정보보호법은 그동안 기업의 개인정보 유출 사고에 대한 책임을 강화하는 방향으로 발전해 왔다. 최근에는 AI 등 완전 자동화된 의사결정에 대한 설명 요구권과 거부권을 도입하는 등 기술 변화에 맞춘 제도 개선도 이뤄지고 있다.
전문가들은 생성형 AI 서비스에 개인정보를 입력하는 행위 자체가 현행법상 곧바로 문제가 되는 것은 아니라고 설명한다. 대부분의 서비스는 이용자의 동의를 전제로 운영되고 있으며, 국내외 개인정보 보호 규범 역시 이를 전제로 설계돼 있다는 것이다.
김상봉 한성대 교수는 "생성형 AI 서비스에 개인정보를 입력하는 행위 자체가 현행법상 문제가 되는 것은 아니다"라며 "국내 개인정보보호법 역시 개인정보의 적법한 활용을 인정하고 있으며, 이용자의 동의를 전제로 서비스가 제공되고 있다"고 설명했다.
다만 AI의 확산으로 개인정보를 바라보는 관점은 달라지고 있다. 개인정보 보호의 쟁점은 개인정보 제공 자체를 막는 데 있는 것이 아니라, 이용자가 자신의 정보가 어떻게 활용되는지 알고 선택할 수 있는 환경을 만드는 데 있다는 분석이 나온다.
황석진 동국대 국제정보보호대학원 교수는 "딥시크 사례처럼 개인정보가 해외 서버로 이전되거나 제3자에게 제공되는 과정에서 투명성이 확보되지 않는다면 문제가 될 수 있다"며 "이용자가 자신의 정보가 어디로 전송되고 어떤 목적으로 활용되는지 알 수 있어야 한다"고 지적했다.