[AI 기획] '나쁜 AI' 대표 '딥페이크', '착한 목적' 활용 늘어난다...'악용' 우려는 여전
디지털 성범죄 목적으로 활용돼 '나쁜 인공지능(AI)'의 대표사례로 꼽혀온 '딥페이크'가 순국열사나 고인이 된 가수 영상을 재현하거나, 사람의 신원을 보호하는 용도로 활용되고, AI 아이돌과 같은 AI 가상인간 모습으로 탄생하는 등 '착한 목적'으로 이용이 크게 확산되고 있다. 딥페이크(deepfake)란 '딥러닝(deep learning)'과 '페이크(fake)'의 합성어로, 딥러닝 기술을 활용해 영상에 유명인 등의 얼굴을 합성해 가짜 영상을 만들어내는 기술로, 음란물 유포 등에 주로 활용되면서 큰 사회문제로 떠올랐다. 하지만 최근 죽은 사람을 살리는 등 선한 목적으로도 활용하는 사례가 늘어나면서 큰 관심을 모으고 있다. ◆고인 영상으로 복원, AI 가상인간 제작에 딥페이크 활용 '속속'...신변 보호용으로도 활용 AI 가상인간의 영상에 딥페이크 기술을 적용하면 실제 사람과 구분이 어려울 정도의 현실감이 있어, 딥페이크 활용이 급증하고 있다. AI 유튜버 '루이'를 선보인 디오비스튜디오는 실제로 찍은 동영상에 가상얼굴을 생성해주는 '디오비 엔진'으로 제작된 가상얼굴을 합성하는 딥페이크 기술로 영상을 제작하고 있다. 오제욱 디오비스튜디오 대표는 AI 가상얼굴 분양센터인 '디오비스튜디오' 사업 소개 영상에서 자신의 얼굴을 헤어스타일이 다른 여러 남자의 모습과 긴머리의 여성으로 바꿔가며 사업을 소개해 관심을 모았다. 펄스나인도 딥페이크 기술로 제작한 AI 가상프로젝트 걸그룹 '이터니티'를 22일 유튜브 채널에 'I'm real' 뮤직비디오를 공개하면서 첫 선을 보인다. 펄스나인 관계자는 "AI를 이용해 자연스럽게 영상을 제작하기 위해 자체 개발한 딥페이크 기반 콘텐츠 합성 기술인 '딥리얼AI'를 적용했다"며 고 설명했다. 펄스나인과 디오비스튜디오는 기존 딥페이크가 실존 인물의 얼굴을 영상과 합성했던 것과 달리 가상얼굴을 활용한다는 점에서도 기존 딥페이크 기술에서 한 단계 더 나아간 것이다. SBS '그것이 알고 싶다'에서는 딥페이크 범죄 피해자들의 얼굴을 모자이크 처리하는 대신, 디오비스튜디오가 참여해 가상얼굴을 합성한 영상을 내보냈다. 또 영화 '웰컴 투 체첸'에서도 성소수자들의 신변을 보호하기 위해 딥페이크 기술을 적용해 얼굴 모습은 바꾸면서도 표정이나 얼굴의 움직임은 남겨 생동감을 살렸다. 이는 딥페이크 기술이 기존의 모자이크 방법보다 개인 신변 보호에 더 탁월함을 입증한 것이다. 최근에는 죽은 사람을 복원하기 위해 딥페이크 기술을 활용하는 사례가 급증하고 있다. 독일의 온라인 족보 사이트인 '마이헤리티지(MyHeritage)'가 이달 초 딥페이크 기술이 적용해 순국열사들의 모습을 생생한 영상으로 복원돼 큰 화제가 됐다. 마이헤리티지가 이스라엘 AI 기업인 디아이디의 AI 기술을 적용한 '딥 노스텔지어' 서비스를 선보인 것. 이 서비스로 18세의 나이로 순국한 유관순 열사의 모습과, 윤봉길 의사, 안중근 의사의 모습까지 눈을 깜빡이거나 고개를 돌리는 생생한 영상으로 되살려냈다. 이 서비스는 회원 가입 후 5장까지는 무료로 이용할 수 있으며, 이후에는 유료로 서비스된다. 딥 노스텔지어는 이미 해외 각국에서 돌아가신 할머니, 할아버지 등 모습을 영상으로 합성하는 용도로 활용돼 가족들에게 큰 감동을 선사하고 있다. 이 서비스로 고인이 된 가족의 모습을 되살린 한 이용자는 "일부 사진은 자연스러운 반면 다른 일부는 그렇지 못한 아쉬움이 있지만, 먼저 하늘나라로 간 가족의 모습을 이렇게라도 볼 수 있어 기쁘다"고 평가했으며, 앱 평가에도 '고맙다'는 글들이 이어지고 있다. 방송사에서 먼저 세상을 떠난 가수들의 모습을 복원하는 용도로도 딥페이크 기술이 각광을 받고 있다. 엠넷의 'AI 음악 프로젝트'에서는 거북이의 리더 터틀맨과 가수 김현식이 최신곡을 부르는 영상을 구현했는데, 현장의 가수들과는 다소 구분되기는 했지만 자연스러운 움직임을 보여 감동을 주기에는 충분했다. ◆'착한 AI' 목적에도 악용 소지 충분...정부 "끝까지 추적해 엄단" 좋은 목적으로 딥페이크 기술을 활용해 '종의 기원'의 찰스 다윈, 라듐을 발견한 마리 퀴리 부인 등을 복원해낸 마이헤리티지 조차도 이 서비스의 악용을 우려하고 있다. 이에 따라 영상에 목소리를 넣지 못하도록 했으며 살아있는 사람의 사진을 올리지 말라고 사이트를 통해 경고하고 있다. 또 AI 걸그룹·유튜버 등이 성상품화를 위해 활용될 수 있다는 우려도 커지고 있다. 또 최근 '아이유'와 닮은 꼴로 인기를 모은 중국 뷰티 크리에이터 '차이유'에 대해 누리꾼들이 실제 얼굴 사진을 올리며 얼굴이 닮은 것이 아니라 딥페이크를 사용한 것으로 '가짜'라고 주장하고 나섰다. 특히, 최근 국민청원에 딥페이크를 이용한 성범죄 처벌을 촉구하는 국민청원이 이어짐에 따라 청와대는 이 기술을 악용하는 성범죄물 제작·배포 행위에 대해 "끝까지 추적해 엄단할 것"이라며 "디지털성범죄가 중대 범죄라는 경각심이 생겨나도록 인식을 개선하겠다"는 단호한 입장을 밝혔다. #딥페이크 #착한AI #나쁜AI #유관순 #AI아이돌 #AI걸그룹 #유튜버 #디지털성범죄 #AI #딥러닝
