생성형 인공지능(AI)으로 만든 사진이 국회의원 페이스북에 등장하면서 정치권이 들썩였다. 접대 의혹을 부인한 지귀연 판사를 겨냥해 민주당이 유흥주점 기념사진을 공개하자, 국민의힘 박수영 의원이 AI로 구성된 딥페이크 이미지를 올리며 대응에 나선 것이다. 그러나 해당 사진이 사실과 무관한 조작 이미지로 확인되면서 정치 풍자조차 딥페이크 논란에 휘말리는 모양새다.

21일 <메트로경제> 취재에 따르면, 제21대 대선을 앞두고 '딥페이크(Deepfake)' 가짜뉴스가 유권자의 판단을 흐리고 있다. 딥페이크는 인공지능(AI)을 이용해 사람의 얼굴이나 음성 등을 실제처럼 합성하는 기술로, 진위를 구별하기 어려운 영상이나 이미지를 만들어낸다. 원래는 콘텐츠 산업을 위한 기술이었지만 최근 정치 선전과 허위정보 유포에 활용되면서 사회적 우려가 커지고 있다.

우려가 커지자 중앙선거관리위원회는 지난 4월 내부적으로 '허위사실 공표·비방 특별대응팀'을 꾸렸다. 여기에 각 시도 선관위의 사이버 공정선거지원단까지 합치면, 선관위의 딥페이크 모니터링 인력은 500여 명에 달한다. 이들은 대선 공식 선거운동 시작 후 30일간 400건이 넘는 딥페이크 위반 사례를 적발했고, 삭제 요청은 3000건 이상 접수됐다.

딥페이크 가짜뉴스의 가장 큰 문제는 원천적인 차단이 어렵다는 데 있다. 실제와 거의 구분되지 않아 많은 사람들이 진짜로 믿고 퍼뜨리는 2차·3차 피해가 발생하기도 한다.

박수영 의원이 공개한 지귀연 판사 딥페이크 이미지 논란은 그 위험성을 고스란히 보여준다. 해당 이미지는 유흥주점 배경을 삼겹살집처럼 바꾸고, 인물에게 젓가락을 쥔 동작을 합성해 마치 평범한 식사 자리처럼 연출됐다. 박 의원은 이를 근거로 지 판사의 무고함을 주장했지만, 손동작의 어색함 등 조작 정황이 지적되자 게시물을 조용히 삭제했다. 이미지 제작자는 알려지지 않았다.

정치와 딥페이크의 위험한 결합은 해외에서도 이미 현실이 됐다. 지난해 미국 뉴햄프셔주에서는 민주당 지지자 수천 명에게 조 바이든 대통령의 음성을 딥보이스(Deepvoice) 기술로 합성한 자동음성 전화가 걸려와, 투표를 포기하라고 종용한 사건이 벌어졌다.

이에 힐러리 클린턴 전 국무장관은 "지금 선거에 가장 큰 위협은 AI"라며 "2016년엔 원시적인 방식으로 가짜뉴스가 유포됐지만, 지금은 누구든 속을 만큼 정교한 기술로 선거 결과에 실질적 영향을 미칠 수 있다"고 경고했다.

대선 기간 중 딥페이크와 전쟁을 치른 도널드 트럼프 미국 대통령은 지난 19일(현지시간) 딥페이크 범죄 등에 대한 처벌을 강화하는 '테이크 잇 다운(Take It Down)' 법안에 서명하기도 했다.

전문가들은 딥페이크 기술을 기술적으로 차단하는 것은 현실적으로 불가능하다고 입을 모은다. 생성형 AI 도구는 누구나 사용할 수 있고 조작법 또한 점점 간단해지고 있으며 빠르게 정교해지고 있다. 이 탓에 현재로서는 선거 당국의 모니터링과 삭제 조치 같은 임시방편에 의존할 수밖에 없는 상황이다.

IT 업계 관계자는 "현재는 아직 판별 가능한 수준의 딥페이크 이미지나 영상이 대다수지만 향후에는 기술적 점검을 통해서만 판별이 가능한 수준의 딥페이크들이 쏟아질 것으로 생각된다"며 "유권자들은 온라인을 통해 검증되지 않은 출처에서 어떤 뉴스와 사실을 접했을 때 한 번 더 의심해 봐야 할 것"이라고 조언했다.