생성형 인공지능(AI)의 발전으로 콘텐츠 제작의 경계가 급속히 허물어지고 있다. 그림·음악·동영상 등 거의 모든 형태의 창작물이 간단한 명령어(프롬프트)만으로 만들어지면서, SNS에는 각양각색의 참신한 콘텐츠가 쏟아지고 있다. 그러나 동시에 딥페이크 범죄나 가짜뉴스 제작도 손쉬워지면서 대응책 마련이 시급하다는 지적이 나온다.

23일 <메트로경제신문> 취재를 종합해보면 생성형 AI 기술의 고도화로 전문 지식 없이도 다양한 콘텐츠를 제작할 수 있게 되면서 전문가와 일반인 간의 격차가 빠르게 줄고 있다. 하지만 같은 이유로 AI를 활용한 가짜뉴스나 조작 이미지 생산 또한 간단해져 피해 우려가 커지고 있다.

시장조사업체 비즈니스 리서치 인사이츠는 글로벌 AIGC(AI 생성 콘텐츠) 시장 규모가 2024년 18억 달러에서 2033년 120억 달러로 확대될 것으로 전망했다. 예측 기간(2025~2033년) 동안 연평균 성장률은 23.4%에 달할 것으로 보인다. AI 콘텐츠는 광고·마케팅 등 상업적 용도뿐 아니라 SNS나 취미 등 개인 영역에서도 폭넓게 활용되며 시장을 빠르게 키우고 있다.

이 같은 급성장은 '쉬운 접근성' 덕이다. 복잡한 코딩이나 편집 기술 없이도 텍스트 명령어만 입력하면 AI가 자동으로 이미지를 합성하고 음성을 입혀 영상 편집까지 마무리한다.

최근 주목받는 영상 생성 플랫폼 '러미(Lumii)', '피카(Pika Labs)', '런웨이(Runway)'는 한 줄 설명만으로도 시네마틱 영상을 제작한다. 음악 분야에서도 '선드로이드(Sundroid)'와 '우디파이(Wudyfy)' 같은 AI 작곡 툴이 사용자의 기분이나 장르를 인식해 즉석에서 곡을 만든다. 이처럼 영상편집·사운드디자인 등 전문가의 영역이었던 작업이 몇 분 만에 완성되며 '누구나 크리에이터가 되는 시대'가 현실화됐다.

문제는 이러한 기술이 범죄에도 악용되고 있다는 점이다. 최근 일부 생성형 AI 플랫폼이 인물 합성이나 배경 조작 기능을 강화하면서 딥페이크 범죄와 가짜뉴스의 위험성이 커지고 있다.

실제 사례도 나왔다. 자신을 독일인 여성이라 주장한 A씨가 배우 이이경 씨와 성적 대화를 나눴다며 사진과 글을 공개했지만, 대부분이 AI로 조작된 이미지로 드러났다. 이이경 씨 소속사 상영이엔티는 "게시자가 금전을 요구하는 협박성 메일을 보냈고, 법적 대응을 예고하자 허위사실에 대한 사과문을 보내왔다"고 밝혔다.

업계는 내년 전국동시지방선거를 앞두고 AI 기반 가짜뉴스의 확산을 특히 우려하고 있다. AI 산업 발전을 위한 'AI 기본법' 시행을 앞두고 있지만, 사업자가 아닌 개인 이용자는 규제 대상에서 제외돼 있다.

또 현행 법체계상 딥페이크 영상은 유포된 뒤에야 명예훼손·허위사실공표·선거법 위반 등으로 처벌할 수 있다. 선거와 같이 시간이 제한된 상황에서는 범인이 선거 후 검거되더라도 이미 왜곡된 결과를 되돌리기 어렵다.

디지털 범죄 대응기업 라바웨이브는 "2026년 전국동시지방선거를 앞두고 딥페이크 기술의 정치적 악용 가능성이 높다"며 "후보자 수가 많고 지역이 분산된 지방선거 특성상, AI로 생성된 허위 영상·이미지를 실시간 모니터링하고 즉각 대응할 수 있는 체계가 필요하다"고 강조했다.