생성형 AI의 확산으로 이미지 진위 논란이 일상이 되고 있다. 최근 X(옛 트위터)에 한 이용자가 "AI 검출 툴도 사진이 AI인지 아닌지를 구분하지 못한다"며 올린 게시물이 220만회가 넘는 조회수를 기록하면서 화제를 모았다.

해당 게시글에 따르면, AI 이미지 판별기는 젠슨 황 엔비디아 최고경영자가 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 지난달 30일 서울 강남구의 깐부치킨 매장에서 '치맥(치킨+맥주) 회동'하는 사진을 '가짜'로 판단했다. 반면, 김정은 북한 국무위원장과 블라디미르 푸틴 러시아 대통령, 시진핑 중국 국가주석이 허름한 방에서 조촐한 뒤풀이를 하는 이미지는 '진짜'로 판별했다.

2일 본지가 직접 AI 이미지 검출 사이트인 '언디텍터블 AI'에 해당 사용자가 테스트한 사진을 넣어 이미지를 분석한 결과 작성자 주장대로 검출기는 치맥 회동 사진을 '1% 진짜(거의 AI 생성)'로 오판했다. 다만, 작성자가 검출기 검사에 이용한 사진의 원본을 찾아 테스트했을 때는 진위 판별에 성공했다. 게시글에 활용된 이미지의 경우 주변 인물들의 얼굴을 알아보지 못하게 블러 처리하면서 AI 이미지 식별 툴이 그릇된 판단을 내린 것으로 보인다. 반면, 해당 AI 이미지 검출 도구는 북중러 정상이 등장하는 조작된 이미지는 게시글 작성자의 주장과 다르게 '거짓'으로 판별했다.

"정보의 시대가 아니라 혼란의 시대가 돼버렸다"는 한 이용자의 지적처럼 원본 사진뿐만 아니라, 그 이미지의 진위 여부 결과조차 무엇이 진짜이고 가짜인지 알 수 없게 된 세상이 도래한 것이다.

해외에서는 언론이 AI 생성 콘텐츠를 사실로 오인 보도하는 사례도 발생하고 있다. 미국의 대표적인 보수 매체인 폭스뉴스는 지난달 31일(이하 현지 시간) 정부의 셧다운으로 식료품 지원(SNAP) 중단에 반발하는 시민들의 모습을 담은 틱톡 영상을 인용해 'SNAP 수혜자들의 상점 약탈 위협'이라는 내용의 기사를 보도했다.

영상 속 여성들은 "내 아이들을 돌보는 것은 납세자의 책임이다", "나는 7명의 아기 아빠가 있지만 모두 쓸모없다" 등의 자극적인 발언을 하며, 혜택 중단에 대한 불만을 표출했다. SNS를 통해 급속히 퍼진 이 AI 생성물은 SNAP 프로그램과 수혜자들에 대한 부정적인 여론을 조성하는 데 일조했다.

폭스뉴스는 해당 영상의 내용이 AI로 만든 가짜 콘텐츠라는 사실이 드러나자, '본 기사는 일부 영상이 AI로 생성된 것으로 보인다는 점을 명시하지 않은 채 보도됐다'고 정정했다. 더버지는 2일 "폭스뉴스조차 AI 틱톡 영상에 속아 기사를 냈다"며 언론의 검증 부실을 질타했다.

뉴스 제작 현장에서는 AI 사용이 급격히 늘고 있지만, 신뢰도는 여전히 낮다. 로이터저널리즘연구소가 올 10월 공개한 '생성형 AI와 뉴스 보고서 2025'에 따르면 전체 응답자의 12%만이 'AI가 전적으로 작성한 뉴스에 편안함을 느낀다'고 답변했다.

보고서에는 지난 6월5일~7월15일 미국·일본·영국 등 6개국 1만2565명을 대상으로 벌인 생성형 AI 관련 인식 조사 결과가 담겼다.

응답자들은 AI가 뉴스를 더 저렴하게 제작할 수 있게 만들 것(긍·부정 응답률 차이: 39%p)이라고 예상했으며, 뉴스의 최신성을 높일 것(22%p)으로 기대했다. 반면, 뉴스의 투명성을 떨어뜨리고(-8%p), 신뢰도 역시 낮아질(-19%p) 것이라고 우려했다.

자국 언론을 '매우 신뢰한다'고 답한 사람들 중에서는 57%가 기자들이 AI로 생성한 결과물을 게시 전 '항상 또는 자주' 점검한다고 생각한 반면, 언론을 '매우 불신한다'고 답한 집단에서는 이 비율이 단 19%에 그쳤다.

보고서는 "이러한 결과는 저널리즘이 대중의 신뢰를 유지하면서 혁신을 이루어내기 위해서는 뉴스에 대한 신뢰가 얼마나 중요한지 다시 한번 상기시키는 교훈이자, 많은 뉴스 조직이 자체적으로 도입한 'AI 투명성 조치'만으로 충분할 것이라는 안일한 믿음에 대한 경고이다"고 밝혔다.