공정거래위원회(공정위)가 전자상거래 등에서의 소비자 보호 지침을 개정하며 다크패턴(이용자가 쉽게 속도록 눈속임 온라인 인터페이스를 사용해 의도하지 않은 소비를 유도하는 설계 방식)에 대한 본격적인 규제에 나섰지만, 인공지능(AI) 기술을 활용한 새로운 형태의 온라인 눈속임 상술은 여전히 규제 사각지대에 놓여 있다는 지적이 나온다.

9일 <메트로경제신문> 취재를 종합하면, AI 챗봇이 사용자와의 감정적 연결을 강화해 이용자의 판단을 흐리게 하거나, 생성형 AI로 만든 가짜 광고가 소비자를 기만하는 사례가 증가하면서 'AI 기반 다크패턴'에 대한 통제가 시급하다는 목소리가 커지고 있다.

앞서 공정위는 지난달 23일 다크패턴 규제에 관한 구체적인 해석 기준과 사업자에 대한 권고사항 제시를 골자로 소비자 보호 지침을 손질해 같은달 24일부터 시행한다고 발표한 바 있다.

그러나 AI 알고리즘이 개입된 사용자 경험(UX) 설계, 특히 추천·광고·대화형 인터페이스에서 나타나는 'AI 기반 다크패턴'에는 여전히 규제의 손길이 닿지 않고 있다. 최근 등장한 AI 챗봇과의 상호작용을 통한 새로운 유형의 다크패턴이 대표적인 예다. 과도한 칭찬이나 감정적 공감을 반복하며 유저와 친밀감을 높이는 AI의 행위는 언뜻 봐서는 '친절한 서비스'처럼 느껴진다. 하지만 인간의 감정을 이용해 상호작용을 길게 유지하도록 설계된 AI는 사용자의 판단력을 흐리게 해 불필요한 결제나 구독을 유도하기도 한다.

요즘 광고에서 쉽게 접하는 생성형 AI 콘텐츠도 온라인 눈속임 상술에 자주 활용되고 있다. AI 도구로 제작한 이미지나 영상 광고는 외관상 진짜 사람이나 제품처럼 보이지만, 대부분 AI 생성물이라는 사실이 명시되지 않는다. 이용자는 이를 실제로 오인해 링크로 들어가 제품을 구매하고, 이 과정에서 악성 코드에 감염되거나 허위 상품을 결제하는 등 2차 피해를 입는 사례가 보고되고 있다.

전창배 국제인공지능윤리협회(IAAE) 이사장은 "이제 AI가 '말'을 통해 사람과 더 많은 소통을 하게 되면서 AI 기반 다크패턴을 통한 소비자 기망 문제가 더욱 늘어날 가능성이 높아졌지만, 공정위의 이번 지침에 직접적으로 해당되지 않아 규제하기가 어려운 상황"이라고 우려했다.

공정위가 정기결제 증액·유료전환 시 별도 명시적 동의가 필요하다고 규정한 지침도 충분하지 않다는 비판이다. 소비자에게 받아야 하는 명시적 동의의 범위에 AI 알고리즘이 정기결제 증액, 유료전환 등의 의사결정을 자동으로 할 수 있음에 대한 동의도 포함돼야 한다는 것이 전문가들의 제언이다.

예컨대 구독 서비스에서 AI가 사용자의 이용 패턴을 분석해 자동으로 정기결제 금액을 올리거나 무료 기간 종료 후 알림 없이 유료로 전환시키는 경우와 같은 AI 기반 자동 조정에 대해서도 사전에 명시적 동의를 받아야 한다는 것이다.

전 이사장은 "기업이 만약 AI 기술을 이용해 가격이나 옵션을 자동으로 조정한다면 사전에 반드시 이 사실을 고지하고 소비자에게 동의를 받아야 한다"며 "그래야 소비자들이 AI가 나의 선택에 영향을 미칠 수 있다는 점을 알게 돼 신중히 올바른 선택을 하게 된다"고 설명했다.

국제 사회에서는 온라인 눈속임 행위를 초장에 뿌리 뽑는 규제가 추진되고 있다. 유럽연합(EU)의 디지털서비스법(DSA)은 다크패턴 설계 자체를 금지하고, 미국 연방거래위원회(FTC)는 '기만적인 사용자 인터페이스 전면 금지' 기조를 내세우고 있다. 반면 한국은 유형별로 금지 행위를 나열한 '해석 중심 모델'에 머물러 기술 발전에 따라 새롭게 나타나는 다크패턴까지 포괄적 대응이 어려운 구조다.

IAAE는 "우리나라는 다크패턴 유형을 구체적으로 법에 규정을 하고, 이번 지침을 통해 각각의 유형에 대한 해석 기준까지 마련해 사업자의 예측 가능성을 높여줬다는 점에서 긍정적인 차별성이 있다"면서도 "그러나 미 FTC나 EU DSA처럼 다크패턴 설계 자체를 막는 일반적인 금지 규정이 없어, AI 기술을 악용한 새로운 형태의 다크패턴의 경우 규제 공백 상태가 발생할 수밖에 없는 한계가 존재한다"고 밝혔다.