서비스 중단으로 끝난 '이루다' 사태... AI 시장 규제 이어져서는 안 돼
성희롱, 혐오, 개인정보 유출 논란에 휩싸였던 대화형 인공지능(AI) 챗봇인 '이루다' 서비스가 12일 결국 잠정 중단됐다. AI 업계에서는 '어차피 터질 문제가 빨리 터졌다'는 반응이 나오고 있지만, 정부의 스캐터랩 조사로 '아직 기술이 성숙하지도 않은 AI 시장 규제로 이어지는 것이 아니냐'는 우려도 커지고 있다. 개인정보위원회는 이루다에서 '연애의 과학' 이용자들의 카카오톡 대화를 제대로 된 동의 절차 없이 무단으로 사용했다는 의혹과 개인정보 유출 의혹이 커짐에 따라 스캐터랩에 자료를 요구해 사실관계를 확인하고, 위법한 사항이 발견되면 법령에 따라 조치하겠다며 칼을 꺼내들었다. 업계에서는 이 문제는 결국 AI 기술이 윤리적인 문제까지 해결할 수 있을 만큼 성숙됐지 않았고, 대화형 AI 학습에 사용할 '착한' AI 대화 데이터를 구하기 힘들기 때문으로 정부의 공공 데이터 지원이 꼭 필요하다는 지적이 나오고 있다. ◆스캐터랩 "동의 받았다" vs 이용자들 "AI 챗봇 개발 동의한 적 없다"...불법 이용 여부 쟁점 스캐터랩은 11일 저녁 공식 입장문을 통해 "서비스를 잠정 중단하고 일정 시간 서비스 개선 기간을 거치며 더 나은 이루다로 찾아뵙겠다"며 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 서비스를 개선하고 있다"고 밝혔다. 스캐터랩이 이루다는 출시된 지 2주 정도 만에 약 75만명의 이용자들과 대화를 나누며 큰 화제를 모았다. 하지만 20세 여성 캐릭터인 이루다를 성적 대상화해 성희롱과 동성애 혐오 문제가 제기됨은 물론 개인정보 유출 의혹과 학습 데이트로 사용한 '연애의 과학' 이용자들에게 제대로 된 동의를 받지 못해 '불법적인 이용이 아니냐'는 의혹까지 확산됐다. 김종윤 스캐터랩 대표는 메트로신문과 가진 인터뷰에서 '연예의 과학' 앱에서 카카오톡, 라인 상의 실제 대화 데이터를 넣으면 연인 사이의 상황을 분석해주는 서비스를 제공하는데, 이 데이터를 '이루다'의 전신인 '핑퐁' 빌더에 이용했다고 밝혔다. 그는 "이용자로부터 사전에 동의를 받기 때문에 데이터 사용에 아무런 문제가 없다"고 강조했다. 하지만 이용자들은 자신들의 카톡 대화가 앱 내의 신규 콘텐츠 개발에 이용되는 줄 알았지, AI 챗봇 개발에 사용될 것이라고 안내됐으면 동의하지 않았을 것이라며 반박하고 있다. 또 카톡을 올린 이용자가 아닌 대화를 나눈 상대방의 경우, 동의를 받지 않았다는 문제가 존재한다. 스캐터랩은 개인정보 유출 의혹에 대해 "이루다가 학습과정 중 사용한 연인 사이의 카톡 대화 내용 중 닉네임, 이름, 이메일 등 개인정보는 이미 제거된 상태"라며 "전화번호 등 모든 숫자 정보, 주소, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"는 입장을 밝혔다. 하지만 이루다가 실명을 말하거나 애인 이름을 입력하니 다른 친구 이름을 언급하거나, 전 애인 이름을 입력하니 애인 말투로 답변한 사례들이 속속 나오고 있다. 또 주소가 동호수까지 포함돼 나오기도 했고, 아예 예금주가 포함된 은행 계좌번호까지 말했다는 증언이 속속 올라오고 있다. 이 경우, 친한 지인이라면 그 사람이 누구인지 특정할 가능성도 배제할 수 없다. 현재 개인정보보호법 제73조에 따르면, '개인정보를 유출한 사업자는 2년 이하의 징역 또는 2000만원 이하 벌금해 처한다'고 규정하고 있어 불법으로 판결이 날 경우, 스캐터랩 대표는 형사 처벌까지 받을 수 있다. ◆AI 업계, 오픈대화 데이터 극히 부족이 문제...AI 산업 규제로 이어져서는 안 돼 AI 업계에서는 이 문제는 개인정보 유출의 문제가 없는 오픈대화 데이터가 극히 부족해 일어난 일로 정부의 데이터 지원이 절실하다는 지적이 나오고 있다. 박외진 아크릴 대표는 "이번 이루다 이슈는 AI 기술이 윤리적인 문제까지 해결할 수 있도록 성숙되지 않았기 때문에 나타난 문제"라며 "AI를 대화의 맥락이나 의도를 가지고 상대방에게 성적 수치심을 느끼지 않을 만큼 훈련시키기 위해 정제된 데이터가 필요한 데, 중소기업이 하기 어려운 부분으로 정부가 공공 데이터를 수집해 공개할 필요가 있다"고 밝혔다. 윤리적 가이드라인의 통제를 받을 수 있도록 AI 역량 성숙을 위해 정부 지원이 꼭 필요하다는 것. 일부 AI 업계에서는 "이루다 이슈가 이번에 터지지 않았으면 여전히 폭탄처럼 남아 있을 문제로 차라리 빨리 잘 터져줬다"는 반응이다. 박외진 대표는 "비식별화는 매우 어려운 기술로, 오픈 대화는 최고 난이도의 기술이 필요한 부분으로 아직도 갈 길이 멀다"며 "이번 이루다 사태로 기술 역량의 문제, 인공지능의 한계, 공공 지원 부족 등 문제를 총체적으로 고찰하는 계기로 삼아야 한다"고 말했다. 최정회 심심이 대표는 "심심이가 2010년 앱이 세계 각국에서 출시된 후, 콘텐츠 문제가 각 나라에서 전혀 다른 이슈로 나타났다"며 "어느 나라에서는 사탄에 대해 얘기하는 게 금기시되기도 해 나라 별로 다른 이슈가 생겨났고, 수습의 여지가 안 보이면 빨리 서비스를 중단해 문제를 해결하는 게 바람직하다"고 설명했다. 그는 하지만 이루다에 사용된 데이터에 대해 개인정보 사용에 대한 동의가 너무 간단해 문제의 소지가 컸으며, 데이터에 개인정보로 민감한 내용이 많이 포함된 점이 문제가 됐다고 지적했다. 최 대표는 "'심심이는 데이터를 당신이 가르치면 심심이가 이렇게 말할 거예요'라고 늘 고지해왔으며, 동의가 된 상태로 학습시켜 이 같은 문제를 방지해왔다"고 설명했다. 또 이번 정부의 스캐터랩 조사가 전체 AI 산업에 대한 규제로 연결되는 것이 아니냐는 우려도 커지고 있다. AI 업계 한 대표는 "데이터 3법이 시행됐지만, 법조계 전문가들에 따르면 문제가 생길 때 판단하는 게 분명치 않은 부분이 많어 이번 사건도 추이를 지켜봐야 한다"며 "이번 정부의 조사는 건전한 목적으로 규제하는 데만 초점을 맞춰야 하며, 구멍이 뚫려서 막는 데 급급하다 보면 규제가 강화될 수 있으므로 공청회 등을 거쳐 업계 의견을 수렴하는 과정이 필요하다"고 말했다. 특히, 데이터 3법 개정으로 개인정보를 가명처리한 후 산업적으로 활용할 수 있는 길이 열렸음에도 잘못 사용했다 법적인 처벌을 받을까 우려돼 아직 이용이 활발하지 않은데, 이번 사건으로 데이터 활용이 더 위축될 수 있음을 걱정하고 있다. 남궁훈 카카오게임즈 대표는 11일 페이스북을 통해 "이루다는 교육을 목적으로 만든 AI 슈퍼컴이 아니라 수없이 출시될 AI 캐릭터 중에 하나일 뿐으로 앞으로 AI에 대한 관심을 긍정적인 방향으로 이어가야 한다"며 "엉뚱한 규제가 이제 막 시작한 AI 산업의 혁신을 가두지 않을지 걱정스럽다"는 입장을 표했다. 이번 이루다 논란은 "현 세대에 분명히 현존하는 혐오와 차별 문제가 노출이 된 것 뿐"으로 진단했다.
