최근 챗GPT와 생성형AI(인공지능)가 등장하면서 혁신적인 기술 이면에 편향성, 저작권, 악용 문제들이 지속 제기되고 있다. 특히 AI는 학습용 데이터의 신뢰도가 매우 중요한데 편향성, 혐오, 차별, 음란물 등이 제대로 필터링 되지 않은 데이터는 AI 학습용으로의 사용이 불가능하다. 이러한 학습용 데이터의 신뢰성 검증과 라벨링이 더욱 중요해지고 있으며 AI 기술의 핵심 경쟁력으로 대두되고 있다.

IAAE 국제인공지능&윤리협회는 AI 학습용 데이터 라벨링 1위 기업인 크라우드웍스와 'AI 및 AI 윤리에 관한 공동 사업 협약'을 체결했다고 17일 밝혔다.

이번 업무 협약을 통해 양 기관은 AI 기술, AI 윤리 분야에서 연구 개발을 추진하고, AI 기술과 AI 윤리 분야 공동 교육 사업, 인적 교류와 정보 교류를 통해 안전하고 윤리적인 AI를 구현하는데 적극 협력키로 했다.

특히 AI 학습용 데이터의 편향성과 신뢰성을 검인증 할 수 있는 시스템을 공동 구축해 국내외 AI 기업들이 정제된 학습용 데이터를 확보할 수 있도록 지원할 계획이다. 또한 AI 기술과 AI 윤리 전문 인력을 양성하기 위한 교육과정을 공동 개설하고 운영에 협력키로 합의했다.

크라우드웍스는 2017년 4월 설립되어 AI 학습 데이터를 수집, 가공하는 데이터 라벨링에 국내 최초로 다수의 대중이 참여하는 크라우드소싱 방식을 도입했다. 2022 가트너 하이프 사이클 리포트 '데이터 라벨링 및 가공 부문'에 샘플 벤더로 등재되었고, 한국데이터산업진흥원의 데이터 품질대상 최우수상을 수상하는 등 국내외로 기술력을 인정받아 왔다.

박민우 크라우드웍스 대표는 "AI 학습용 데이터의 품질과 신뢰성은 AI 기술의 성능과 안전성에 직결되는 핵심 요소"라며 "우리는 IAAE와 협력하여 AI 학습용 데이터의 편향성과 신뢰성을 검증할 수 있는 시스템을 구축하고, 전문 교육을 개발하여 국내외의 AI 기업들에게 고품질의 AI 학습용 데이터를 제공할 것"이라고 말했다.

전창배 국제인공지능&윤리협회 이사장은 "챗GPT와 같은 초거대AI 시대가 도래함에 따라 AI 학습용 데이터의 신뢰성이 AI 제품과 서비스의 성공 여부를 좌우하게 됐다"며 "이 분야 국내 1위 기업 크라우드웍스와 협업하게 되어 매우 기쁘게 생각하며, 양 기관이 협력하여 국내 학습용 데이터 윤리 분야의 세계적 경쟁력을 구축해 나가겠다"고 강조했다.