카카오는 지난 24일부터 사흘간 스위스 제네바에서 열린 제14차 UN 기업과 인권 포럼에 참석해 인권 기반 인공지능(AI) 기술과 공공 기여 사례를 발표했다고 26일 밝혔다. 이번 포럼은 UN 기업과 인권 이행원칙에 따른 글로벌 실천을 논의하는 회의로 각국 정부, 기업, 지역공동체, 인권단체 등 국제 관계자가 참여한다.

카카오는 '인공지능 시대의 인권 증진' 세션에서 AI 개발·운영 전 과정에 인권 관점을 내재화한 기술·거버넌스 사례를 소개했다. 하진화 AI 세이프티 시니어 매니저는 "카카오는 AI 기술 전 단계에 인권 보호 체계를 적용하고 있다"며 "한국어·문화 맥락 기반의 AI 가드레일을 오픈소스로 공개하는 등 공공 조달 신뢰성 강화에 기여하고 있다"고 말했다.

카카오는 국가인권위원회의 AI 인권영향평가 도구를 기반으로 '안전한 AI를 위한 핵심 체크리스트'를 마련했으며, 그룹 AI 윤리 원칙에는 '인권'을 명시적 기준으로 포함했다. 디지털 아동·청소년 보호 체크리스트 역시 유니세프의 디지털 아동 영향평가를 참고해 개발한 것으로 알려졌다.

회사 측은 OHCHR, AI 얼라이언스 등 국제기구와의 협력을 통해 이러한 내부 기준을 글로벌 규범과 정합화하고 있다고 설명했다. 기술 공공 기여도 강화하고 있다. 카카오는 지난 5월 AI 안전성 검증 모델 '카나나 세이프가드'를 개발해 국내 기업 최초로 오픈소스로 공개했다. 해당 모델은 현재 카카오 주요 AI 서비스에 적용돼 있다.

최근에는 한국정보통신기술협회, 카이스트와 함께 글로벌 위험 분류체계를 반영한 생성형 AI 안전성 평가 데이터셋 'AssurAI'를 제작했다. 총 1만 1480건으로 구성된 데이터셋은 한국 사회·문화적 맥락을 반영했으며, 허깅페이스를 통해 누구나 활용 가능하도록 공개됐다.

카카오 김경훈 AI 세이프티 리더는 "AI 기술 개발과 서비스 운영 과정에서 이용자 보호를 최우선 가치로 삼고 있다"며 "투명성 확보와 공공 기여 확대를 통해 인권 존중 기술 생태계를 선도하겠다"고 말했다.