앞으로 금융회사는 인공지능(AI)기반의 금융서비스를 제공할 경우 윤리원칙을 마련하고 전담조직을 구성하는 등 철저한 내부통제장치를 둬야 한다.

금융위원회는 8일 이같은 내용을 담은 '금융분야 인공지능(AI) 가이드라인'을 시행한다고 밝혔다. 도규상 금융위 부위원장은 "앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 전망"이라며 "AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 AI서비스에 대한 지속가능한 금융혁신환경을 조성하기 위해 가이드라인을 마련했다"고 말했다.

금융위에 따르면 AI가이드라인은 ▲금융산업의 책임성 ▲AI학습용 데이터의 정확성·안전성 ▲AI금융서비스의 투명성·공정 성▲금융소비자 권리의 엄격한 보장을 핵심가치로 두고 있다.

우선 책임있는 AI서비스를 운영하기 위해 전 금융업권은 AI서비스 개발 운영시 준수해야 할 AI윤리를 수립하고, 자체 평가·관리할 수 있는 AI조직을 마련해야 한다. 또 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를 적용해야 한다.

아울러 AI 개발·학습단계시 질좋은 데이터가 활용될 수 있도록 데이터 출처·품질·편향성·최신성 등을 조사·검증하고 개선해야 한다. AI개발과정에서 불필요한 개인신용정보 처리를 최소화 하는 시스템을 마련해 사생활 정보 등 민감정보 활용시 비식별 조치 등 충분한 조치가 이뤄지도록 한다.

이밖에도 AI 시스템 운영과정에서 나타날 수 있는 위험요인을 서비스 특성에 맞게 통제한다. 예컨대 소비자에게 금융거래 기회를 제공하는 서비스(신용평가·대출심사 등)는 적격자의 금융거래가 거절될 수 있는 위험을 최소화 하고, 사기탐지 규제 미준수 등 위법·부당사례를 탐지하는 서비스의 경우 사기·불법거래등을 탐지하지 못하는 위험을 최소화 한다.

AI에 따른 불합리한 소비자 차별이 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가한다. 금융소외계층을 대상으로 한 정책금융상품의 경우 집단간 대출 승인율 등 인구통계적 동등성 지표로 공정성하게 평가받아 상품을 이용할 수 있도록 하겠다는 설명이다.

도 부위원장은 "가이드라인은 충분한 준비기간을 거쳐 연내 시행될 예정"이라며 "금융업권 및 기능·서비스별 특성을 고려해 가이드라인을 구체화한 세부 실무지침도 마련하겠다"고 말했다.