'설명 가능한 AI' 먹거리 부상…전문기업 육성등 절실

중기연구원, KOSI 이슈n포커스…유망 비즈니스 분야로 인식해야 中企 위기관리 모형 고도화, 신규 정책 사전 영향 진단 필요성등도 金 "XAI 논의·적용에 관심 필요…이행 기반 강화등 정책 방향 중요" '설명 가능한 AI(eXplainable AI·XAI)'가 중소벤처기업의 새로운 먹거리로 부상하면서 관련 서비스를 제공하는 전문기업 육성 등이 절실하다는 조언이다. 중소벤처기업연구원은 31일 펴낸 'KOSI 이슈n포커스-설명 가능한 AI의 부상, 중소기업 정책 방향'에 관한 보고서에서 XAI를 중소기업의 유망한 기술, 비즈니스 분야로 인식하고 XAI 이행 기반 강화와 전문기업을 육성해야한다고 강조했다. 아울러 XAI를 활용한 중소기업 위기관리 모형 고도화, 신규 정책에 대한 사전 영향 진단 필요성 등도 제언했다. 'XAI'는 AI 시스템의 투명성을 높이기 위해 패러다임을 전환하려는 노력이자 사용자가 AI 시스템의 의사결정 과정을 이해할 수 있도록 하는 기술·방법을 말한다. 중기연구원은 시장 자료를 인용해 XAI 글로벌 시장 규모가 2034년까지 약 65조원 규모로 성장할 것으로 내다봤다. 김기만 부연구위원은 "국내·외에서 AI 활용에 따른 안전성, 책임성을 확보하기 위한 주요 원칙 중 하나로 설명 가능성이 강조되고 있는 상황"이라며 "중소기업 분야에서 AI 활용이 확대되면서 이에 따른 의사결정 투명성, 설명 가능성에 대한 관심, 요구가 증가할 것으로 보이고 XAI에 대한 논의와 적용에 관심을 갖는 것이 필요하다"고 전했다. 해외의 경우 제조, 금융과 더불어 도소매, 무역 부문 등 여러 분야에서 스타트업이 XAI에 기반을 둔 솔루션을 개발·제공하고 있다. 이를 통해 AI 시스템의 분석 결과에 대한 신뢰성 제고, 고객사의 만족도 향상 등의 성과가 나타나고 있다. 공공 부문에서도 정부 운영과 공공 정책 혁신을 위해 XAI를 적용하려는 노력들이 이뤄지고 있다. 김 부연구위원은 "XAI에 대한 지속적 발전이 이뤄지고 있으며 세계시장 규모의 빠른 확대가 전망되는 만큼 ▲전문기업 육성 ▲중소기업 위기관리모형 고도화 ▲이행 기반 강화 ▲신규 정책의 잠재적 영향 진단 툴 확보 등의 정책 방향이 필요하다"고 말했다. 그러면서 "전문기업을 육성하기위해선 특히 기술력과 역량을 보유한 중소기업이 동 분야를 선도할 수 있도록 '선도 기업 발굴 및 선별적 지원' 방식이 적절하다"며 "아울러 XAI를 적용해 신규 정책 설계에 대한 잠재적 영향을 가늠할 수 있는 진단 도구 확보가 필요한데 이를 통해 이해관계자인 정부, 기업 등에게 정책 수립에 대한 신뢰할 수 있는 과학적 근거를 제공할 수 있을 것"이라고 덧붙였다.