AX(인공지능 전환) 전문기업 LG CNS는 글로벌 AI 유니콘 기업 코히어(Cohere)와 손잡고 1110억개의 파라미터를 갖춘 추론형 LLM(거대언어모델)을 공동 개발했다고 10일 밝혔다.

이번 LLM은 한국어, 영어 등 23개 언어를 지원하며, 추론 등 핵심 성능에서 글로벌 상위 모델을 뛰어넘는 결과를 보였다.

LG CNS는 금융, 공공 등 민감한 데이터를 다루는 국내 고객들의 비즈니스 혁신을 위해 글로벌 시장에서 역량을 인정받고 있는 코히어와 협력해 추론형 LLM을 만들었다. 추론형 LLM은 AI가 복잡한 문제에 대해 여러 변수를 고려한 논리적인 해답을 도출하는 모델로, AI가 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 서비스 구현에 필수적인 기술로 꼽힌다.

LG CNS는 코히어와 함께 개발한 초대형·경량형 2종의 LLM과 국내 대표 AI 모델인 LG AI연구원의 '엑사원(EXAONE)' 등 다양한 거대언어모델 라인업을 통해 고객이 맞춤형 에이전틱 AI 서비스를 만들 수 있는 기반을 마련했다고 설명했다.

LG CNS는 LLM을 온프레미스(자체 구축형) 방식으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다.

양사가 이번에 내놓은 LLM은 모델 압축 기술을 통해 2장의 그래픽처리장치(GPU)만으로 구동이 가능하다. 이를 통해 고객사들은 회사의 비즈니스 환경에 최적화된 LLM을 효율적인 비용으로 확보하고, 데이터와 인프라 통제력을 갖춘 '소버린(주권형) AI'를 실현할 수 있다.

양사의 LLM은 한국어·영어·일본어·중국어는 물론 히브리어·페르시아어 등 소수 언어를 포함해 총 23개 언어를 지원한다. 이 중, 한국어 평가 테스트(KMMLU, KO-IFEval)에서는 온프레미스 방식의 LLM 중 현존 최고 수준의 성능을 냈다고 회사 측은 강조했다.

LG CNS 관계자는 "이번에 선보이는 LLM은 복잡한 비즈니스 문제 해결과 한국어 기반의 정교한 소통이 가능해, 고객사의 업무 효율과 의사결정 품질을 획기적으로 개선할 수 있다"며 "앞으로도 코히어와의 지속적인 협력을 이어가며 LLM의 성능을 고도화해나갈 예정"이라고 전했다.