LG유플러스가 LG AI연구원, 옵트에이아이와 함께 대규모 언어모델 '엑사원(EXAONE) 3.5'를 기반으로 한 온디바이스 소형 언어모델(sLM)을 개발했다고 25일 밝혔다. 새 모델은 AI 통화 앱 '익시오(ixi-O)'에 적용돼 서비스 고도화에 활용될 예정이다.
이번 연구는 LG AI연구원이 지난해 선보인 '엑사원 3.5 2.4B'를 기반으로 약 6개월간 진행됐다. 온디바이스 기술은 데이터를 외부 서버를 거치지 않고 스마트폰 내에서 처리해 보안성과 속도를 동시에 확보할 수 있다는 장점이 있다. 특히 NPU(신경망처리장치)를 활용해 빠른 응답을 제공하고 다양한 단말에서 사용할 수 있다.
LG유플러스는 이번 sLM 적용으로 익시오 서비스의 전력 소모를 기존 대비 78% 줄이고, 모델 크기도 82% 축소했다. 엑사원의 강점인 한국어 처리 능력을 살려 통화 요약, 텍스트 변환 등 기능을 강화할 방침이다. 구체적으로는 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI 임무 제안 기능을 새롭게 선보인다.
오는 10월 베타 테스트를 거쳐 내년 상반기 상용화할 계획이며, 우선 퀄컴 스냅드래곤8 칩셋 기반 스마트폰에 적용된다. 추후 iOS 기기까지 확대 적용된다. 또한 양사는 최신 '엑사원 4.0' 모델도 온디바이스 sLM으로 구현해 개인 맞춤형 AI 경험을 강화한다는 전략이다.
LG유플러스는 이번 기술을 통해 보안성과 효율성을 동시에 갖춘 AI 통화 서비스를 제공하고, 초개인화된 온디바이스 에이전트로 발전시켜 시장 내 차별성을 확보하겠다는 계획이다.
Copyright ⓒ Metro. All rights reserved. (주)메트로미디어의 모든 기사 또는 컨텐츠에 대한 무단 전재ㆍ복사ㆍ배포를 금합니다.
주식회사 메트로미디어 · 서울특별시 종로구 자하문로17길 18 ㅣ Tel : 02. 721. 9800 / Fax : 02. 730. 2882
문의메일 : webmaster@metroseoul.co.kr ㅣ 대표이사 · 발행인 · 편집인 : 이장규 ㅣ 신문사업 등록번호 : 서울, 가00206
인터넷신문 등록번호 : 서울, 아02546 ㅣ 등록일 : 2013년 3월 20일 ㅣ 제호 : 메트로신문
사업자등록번호 : 242-88-00131 ISSN : 2635-9219 ㅣ 청소년 보호책임자 및 고충처리인 : 안대성