케이뱅크가 인터넷은행 최초로 금융 특화 프라이빗 대규모 언어 모델(LLM)을 도입했다고 26일 밝혔다.

지난해 2월 KT·KT클라우드·업스테이지와 업무협약을 체결하고 인공지능(AI) 분야 협업을 강화한 성과다.

프라이빗 LLM은 공개적으로 접근이 가능한 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계된 맞춤형 인공지능 언어 모델이다. 공개형 LLM과 비교해 해당 기업이나 특정 분야에 최적화된 것이 특징이다.

프라이빗 LLM은 기업이 원하는 전문 데이터를 학습시켜 보다 정교하고 신뢰성 높은 정보를 생성할 수 있다. 데이터가 외부로 전송되지 않고 내부 서버에서만 운영되기 때문에 보안성이 뛰어나다.

프라이빗 LLM은 내부 업무 프로세스 혁신과 대고객 AI 서비스 확대 등을 위해 활용될 예정이다.

임직원이 사내 규정과 정보 등을 질문하면 이에 맞는 답변을 안내하는 대화형 인공지능 서비스와 콘텐츠를 요약해 자동으로 보고서를 생성해주는 기능 등을 제공할 계획이다.

케이뱅크 관계자는 "금융 산업은 높은 보안성과 전문적인 역량을 요하는 만큼 프라이빗 LLM의 활용도가 높다"며 "앞으로도 AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화해 나가겠다"고 말했다.