엔씨소프트가 국내 최초로 자체 AI 안전성 기술 '세이프가드'를 고객 상담 챗봇 'NCER'에 적용했다.

NC AI는 30일 엔씨소프트 고객 상담 챗봇 서비스 'NCER'에 자체 개발한 AI 안전성 기술 '세이프가드'를 정식 적용했다고 밝혔다. 국내 AI 기업이 종합적인 AI 세이프티 시스템을 상용 서비스에 도입한 것은 이번이 처음이다.

세이프가드는 레드팀, 블루팀, 퍼플팀으로 구성된 삼중 보안 체계에 기반한다. 레드팀은 악성 공격 패턴을 연구하고 블루팀은 방어 기술을 개발하며, 퍼플팀은 두 결과를 종합해 정책에 반영하는 순환 구조다. NC AI는 엔씨소프트와 협업해 게임 업계 특성을 반영한 챗봇 네거티브 규제 정책도 마련했다.

NCER는 2024년 도입된 서비스로, AI 기술과 게임데이터를 기반으로 고객 문의 대응과 버그 제보, 건의사항 접수를 처리해 CS 효율화와 만족도 향상을 이끌고 있다. NC AI는 텍스트 중심의 안전성 기술을 향후 비전-랭귀지 모델 기반 멀티모달 콘텐츠 탐지로 확장할 계획이다.