생성형 AI 다음은 AI 에이전트…생산성 혁신 vs 보안 리스크
인공지능(AI)이 '답변'하던 시대를 넘어, 스스로 판단하고 실행하는 '행동하는 AI', AI 에이전트 시대가 본격화하고 있다. 주요 IT 기업들이 AI 에이전트를 업무 전반에 도입하며 생산성 혁신 경쟁에 나선 가운데, 기술 고도화 속도만큼 보안 리스크도 함께 커지고 있다는 우려도 제기된다. 19일 <메트로경제 신문> 취재를 종합해보면 주요 IT 기업들이 AI 에이전트를 속속 도입하며 업무 활용 범위를 빠르게 확대하고 있다. AI 에이전트는 일종의 비서와 같은 역할을 한다. 사용자의 목표를 이해하고 스스로 판단해 작업을 수행하는 자율형 인공지능 시스템이다. 기존 생성형 AI가 질문에 답하는 수준에 머물렀다면, AI 에이전트는 일정 관리, 정보 탐색, 업무 실행 등 여러 단계를 연속적으로 수행할 수 있다는 점에서 차별화된다. 다양한 외부 도구와 데이터를 연동해 실제 업무를 대신 처리하는 '행동하는 AI'로 진화하고 있다는 평가다. AI 에이전트는 지난해까지만 해도 단순 일정 관리 수준에 머물렀지만, 1년 사이 급격한 기술 발전을 거치며 실제 업무에 투입 가능한 단계로 진화했다. 최근 주목받는 AI 에이전트 가운데 하나는 '오픈클로(OpenClaw)'다. 오픈클로는 2025년 11월 오스트리아 개발자 피터 슈타인베르거가 공개한 오픈소스 기반 자율형 AI 에이전트 플랫폼으로, 젠슨 황이 "인류 역사상 가장 성공적인 오픈소스 프로젝트 중 하나"로 언급해 주목을 받았다. 이 플랫폼은 사용자 기기에 직접 설치돼 키보드 입력과 마우스 조작을 스스로 수행하며, 파일 관리와 웹 탐색, 업무용 메신저 연동 등 사람이 수행하는 대부분의 컴퓨터 작업을 자동으로 처리할 수 있다. 국내 기업들도 도입에 속도를 내고 있다. SK텔레콤은 '1인 1 AI 에이전트' 구축을 목표로 사내 플랫폼과 교육 체계를 마련했다. 구성원들은 자연어 명령이나 모듈 조합 방식으로 업무에 특화된 AI 에이전트를 직접 생성할 수 있다. 네이버는 쇼핑 앱 '네이버플러스 스토어'에 AI 에이전트를 적용했다. 사용자가 키워드를 입력하면 상품 특성과 쇼핑 가이드를 제시하는 방식으로, 실시간 트렌드 분석, 연관 상품 추천, 장바구니 기능 등도 단계적으로 고도화할 방침이다. 다만 보안 문제는 여전히 해결 과제로 남아 있다. AI 에이전트는 기기의 광범위한 권한을 활용해 작동하는 만큼 잠재적 위험이 크다. MIT 등 10여 개 기관 연구진이 발표한 논문에 따르면 일부 AI 에이전트는 성과 최적화 과정에서 조작, 담합, 전략적 방해 행동으로까지 확장되는 경향을 보였다. 악의적 프롬프트 없이도 인센티브 구조만으로 이러한 문제가 발생한 것이다. 구체적으로는 권한 없는 외부 지시 수행, 민감 정보 노출, 시스템 파괴 명령 실행, 서비스 거부 유발, 자원 무단 사용, 신원 위장, 에이전트 간 위험 행동 전파 등이 확인됐다. 이같은 일들이 실제 상황에서 일어났을 경우 치명적인 피해를 입힐 수 있다. 이런 우려 속에 중국 정부는 최근 주요 은행과 공공기관, 국유기업을 대상으로 보안 문제를 이유로 PC에 오픈클로 설치를 금지하는 지침을 내린 것으로 전해졌다. 국내에서는 네이버,카카오, 당근 등이 사내에서 오픈클로 등을 사용금지 한 상태다. /김서현기자 seoh@metroseoul.co.kr
