[박상오 변호사의 콘텐츠(Content) 법률 산책] EU의 'AI 규제법' 도입을 주목해야 할 이유
우리 인류의 미래에 '인공지능(AI)' 기술이 매우 중요한 역할을 하게 될 것이라는 사실을 의심하는 사람은 이제 없다. '알파고'로 바둑을 잘 모르던 사람에게조차 새로운 시대가 왔음을 알린 AI는 이제는 'Chat-GPT' 등의 등장과 함께 우리 일상에까지 깊게 파고들고 있다. 컴퓨터가 처음 세상에 등장했을 때처럼 AI는 이제 거스를 수 없는 시대의 흐름이 돼 우리 사회의 모든 곳을 변화시킬 예정이다. 물론 AI로 인한 밝은 미래만 있는 것은 아니다. AI는 벌써부터 많은 법적, 사회적 문제들을 발생시키고 있다. 그래서 많은 사람들은 AI가 지배할 미래에 대해서 여러 가지 우려를 표하고 있다. AI에 의한 지식재산권, 개인정보 등 권리 침해와 '딥페이크', '페이크뉴스' 등과 같은 AI를 이용한 범죄나 불법행위의 문제다. 정부 뿐만 아니라 기업, 개인에게 까지도 큰 과제로 부각되고 있고, 이에 대한 심도 있는 논의와 적극적인 대응이 요구되고 있다. 이러한 사회적 흐름에 발맞춰 EU(유럽연합)은 2023년 12월 AI 기술을 규제하기 위한 포괄적 법안 도입에 합의(provisional agreement)했다. 언론 등에서 'AI 규제법(AI Act)'으로 표현되는 법안이다. 해당 법안은 ▲AI기술의 위험 정도에 따른 유형별 구분 ▲AI기술의 활용 범위나 AI가 생성한 콘텐츠에 대한 규제(소셜 스코어링-social scoring-에 대한 활용금지 등) ▲관련 규정 위반 시의 벌금(최대 3500만 유로 또는 전 세계 매출의 7%) 등의 실효적 제재조치와 같은 AI기술과 관련된 다양한 규정 및 규제를 담고 있다. 특히, AI 규제법에서 주목해야 할 부분은 AI기술의 위험성을 구분(최소 또는 무위험, 제한적 위험, 고위험, 허용불가 위험)해 위험성이 높은 영역에 대해서는 엄격한 규제를 도입하고 있다는 점이다. 구체적으로 살펴보면 AI 규제법에서는 교통 등의 중요한 인프라를 포함해 교육, 취업, 금융 서비스 등 필수적인 서비스를 이용하기 위한 접근권을 제한할 수 있는 시스템을 '고위험'으로 평가한다. 이러한 고위험의 AI모델에 대해서는 시장 출시 전 적절한 위험평가 및 완화 시스템을 마련해야 할 의무 등이 부과된다. 인종이나 성별 등 사회적인 차별을 목적으로 AI를 활용하거나 안면인식 등 생체정보를 다루는 AI는 '허용불가 위험' 등으로 구분돼 훨씬 더 엄격하게 제한된다. AI 규제법은 Chat-GPT와 같은 생성형 AI모델에 대해서도 그 파급력 등을 고려해 고위험군으로 구분하고 있다. 따라서 이러한 고위험군에 속하는 AI기술을 활용한 사업을 진행하고 있거나 계획하는 기업으로서는 AI 규제법의 내용과 국내에의 영향 등을 면밀하게 검토해야만 한다. 물론 AI 규제법이 유럽의회 및 회원국들의 최종 승인을 마치고 법률로서 발효되기까지는 앞으로 조금 더 시간이 걸릴 것으로 보인다. 뿐만 아니라, AI 규제법의 실제 시행을 담당할 국가 또는 범유럽 차원의 규제기관 설립, 인력 충원, 인프라 확보 등도 필요한 상황이다. 다만 AI 규제법 등의 본격적인 시행이 이루어지기 전이라는 이유로 손을 놓고 있다가는 기업 입장에서 훨씬 더 큰 비용과 노력이 필요하게 될 수도 있다. 기업은 EU AI 규제법의 내용을 미리 참고해 장래에 국내외에서 본격적으로 시행될 AI기술 관련 규제 등에 선제적으로 대응할 수 있는 준비를 해 둘 필요가 있다.
