인공지능(AI)프로그램 '알파고'를 개발한 딥마인드의 공동 창업자 무스타파 술레이만은 '더 커밍 웨이브(The Coming Wave)'란 저서를 통해 AI와 합성생물학 등이 인류의 생존을 위협할 것이라고 경고했다.

딥마인드의 알파고는 지난 2016년 3월, 바둑9단 이세돌을 격파하면서 본격적인 AI시대를 연 주인공이다. 딥마인드를 10년 이상 이끌면서 AI의 개발에 열정을 쏟았던 술레이만이 이런 경고를 한 것은 누구보다 AI의 특징을 그가 잘 알고 있었기 때문일 것이다.

술레이만은 불, 바퀴, 전기의 발명이 인류 역사 발전에 획기적인 역할을 했듯이, AI와 합성생물학이 그런 역할을 하게 될 것이며, 앨빈 토플러가 주장한 '제3의 물결'처럼 AI가 새로운 물결(wave)을 일으키는 주인공이 될 것이라고 예견했다.

그러나 빛이 강할수록 그림자도 짙은 법이다. AI나 합성생물학이 가져다 줄 충격파가 큰 만큼 그에 따른 오·남용의 위험성도 크다는 것이 그의 주장이다. 그는 단돈 몇천달러만 있으면 유전자 조작 도구를 구입해 지구상에 존재하지도 않았던 새로운 생물을 만들 수 있으며, AI는 이미 우리 일상 깊숙이 침투해 있어 언제든 인류에게 위협을 줄 수 있다고 주장했다.

이미 AI산업은 브레이크 없이 달리는 자동차처럼 통제불능의 상태다. 지금 이순간에도 정부나 민간기업에서 AI를 도입했거나 하겠다는 자료가 쏟아지고 있다. AI는 머신 러닝 기술을 통해 24시간 수많은 빅데이터를 학습하고 있으며, 갈수록 더 정교해지면서 인간의 '감정'도 학습을 하고 있다고 한다.

AI 소프트웨어, 알고리즘 개발경쟁에 뛰어드는 기업도 갈수록 많아지고 있다. 소프트웨어 구동이 가능하도록 하드웨어적으로 뒷받침할 반도체 기술도 빨라지고 있다. 자본주의의 속성상, 서로 경쟁하는 구도에서 이를 제어하는 것은 사실상 불가능하다.

이런 AI를 드론이나 로봇에 탑재하면 영화 '터미네이터'가 실제로 구현되는 건 시간 문제다. 상상만 해도 끔찍한 미래가 되는 것이다.

술레이만은 AI나 합성 생물학의 오·남용에 대한 대안으로 '억제(containment)'란 기능이 필요하다고도 제시했다. AI의 기술발달을 막기는 현실적으로 불가능하기 때문에 정부와 사회가 적절한 견제를 위해 억제 기능이 필요하다는 것이다.

AI의 위험을 경고하는 목소리는 술레이만뿐이 아니다. '챗GPT' 개발사 오픈AI와 구글 딥마인드의 전현직 직원들도 공동 성명을 통해 "우리는 AI 기술에 의해 야기되는 심각한 위험을 알고 있다"면서 "이런 위험은 기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인간의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양하다"며 대책을 촉구하기도 했다.

AI의 오·남용에 대한 부작용의 심각성을 인지한 유럽연합(EU)은 지난 3월, 세계 최초로 'AI규제법'을 최종 승인해 오는 2026년부터 본격 시행할 예정이다. 미국은 알고리즘 책임법안을, 중국은 '생성형 인공지능서비스 잠정 관리 방법'을 통해 AI를 사용해 콘텐츠를 생성하는 기술의 허용 범위, 준수 의무, 위반 시 조치, 벌칙 등을 규정하고 있다.

우리도 AI의 오·남용을 방지하기 위해 민간뿐 아니라 정부와 국회도 관련연구와 법제화에 하루빨리 나서야 한다.