AI 반도체 시장 엔비디아 독주가 이어지고 있다. 새로운 AI칩이 높은 성능과 낮은 가격으로 도전장을 내밀었지만, 치열한 AI 경쟁 속에서 좀처럼 빈틈을 찾지 못하는 모습이다.

12일 업계에 따르면 삼성SDS가 이날 개최한 '리얼 서밋 2023'에는 엔비디아 샨커 트리베디 수석부사장이 참석했다.

당초 업계에서는 삼성SDS가 새로운 기업형 AI 서비스를 삼성전자와 함께 만들 것으로 기대했었다. 그러나 삼성전자는 이날 자리에 없었고, 오히려 엔비디아가 협력을 강조했다. 삼성SDS도 엔비디아 AI칩을 쓴다는 의미다.

삼성SDS뿐만이 아니다. 네이버도 지난달 하이퍼클로바X를 공개하면서 엔비디아 칩을 활용하고 있다고 고백했다. LG AI연구원 역시 엑사원2.0을 발표하면서 엔비디아 반도체에 상당부분을 의존하고 있음을 간접적으로 시인했다. 그밖에도 KT는 물론, 미국 마이크로소프트(MS)와 아마존웹서비스(AWS) 등 주요 클라우드 사업자 역시 엔비디아 AI칩을 구하는데 사활을 걸고 있다.

AI반도체는 병렬 연산을 하는 칩을 가리킨다. 단순한 계산을 여러번 빠르게 해야하는 AI를 구동하기 위해서는 필수적이다. 3D 그래픽을 만들어 주는 그래픽 칩(GPU)과 같은 원리다.

가트너에 따르면 AI 반도체 시장은 올해 534억달러(한화 약 70조원)로, 연간 20% 이상 성장을 거듭하며 2027년에는 1194억달러(약 158조원)으로 2배 이상 커질 전망이다.

엔비디아는 일찌감치 AI를 미래 먹거리로 보고 막대한 투자를 지속하며 시장을 선점하는데 성공했다. GPU에 AI성능을 높여주는 기술과 HBM 메모리를 합친 A100과 H100 등이 잘 알려져있다.

엔비디아 AI 칩은 연산 속도가 빠를뿐 아니라, '쿠다 라이브러리'를 활용해 개발 과정을 크게 단축할 수 있다는 장점이 있다. 특히 쿠다 라이브러리는 오랜 노하우를 담고 있어 대체하기 어렵다는 전언이다. 해외에서는 '엔비디아 세금'이라는 신조어도 생겼다.

다만 엔비디아 AI 칩이 가진 치명적인 단점이 있다. 가격이 비싸다는 것. H100의 경우 가격이 5000만원을 훌쩍 넘는 것으로 알려졌다. 서버 업계가 AI칩에 투자하기 위해 스토리지 등 다른 분야 투자를 대폭 줄였다는 추측이 나올 정도다.

이에 따라 GPU를 NPU로 대체하려는 움직임이 빨라지고 있다. NPU는 신경망을 본딴 반도체로, 병렬 연산에 특화해 만들어졌다. 구조가 간단하고 개발 난이도가 높지 않아 가격도 훨씬 저렴하다.

특히 AI 서버를 자체적으로 구축하려는 수요가 늘어나면서 저렴한 AI칩 필요성은 더 높아지는 분위기다. 종전까지는 대형 서버 업체 클라우드를 통해 AI를 사용했지만, 보안과 최적화 등 문제를 해결하기 위해 직접 서버를 운영하려는 기업이 많아지고 있다.

국내 업체들은 이미 대체제를 찾아나선 상태다. 네이버는 삼성전자와, KT는 리벨리온과 협력하고 있다. LG도 일찌감치 구글과 손잡고 TPU를 엑사원에 적용하고 있다. 해외에서도 구글과 아마존이 자체 칩을 도입하고, 텐스토렌트를 비롯한 스타트업도 고성능 AI칩 개발을 추진 중이다. 인텔과 AMD 등도 AI칩을 새로 출시했다.

성과도 나오고 있다. 사피온 등 신생 업체들이 엔비디아 GPU에 비견할만한 성능을 입증했고, 이를 뛰어넘을 제품도 발표를 앞두고 있다. 삼성전자도 네이버 하이퍼클로바X에 최적화한 새로운 AI칩을 순조롭게 개발 중으로 알려졌다.

테슬라는 자체 개발한 AI칩을 사용한 슈퍼 컴퓨터 '도조'를 안정적으로 운영 중이다. 모건스탠리가 도조를 이유로 목표주가를 60%나 높인 보고서를 공개하면서 다시 주목을 받고 있다.

그럼에도 새로운 AI칩이 당장 엔비디아 GPU를 대체할 수 있을지는 미지수다. AI 붐으로 업계간 경쟁이 본격화한 상황, 새로운 AI칩을 적용하는 과정에서 소모할 시간조차 아껴야 한다는 이유로 도입에 어려움을 겪는 것으로 알려졌다.

AI를 활용하는 한 업계 관계자는 "엔비디아 쿠다 라이브러리 활용도가 높긴 하지만 대체 불가능한 수준은 아니다"며 "AI가 더 대중화되면 저렴한 AI서버 필요성이 더 커지고, 자연스럽게 새로운 AI칩 생태계가 확대될 것으로 예상된다"고 말했다.