삼성전자가 더 많은 메모리 반도체에 인공지능(AI)을 적용한다. 주춤하던 메모리 성능 개선도 다시 속도를 되찾을 전망이다.

삼성전자는 24일 온라인에서 열린 '핫 칩스' 학회에서 지능형 반도체(PIM) 기술을 적용한 다양한 제품군과 응용 사례를 소개했다.

PIM은 메모리 반도체에 시스템 반도체를 결합하는 기술을 뜻한다. 삼성전자는 지난 2월 업계 최초로 HBM-PIM을 개발하며 업계에서 가장 주목하는 차세대 반도체 기술을 공개하는 이번 학회에 참여하게 됐다.

우선 삼성전자는 D램 모듈에 AI엔진을 탑재한 'AXDIMM'을 선보였다. 칩 단위였던 PIM 기술을 모듈 단위로 확장해 D램 모듈 자체에 AI 엔진을 장착했다. D램 모듈의 동작 단위인 각 랭크에 AI엔진을 탑재하고 병렬 처리를 극대화해 성능을 높이고, AI엔진을 통해 D램 모듈내부에서 연산이 가능해져 CPU와 D램 모듈간의 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

또 기존 D램 모듈에 탑재된 버퍼칩에 AI 엔진을 탑재하는 방식으로 기존 시스템 변경 없이 적용이 가능하다. 이미 글로벌 고객사들의 서버 환경에서 성능 평가 중으로, 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소를 확인했다.

모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술도 공개했다. 초고속 데이터 분석 뿐 아니라 모바일에서 PIM 기술을 활용하는 것. '온 디바이스 AI' 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상되며, 이미 시뮬레이션 결과, 음성인식, 번역, 챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다.

HBM-PIM을 실제 적용한 결과도 발표했다. 미국 자일링스에서 상용화한 AI 가속기 시스템에 탑재하면 HBM2보다 성능 2.5배, 시스템 에너지는 60% 이상 감소됐다.

삼성전자는 PIM이 혁신 기술로 D램 공정에 점목해 다양한 응용처에서 성능과 효율을 대폭 높일 수 있었음을 강조했다. 이에 따라 앞으로 빅데이터 시대에서 새로운 패러다임으로 자리잡을 수 있다고 예상했다.

또 삼성전자는 내년 상반기내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼의 표준화와 에코 시스템 구축을 완료하여 인공지능 메모리 시장을 확대해 나갈 예정이다.

삼성전자 메모리사업부 DRAM 개발실 김남승 전무는"HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로, 이미 고객사들의 AI 가속기에 탑재되어 평가되고 있어 상업적 성공의 가능성을 보였으며, 향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 인공지능용 HBM3, On-Device AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정"이라고 말했다.

자일링스의 상품기획 시니어 디렉터 아룬 바라다라잔 라자고팔은 "자일링스는 버텍스 울트라스케일+ HBM 제품군을 시작으로 데이터센터, 네트워킹, 실시간 신호처리 애플리케이션을 위한 고성능 솔루션을 지원하기 위해 삼성전자와 협력하고 있으며, 최근 새롭고 흥미로운 Versal HBM 시리즈 제품을 선보였다"며 "인공지능 응용 분야에서 HBM-PIM의 성능과 에너지 효율 향상을 위한 시스템 평가를 위해 삼성전자와 지속 협력할 것"이라고 전했다.

기업용 소프트웨어 업체인 SAP의 올리버 레볼츠는 "AXDIMM을 활용한 시스템의 성능 예측 평가에서 성능 향상과 높은 에너지 효율이 기대된다"며, "SAP는 인메모리 데이터베이스 플랫폼 'SAP-HANA' 의 성능 향상을 위해 삼성전자와 협력을 지속해 나갈 것"이라고 밝혔다.