인공지능이 메모리 성능을 높여주는 시대가 왔다. 이번에도 삼성전자가 혁신을 주도했다.

삼성전자는 세계 최초로 HBM-PIM(프로세싱 인 메모리)을 개발했다고 17일 밝혔다.

PIM은 메모리에 연산 작업을 하는 프로세서를 결합한 신개념 융합 기술이다.

삼성전자는 초고속 메모리인 HBM2 아쿠아볼트에 메모리 반도체에 PIM 기술을 활용해 인공지능 엔진을 탑재해 HBM-PIM을 개발해냈다.

HBM PIM은 AI 시스템에 탑재할 경우 기존 HBM2 대비 시스템 성능을 2배 가량 높이면서 에너지를 70% 이상 줄여준다.

HBM 인터페이스를 그대로 지원해서 기존 고객들도 추가 설비 없이 AI 가속기 시스템 성능을 높일 수 있다.

삼성전자는 기존의 메모리로는 한계를 극복하기 어렵다고 봤다. 주기억장치와 CPU, 입출력장치로 구성되는 '폰 노이만 구조'가 데이터가 실행과 저장 등 작업을 거치면서 병목 현상을 일으키고 작업 처리도 지연됐던 것.

이에 따라 메모리 내부 각 뱅크에 인공지능 엔진을 장착해 병렬 처리를 극대화하면서 성능을 높이는 HBM-PIM을 구현했다. 메모리 내부에서 연산 처리를 해 CPU와 메모리간 데이터 이동을 줄여 에너지 효율도 높여준다.

삼성전자는 HBM-PIM을 제품화하는 것뿐 아니라, 반도체 분야 세계 최고 권위 학회인 ISSCC에 논문을 공개했다.

삼성전자 메모리 사업부 상품기획팀장 박광일 전무는 "HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계최초의 인공지능 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 말했다.

미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학) 연구실장 릭 스티븐스는 "HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다"고 전했다.

한편 삼성전자는 상반기 중으로 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 검증을 완료하고 플랫폼 표준화와 에코 시스템 구축을 위한 협력을 이어갈 예정이다.