삼성전자가 '고대역폭 메모리-프로세스 인 메모리(HBM-PIM)'를 개발했다고 17일 밝혔다. 초고속 고대역폭메모리(HBM:High Bandwidth Memory)와 인공지능(AI) 프로세서를 하나로 합쳐 성능은 높이고 전력소비량을 낮춘 것이 특징이다.
내부 구조는 이렇다. 메모리 내부의 각 뱅크(D램 구성 단위)에 AI 엔진을 장착하고 병렬처리를 극대화했다. 중앙처리장치(CPU)와 메모리간 데이터 이동이 짧아져 AI 가속기 시스템의 에너지 효율을 높였다. 삼성전자에 따르면 HBM-PIM을 탑재할 경우 기존 고대역폭메모리2(HBM2)를 이용한 시스템 대비 성능은 약 2배 이상 높일 수 있다. 필요한 에너지는 70% 이상 줄여준다.
기존 HBM이 쓰던 인터페이스도 그대로 이용한다. HBM 시스템을 사용하는 슈퍼컴퓨터(HPC)와 데이터센터에서 곧바로 적용이 가능하다. 하드웨어나 소프트웨어를 따로 추가할 필요가 없다.
박광일 삼성전자 메모리 사업부 상품기획팀장(전무)은 "AI 가속기의 성능을 극대화 시킬 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션"이라며 "고객사와 지속적으로 협력을 강화해 HBM-PIM 생태계를 구축할 것"이라고 밝혔다. 삼성전자는 미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학)와 협력하고 있다.
삼성전자는 올 상반기 내 다양한 고객사들의 AI 가속기가 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이라고 전했다.
HBM-PIM의 자세한 기술 내용은 국제반도체기술학회(ISSCC)2021 논문을 통해 소개될 예정이다. ISSCC2021은 13일(현지시간) 개막해 오는 22일까지 온라인으로 진행된다.
