美 ‘핫칩스 2026’ LPDDR5X-PIM

칩플레이션 ‘HBM 쏠림’ 대안 평가

‘메모리+연산’ 초당 614GB 대역폭

별도 시스템 없이 PIM D램 교체가능

[삼성전자 제공]
[삼성전자 제공]

삼성전자가 세계 최초 개발한 ‘LPDDR5X-PIM’(사진)의 청사진을 제시했다. LPDDR5X-PIM은 저전력 D램에 연산 기능을 더한 것이다. ‘칩플레이션(반도체 가격 압력이 원가·제품가 상승으로 이어지는 현상)’으로 인해 AI(인공지능) 가속기 기업들이 골머리를 앓는 가운데 이의 원인인 HBM(고대역폭메모리) 쏠림 현상을 해결할 대안을 제시했다는 평가가 나온다.

이번 개발로 삼성전자가 차세대 메모리 아키텍처인 PIM(Processing-In-Memory, 메모리 내 연산) 영역에서 앞서나가는 동력이 될 것이라는 분석이다. 아울러 기존 LPDDR5 시스템을 기반으로 추가 설치 없이 LPDDR5X-PIM으로 교체할 수 있어 시장 선점 효과도 기대된다.

삼성전자는 25일(현지시간) 미국 캘리포니아주 팰로알토 스탠포드대에서 열린 ‘핫칩스 2026’에서 세계 최초로 개발한 ‘LPDDR5X-PIM’에 대해 상세히 소개하는 자리를 가졌다.

삼성전자는 지난달 초 미국 산타클라라에서 열린 ‘FMS 2026’에서도 이를 선보여 ‘FMS 베스트 오브 쇼 어워드(Best of Show Award)’를 수상한 바 있다.

LPDDR5X-PIM은 16GB(기가바이트) 용량에 초당 614GB의 PIM 대역폭을 구현했다. 기존 D램만으론 초당 76.8GB 대역폭을 제공했지만 PIM 기술을 적용해 대역폭이 8배 높아졌다. D램은 뱅크라는 저장공간으로 구성되는데 16개 뱅크에 모두 PIM 블록을 배치해 성능을 끌어올렸다.

저전력 D램이 데이터 저장만 담당할 때는 CPU(중앙처리장치)·GPU(그래픽처리장치) 같은 연산기로 데이터를 보내야 했다. 하지만 이제 간단한 연산은 메모리가 직접 처리할 수 있어 대역폭이 크게 개선됐다.

LPDDR5X-PIM은 서버·모바일 등에서 응용될 전망이다. 특히 온디바이스AI처럼 중앙 클라우드를 거치지 않는 엣지 AI 시장을 겨냥한 기술로 여겨진다. PIM 기술을 활용하면 서버가 크지 않아도 고성능 AI를 저전력으로 돌릴 수 있다.

삼성전자가 기대하는 건 속도감 있는 시장 침투다. 그간 PIM 확산 걸림돌로 여겨지던 호환 문제를 해결했기 때문이다. JEDEC(국제반도체표준협의기구)이 정한 패키지 표준대로 개발해 기존 LPDDR5를 사용하던 고객을 이를 LPDDR5X-PIM으로 손쉽게 교체할 수 있다.

삼성전자는 AI 구동 환경에서 개선된 성능을 확인했다고 밝혔다. 자사 엣지 AI 가속기 SoC(시스템온칩)에 LPDDR5X-PIM을 탑재해 LLM(대규모언어모델)을 작동시킨 결과 LPDDR5X 대비 속도는 2.28배 빨라졌고 초당 토큰 수도 3.01배 늘었다. PIM이 AI 추론 병목을 해소하는 실질적인 해결책임을 확인한 것이다.

PIM은 메모리 가격이 지속 인상되는 칩플레이션 속 새로운 대안이 될 수 있다는 분석이다. 최근 AI 가속기에서 메모리 비용이 차지하는 비중은 60%를 상회할 정도로 높아지고 있다. 2024년 1분기 52%에서 작년 4분기 기준 63%까지 높아졌다.

메모리 비용의 대부분을 차지하는 건 HBM이다. AI 추론을 위한 설루션으로 HBM이 자리매김하면서 AI 가속기 기업의 비용 지출이 불가피해졌다. 최근 엔비디아가 일부 고객사에 내년 초 출하하는 AI 서버 가격을 15% 인상한다고 통보한 것도 메모리 비용 부담 탓이다.

다만 HBM은 고대역폭이란 강점에도 높은 전력 소비와 복잡한 패키징이란 한계점이 공존한다. 삼성전자가 LPDDR5X-PIM이란 새로운 폼팩터를 제시한 것도 이 때문이다. 삼성전자는 2020년대 초반부터 HBM에 PIM을 접목시키는 시도를 진행하다 현재 단계에 이르렀다.

특히 메모리 업계에서 가장 먼저 저전력 D램에 PIM을 적용해 시장 선점 효과가 기대된다. SK하이닉스와 마이크론은 다음 세대인 LPDDR6부터 PIM 기술 도입을 준비 중인 것으로 알려졌다.

이정완 기자


jeongwan@heraldcorp.com