HBM-PIM을 탑재한 그래픽처리장치 가속기 이미지.[삼성전자 제공]
HBM-PIM을 탑재한 그래픽처리장치 가속기 이미지.[삼성전자 제공]

[헤럴드경제=김지헌 기자] 삼성전자가 자사가 개발한 프로세싱인메모리(PIM)를 세계적인 반도체 업체인 AMD의 그래픽처리장치(GPU) 가속기 카드에 탑재해 성능을 입증하는 데 성공했다. 차세대 기술로 주목받는 초거대 인공지능(AI)의 성능을 개선하는 데 기여할 것으로 전망된다.

20일 삼성전자는 기존에 상용화된 AMD의 GPU인 ‘MI-100’ 가속기 카드에 고대역폭 메모리(HBM)-PIM 메모리를 탑재해 가동시키는 데 성공했다고 밝혔다.

PIM은 컴퓨터 프로세서가 수행하는 데이터 연산 기능을 기억장치 내부에 구현한 칩을 뜻한다.

일반적으로 PIM이 없는 체계에서는 연산 프로세서가 기억장치로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 과정을 거친다. 이때 다량의 데이터 이동이 필요하다.

그러나 PIM을 탑재하게 되면 메모리 내부에서 연산 처리가 가능해진다. 즉 중앙처리장치(CPU)와 메모리 간 데이터 이동이 기존보다 줄어드는 것이다.

HBM-PIM을 AMD의 GPU 가속기 카드에 탑재한 결과, HBM-PIM을 활용하지 않은 기존 GPU 가속기보다, 평균적으로 성능이 약 2배 증가하고 에너지 소모는 약 50%가 감소했다고 삼성전자 측은 밝혔다.

삼성전자는 8개의 GPU 가속기로 시스템을 구성하고 대용량 AI 언어 모델을 학습시켜 보기도 했다. 그 결과 HBM-PIM을 탑재한 GPU 가속기가 단순 HBM만을 탑재한 GPU 가속기보다 1년 동안 사용하는 에너지가 약 2100GWh(기가와트시) 가량 절감되는 것으로 나타났다.

2100GWh(기가와트시)의 에너지 사용을 절감하면 탄소 배출량을 약 96만t 가량 줄일 수 있는 것으로 알려져 있다. 이는 약 1억 그루의 소나무가 1년 동안 흡수하는 탄소보다 많은 양이다.

삼성전자 관계자는 “현재 데이터센터들이 초거대 AI와 관련해 직면하고 있는 메모리 용량과 대역폭 한계로 인한 병목현상을 효율적으로 개선하고자 한다”며 “삼성전자의 PIM 기술을 바탕으로 전력량 절감에도 기여할 수 있을 것으로 보인다”고 밝혔다.


raw@heraldcorp.com