美 AI 서밋 2023서 ‘AiMX’ 공개

GPU 탑재땐 전력소모 5분의 1로

GDDR6-AiM을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품
GDDR6-AiM을 여러 개 연결해 성능을 한층 개선한 가속기 카드 ‘AiMX’ 시제품

SK하이닉스가 생성형 인공지능(AI)의 반응 속도를 10배 이상 끌어올리는 동시에, 전력 소모는 획기적으로 줄이는 가속기 카드 시제품을 최초로 공개했다.

SK하이닉스는 지난 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI 하드웨어 & 엣지 AI 서밋(이하 AI 서밋) 2023’에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드 ‘AiMX’ 시제품을 최초 공개 및 시연했다고 18일 밝혔다.

‘GDDR6-AiM(Accelerator in Memory)’은 초당 16기가비트(Gbps) 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능이 더해진 제품이다. 일반 D램 대신 이 제품을 CPU 및 GPU와 함께 탑재하면 특정 연산 속도가 최대 16배까지 빨라진다. 가속기 카드 AiMX는 GDDR6-AiM을 여러 개 연결해 성능을 한층 개선한 제품이다.

SK하이닉스는 이번 행사에서 AiMX 시제품을 탑재한 서버 시스템에서 메타(Meta)의 생성형 AI ‘OPT 13B’ 모델을 시연했다. 그 결과 GPU만을 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1 수준으로 줄어들었다.

AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. 임의철 SK하이닉스 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션’이라는 주제로 GPU와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다. 김민지 기자


jakmeen@heraldcorp.com