메모리-GPU 병목현상 줄이는 새 칩 ‘마하-1’ 첫 언급

HBM 아닌 LP 메모리로 고성능·저전력 구현

SK하이닉스 주도 AI 메모리 시장 주도권 뺏겠단 포부

“다시는 HBM 시장에서 뒤쳐지지 않도록 만반의 준비”

“HBM 중심 AI 판 뒤집겠다” 삼성, ‘마하-1’ 승부수…경계현 “2~3년 내 세계 1위 탈환” [비즈360]
경계현 삼성전자 DS부문장 사장 [경계현 사장 SNS]

[헤럴드경제=김민지 기자] “삼성전자 DS(디바이스솔루션·반도체)부문은 AI 아키텍처의 근본적인 혁신을 추진하겠습니다. 메모리 처리량을 8분의 1로 줄이고 8배의 파워 효율을 갖게 하는 것을 목표로 현재 개발 중인 ‘마하-1 AI’ 인퍼런스 칩은 그 혁신의 시작이 될 것입니다.”(경계현 DS부문장 사장)

삼성전자가 AI 반도체 시장의 판도를 바꿀 새로운 칩 ‘마하-1’을 개발 중이라고 공개했다. GPU와 HBM(고대역폭메모리) 사이의 병목현상을 줄여주는 SoC(시스템온칩) 형태의 AI 가속기로, 연말 시제품 양산이 가능할 전망이다. 현재 HBM에 치우쳐 있는 AI 반도체용 메모리 시장의 판도를 바꿔, SK하이닉스의 주도권을 빼앗아 오겠다는 포부로 풀이된다.

경계현 삼성전자 DS부문장 사장은 20일 경기도 수원시 수원컨벤션센터에서 열린 제 55기 정기 주총에서 DS부문 사업 전략을 발표하며 “현존하는 AI 시스템은 메모리 병목(현상)으로 인해 성능 저하와 파워 문제를 안고 있다”며 “DS는 이 문제를 개선하기 위해 AGI 컴퓨팅 랩을 신설하고 AI 아키텍처의 근본적인 혁신을 추진하겠다”고 밝혔다.

경 사장은 그 핵심으로 새로운 AI 가속기인 ‘마하-1’을 개발 중이라고 처음으로 언급했다.

경 사장은 마하-1에 대해 “트랜스포머 모델에 적합하게 규정돼있는 제품으로, 여러 알고리즘을 써서 메모리와 GPU 사이에 발생하는 병목현상을 약 8분의 1 정도로 줄인다”며 “HBM 보다 LP(저전력) 메모리를 써도 LLM(거대언어모델) 추론이 가능하도록 준비를 하고 있다”고 강조했다.

“HBM 중심 AI 판 뒤집겠다” 삼성, ‘마하-1’ 승부수…경계현 “2~3년 내 세계 1위 탈환” [비즈360]
삼성전자가 20일 경기도 수원시 수원컨벤션센터에서 주주, 기관투자자, 경영진이 참석한 가운데 제55기 정기 주주총회를 개최했다. 삼성전자는 주주총회에서 사업전략을 공유하고 주주와의 대화 시간을 가졌다. [삼성전자 제공]

고가에도 불구하고 공급 부족 현상이 벌어지고 있는 HBM이 아니라, 상대적으로 저가의 경량화된 LP 메모리로 고성능·저전력을 구현할 수 있도록 하겠다는 포부다.

이는 현재 SK하이닉스가 주도하고 있는 HBM 위주의 AI 반도체 메모리 시장 흐름을 바꾸겠다는 것으로도 풀이된다. 고가의 HBM을 대체할 새로운 AI 가속기로 시장 주도권을 가져오겠다는 전략이다.

경 사장은 “현재 프로그래머블칩(FPGA)을 통해서 기술 검증은 해결했고, SoC 디자인을 진행 중”이라며 “연말 중으로 칩을 만들면 내년 초 저희 칩으로 만든 AI 시스템을 볼 수 있을 것”이라고 말했다.

지난해 새롭게 시작한 어드밴스트패키지(AVP) 사업에 대한 로드맵도 공개됐다.

경 사장은 “AVP사업은 2.5D 제품에서 하반기부터 본격적인 투자 결과가 나오면 올해 1억 달러 이상의 매출을 올릴 것으로 예상된다”며 “깨진 무어의 법칙을 이어나가기 위해서는 패키징이 필수적으로 적용될 수밖에 없기 때문에 장기적으로 굉장히 유망한 산업이 될 것”이라고 강조했다.

해외 패키지 투자 계획에 대해서는 “지난해 저희가 일본에 패키지 연구소를 개설했는데 그건 올해부터 본격적으로 사업이 시작된다”며 “패키지 사업 자체가 외국으로 나갈지에 대해서는 아직 결정한 바가 없어 추후에 혹시 사업 방향이 결정되면 말씀드리도록 하겠다”고 말을 아꼈다.

‘제2의 HBM 시장’으로 불리는 CXL(컴퓨터익스프레스링크)와 PIM(프로세싱인메모리)에 대한 자신감도 드러냈다.

경 사장은 “메모리에서 앞으로 다시는 그런 일(HBM 시장에서 뒤쳐진 일)이 생기지 않도록 더 잘 준비하고 있다”며 “CXL이나 PIM은 다양한 고객들이랑 실제 협의 또는 협의 하에 실제 적용 등을 진행하고 있어 곧 가시적인 성과를 보실 수 있을 것”이라고 말했다.

“HBM 중심 AI 판 뒤집겠다” 삼성, ‘마하-1’ 승부수…경계현 “2~3년 내 세계 1위 탈환” [비즈360]
삼성전자가 엔비디아의 연례 개발자 콘퍼런스 GTC 2024에서 공개한 12단 HBM3E 실물 [연합]

경 사장은 이날 사업 전략 발표를 통해 “올해는 본격 회복을 알리는 재도약과 DS의 미래 반세기를 개막하는 성장의 한 해가 될 것”이라며 “앞으로 2~3년 안에 반드시 세계 1위의 위치를 되찾겠다”고 다짐했다.

그는 “12단 적층 HBM 제품을 가장 먼저 양산해 HBM3/HBM3E 시장의 주도권을 찾을 계획”이라며 “HBM4(6세대 제품)는 메모리 뿐만 아니라 파운드리, 시스템LSI 개발 역량을 총 결집해 원팀으로 다양한 고객의 요구를 충족시켜 나가겠다”고 밝혔다.

삼성은 오는 2030년까지 기흥 R&D 단지에 20조원을 투입하는 등 연구개발에 과감한 투자를 아끼지 않을 방침이다. 또한, 반도체연구소를 양적·질적 측면에서 2배로 키울 계획이며, 연구 인력과 R&D 웨이퍼 투입을 지속적으로 늘려 첨단 기술 개발의 결과가 양산 제품에 빠르게 적용되도록 할 계획이다.

“HBM 중심 AI 판 뒤집겠다” 삼성, ‘마하-1’ 승부수…경계현 “2~3년 내 세계 1위 탈환” [비즈360]