‘AI 인프라 서밋 2026’ 참가

기존 GPU-HBM 구조 한계

워크로드별 맞춤형 설루션 확대

“AI 시대 다양한 요구 선제 대응”

SK하이닉스는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에 참가해 ‘뉴 스펙트럼(New Spectrum)’을 주제로 차세대 AI 메모리 기술을 공개했다. [SK하이닉스 제공]
SK하이닉스는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에 참가해 ‘뉴 스펙트럼(New Spectrum)’을 주제로 차세대 AI 메모리 기술을 공개했다. [SK하이닉스 제공]

[헤럴드경제=박지영 기자] SK하이닉스가 ‘AI 인프라 서밋 2026’에서 고대역폭메모리(HBM)을 잇는 차세대 기술을 대거 발표했다. 인공지능(AI)의 발전으로 기존 ‘그래픽처리장치(GPU)-HBM’ 구조로는 요구를 충족하기 어렵다는 판단에서다.

SK하이닉스는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI Infra Summit 2026’에 참가, ‘뉴 스펙트럼(New Spectrum)’을 주제로 미래 AI 메모리 기술을 공개했다고 17일 밝혔다. 올해 행사에는 지난해의 두 배 수준인 약 6000명이 참가했으며, SK하이닉스 역시 전년보다 부스 규모를 두 배 확대했다.

SK하이닉스는 AI 추론 시장 확대에 대응해 고대역폭플래시(HBF), 프로세싱인메모리(PIM), SALT-KV 등 차세대 메모리 솔루션을 앞세워 AI 인프라 시장 공략에 나섰다. 기존 HBM 중심에서 AI 워크로드별로 최적화된 메모리·스토리지 설루션까지 사업 영역을 넓히겠다는 전략이다. AI 시장이 대규모 학습 중심에서 실시간 추론과 AI 에이전트로 빠르게 확장되면서, 메모리 업계의 경쟁도 단순한 대역폭 확대를 넘어 용량·전력 효율·데이터 처리 방식 전반으로 넓어지는 추세다.

SK하이닉스는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에TJ HBF 구조 모형을 공개했다. [SK하이닉스 제공]
SK하이닉스는 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에TJ HBF 구조 모형을 공개했다. [SK하이닉스 제공]

특히 낸드를 층층히 쌓은 HBF를 강조했다. AI의 패러다임이 학습으로 추론으로 변화하면서 높은 대역폭을 갖춘 HBM과 대용량의 데이터를 저장할 수 있는 SSD(솔리드 스테이트 드라이브) 사이 새로운 메모리 계층의 필요성이 나오고 있다.

HBF는 HBM처럼 TSV(실리콘 관통 전극) 기술을 적용해 기존 SSD의 대용량이라는 특성에 더해 높은 고대역폭까지 동시에 구현한 차세대 낸드 설루션으로, 추론 중심의 에이전틱 AI 시대를 열어갈 핵심 AI 메모리 기술로 주목받고 있다.

PIM 기술도 선보였다. 메모리에 연산 기능을 더한 ‘AiM’ 칩과 이를 여러 개 탑재한 가속기 카드 ‘AiMX’, AiMX 카드가 장착된 서버가 함께 전시됐다.

PIM은 메모리 내부에 연산 기능을 탑재해 프로세서와 메모리 사이의 데이터 이동을 줄이는 기술로, 데이터 전송 과정의 병목 현상(Memory Wall)을 완화하면서 연산 성능과 전력 효율도 높일 수 있는 차세대 설루션으로 꼽힌다.

AI 추론 과정에서 급증하는 ‘KV 캐시’ 저장 문제를 해결하기 위한 ‘SALT-KV’ 기술도 공개했다. KV 캐시를 문맥 단위로 나눠 재사용 가치와 저장 비용을 판단한 뒤 데이터를 HBM·D램·SSD에 나눠서 배치하는 기술이다.

제한된 고성능 메모리를 효율적으로 사용해 AI 시스템의 전체 비용과 성능을 개선하는 것이 목표다. SK하이닉스는 기업용 SSD(eSSD)를 탑재한 서버를 통해 SALT-KV의 실제 작동 과정도 시연했다.

임의철 SK하이닉스 설루션 AT 담당이 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에서 발표하고 있다. [SK하이닉스 제공]
임의철 SK하이닉스 설루션 AT 담당이 15~17일(현지시간) 미국 캘리포니아주 산타클라라에서 열린 ‘AI 인프라 서밋 2026’에서 발표하고 있다. [SK하이닉스 제공]

임의철 SK하이닉스 설루션 AT 담당은 ‘AI 인프라의 새로운 스펙트럼 PIM, HBF & More(Beyond One-Size-Fits-All: PIM, HBF and More for the New Spectrum of AI Serving)’라는 주제로 차세대 기술 연구개발 성과를 공유했다.

임 담당은 “AI 워크로드가 다양해지면서 기존 GPU-HBM 구조만으로는 새로운 요구사항을 충족하기 어려워지고 있다”며 “변화한 워크로드에 맞춰 하드웨어와 소프트웨어를 아우르는 새로운 설루션으로 PIM(프로세싱 인 메모리)과 HBF, SALT-KV를 준비하고 있다”고 말했다.

이어 “고대역폭과 대용량을 동시에 HBF는 긴 문맥을 처리해야 하는 AI 서비스의 효율을 높일 수 있고 프리미엄 서비스의 빠른 디코딩 워크로드에서 성능과 효율을 개선하는 PIM 기술은 기존 한계를 뛰어넘을 수 있는 훌륭한 대안”이라며 “KV 캐시의 특성과 재활용 가능성을 고려해 처리 효율을 높여주는 SALT-KV 역시 AI 시스템의 진화를 이끌 충분한 가능성을 갖고 있다”고 강조했다.

SK하이닉스는 “AI 시대의 다양한 요구에 한발 앞서 대응할 수 있도록 기술 경쟁력을 강화해 나가겠다”고 밝혔다.


go@heraldcorp.com