AI 메모리 병목을 뚫는 3D 전쟁
AI 시대의 가장 큰 고민 중 하나는 데이터가 제때 도착하지 않아 연산 속도가 제한되는 메모리 병목 현상입니다. 지난 4일부터 미국 샌타클래라에서 열린 세계 최대 메모리 콘퍼런스 FMS 2026에서는 이 문제를 해결하려는 한국 반도체 업계의 역작이 쏟아졌습니다. 삼성전자와 SK하이닉스가 각자의 3D 메모리 기술을 동시에 공개하며 AI 인프라 시장의 판세를 뒤흔들 기세를 보인 것인데요.
삼성전자는 AI 가속기 위에 HBM을 직접 쌓는 차세대 3D 구조 zHBM을 업계 최초로 선보였습니다. 기존에 가속기 옆에 붙여두던 메모리를 수직으로 올리면서 데이터 이동 거리를 획기적으로 줄였고, 이를 통해 차세대 HBM5보다 최대 8배 빠른 처리 속도와 3배 높은 전력 효율을 구현했습니다. 발열 문제도 절반 이하로 낮췄는데, 이는 대규모 AI 모델 학습과 추론에서 안정성을 확보하는 데 결정적인 역할을 합니다.
zHBM과 HBF, 다른 해법 같은 목적
삼성전자가 수직 적층으로 승부한다면, SK하이닉스는 샌디스크와 손잡고 낸드 기반의 고대역폭 플래시 HBF 표준을 내놓았습니다. 양사는 HBF 컨소시엄을 구성한 지 불과 6개월 만에 첫 규격을 마련했는데, 이는 AI 추론 시대에 필요한 대용량·고속 메모리 수요에 맞춘 것입니다. HBF는 기존 저장 장치와 HBM 사이에서 중간 계층을 담당하며 메모리 장벽을 허무는 새로운 장치로 주목받고 있습니다.
삼성전자의 zHBM은 연산과 메모리의 물리적 결합을 시도한 반면, SK하이닉스의 HBF는 데이터 중요도에 따라 저장소를 나누는 계층형 메모리 구조를 제시했다는 점에서 차이가 납니다. 하지만 두 기술 모두 AI 시스템의 효율을 극대화하려는 같은 목적을 공유합니다. 여기에 삼성전자는 온디바이스 AI용 zNAND-O와 400단 이상의 V10 BV-낸드까지 함께 공개하며 D램부터 낸드까지 아우르는 포트폴리오를 과시했습니다.
맞춤형 메모리 시대, 주도권 지킬까
이번 기술 경쟁의 이면에는 범용 제품 시대가 가고, 고객 맞춤형 메모리 시대가 온다는 업계의 큰 변화가 자리 잡고 있습니다. 삼성전자는 메모리와 파운드리, 패키징을 모두 보유한 통합 반도체 기업의 강점을 내세워 원스톱 솔루션을 내걸었고, SK하이닉스는 AI 고객사와 공동 설계하는 파트너십을 강화하고 있습니다. 문제는 중국 CXMT 같은 후발 주자들이 3D IC와 칩렛 기술을 활용해 거세게 추격하고 있다는 점입니다. CXMT는 최근 D램 매출이 전년 대비 716% 급증하며 몸집을 키우고 있죠.
한국이 2031년까지 메모리 시장의 주도권을 유지할 것이란 전망이 나오는 가운데, 신제품 개발 주기가 18개월에서 12개월로 단축된 점은 기업들에게 상당한 부담으로 작용하고 있습니다. 데이터센터 반도체 전문기업 파두도 Gen6 컨트롤러를 내놓으며 AI 인프라 생태계 확장에 가세한 상황입니다. 결국 AI 메모리 시장은 단순한 기술력 싸움을 넘어, 얼마나 빠르게 고객의 요구에 맞춘 최적화를 이끌어내느냐가 승패를 가르게 될 것으로 보입니다.