AI 응답 속도 10배 노리는 zHBM
삼성전자가 AI 가속기 위에 HBM을 직접 얹는 수직 적층형 'zHBM'을 공개했습니다. 미국 'AI 인프라 서밋'에서 삼성전자 미주총괄법인 김인동 상무는 현재 초당 100토큰인 AI 응답 속도를 1,000토큰까지 10배 끌어올리겠다고 밝혔습니다.
기존 2.5D 방식은 HBM을 가속기 옆에 뒀지만, zHBM은 위로 쌓아 데이터 이동 거리와 지연을 줄입니다. HBM5 대비 최대 8배 성능과 3배 이상 전력 효율이 기대됩니다. 삼성전자는 낸드 기반 'z낸드-O' 로드맵도 공개하며 2028년부터 샘플 공급에 나섭니다.
HBM 대체론에 선 그은 빅테크
그동안 CXL이 HBM을 대체해 AI 서버 비용을 낮춰줄 것이란 기대가 있었습니다. 하지만 오픈AI와 인텔 기술진은 회의적인 입장을 내놨는데요. 오픈AI의 대니얼 모리스 연구원은 실제 모델 구동에서 CXL의 쓰임새를 찾기 어렵고 비활성 데이터 보관 용도에 그친다고 평가했습니다.
인텔의 비디아 티아가라잔 총괄도 대역폭의 근본 차이 때문에 CXL을 거친 데이터 속도가 HBM을 따라갈 수 없다고 진단했습니다. CXL은 대체재가 아니라 보완재라는 겁니다. HBM 시장을 좌우하는 삼성전자와 SK하이닉스의 지배력은 당분간 이어질 전망입니다.
저가 IT기기로 번진 원가 충격
문제는 HBM 쏠림이 다른 시장을 옥죄고 있다는 점입니다. 인텔의 립부 탄 CEO는 저가 스마트폰과 노트북 원가의 70~80%를 메모리가 잠식한다고 경고했습니다. 200달러 미만 기기 제조사들은 가격 인상이나 사양 축소로 버티는 상황입니다.
트렌드포스에 따르면 2026년 1분기 낸드플래시 가격은 전분기 대비 5560% 올랐고, D램도 1318% 상승했습니다. SK하이닉스는 2026년 HBM 물량이 전량 배정됐고, 업계는 공급 불균형이 2028년에야 풀릴 것으로 봅니다.
AI 호황의 그늘이 저가 IT 생태계에 드리운 셈입니다. 중소 부품사들은 램 용량을 6GB에서 4GB로 낮추는 사양 조정까지 합니다.