AI 반도체들도 메모리 부족에 사양을 낮춘다
AI 가속기 시장에 예상 밖의 변화가 나타나고 있습니다. 엔비디아와 AMD 등 글로벌 AI 반도체 공룡들이 차세대 제품의 메모리 사양을 줄이는 방향으로 전략을 급선회하고 있는데요. 이른바 '디스펙(Despec)' 전략으로, 성능보다 수급을 우선으로 두는 패러다임이 자리 잡고 있습니다.
엔비디아는 차기 AI 가속기 '루빈 울트라'의 HBM 적층 단수를 기존 16단에서 12단으로 낮추고, 심지어 8단 HBM4E나 HBM4 탑재까지 검토하고 있습니다. AMD 역시 MI400 가속기를 HBM4 8단과 12단으로 병행 출시하며 현실적인 공급 확보에 집중하고 있습니다. 적층 단수를 줄이면 동일한 D램 다이로 생산량을 33~50% 늘릴 수 있고, 수율 개선과 공정 리드타임 단축 효과도 따라옵니다.
이러한 흐름은 AI 인프라 전반으로 확산되고 있습니다. 엔비디아는 차기 컴퓨팅 플랫폼 '베라 루빈 NVL72'의 저전력 D램 탑재량을 기존 54TB에서 27TB로 절반 줄였으며, 주요 클라우드 업체와 서버 제조사들도 D램 모듈 채용 용량을 낮추고 있습니다. 당연히 메모리 품귀가 AI 반도체의 최종 스펙을 결정하는 시대가 열린 셈입니다.
공급망은 왜 이렇게 막혔나
메모리 대란의 배경은 AI 서비스 수요의 폭발적인 증가에 있습니다. SK하이닉스는 Y2 D램과 M17 생산 시설에 집중 투자하며 2029년까지의 공급 목표 달성을 위해 수천 개의 설비 확충을 진행하고 있습니다. 삼성전자와 마이크론 역시 생산 시설 확충과 기술 개발에 역량을 집중하고 있지만, 파운드리와 패키징 캐파 확대 속도를 메모리 공급이 따라가지 못하고 있습니다.
엔비디아는 GPU 성능 향상을 위해 차세대 HBM4E의 용량을 1TB까지 확보하려 했으나, 현실적으로 192~256GB 수준으로 목표를 대폭 낮추는 방안을 검토 중입니다. 이는 이전 세대 목표인 288GB보다도 낮은 수치로, 공급망 확보를 위한 불가피한 선택으로 풀이됩니다. 결국 AI 반도체의 미래는 메모리 업체의 생산 능력에 달려 있다는 뜻입니다.
메모리 빅3의 전성시대
이런 상황은 메모리 공급사들의 가격 결정력을 유례없이 높이고 있습니다. 삼성전자와 SK하이닉스의 HBM 관련 영업이익은 각각 85조 원과 89조 원에 이를 것으로 추산됩니다. 삼성전자는 HBM4 매출 비중을 확대하며 HBM 시장 점유율을 D램 시장 수준으로 끌어올리는 전략을 펼치고 있습니다.
LS일렉트릭 등 전력 인프라 업체들도 AI 데이터센터 수요 증가에 맞춰 사업 확장을 가속화하며 새로운 기회를 모색하고 있습니다. 물론 이런 메모리 기근이 단기간에 해소될 가능성은 낮아 보입니다. 설비 투자와 기술 개발에 상당한 시간이 걸리는 데다, AI 수요는 계속 가파르게 오르고 있으니까요.
향후 AI 반도체 시장에서는 메모리 확보 능력이 곧 경쟁력이 될 전망입니다. 성능과 수급 사이에서 줄타기를 하는 AI 공룡들의 고민은 당분간 이어질 것으로 보입니다.