AI의 심장은 메모리가 됐다
엔비디아의 차세대 AI 플랫폼 '베라 루빈'이 본격 출하되면서 반도체 업계의 관심이 집중되고 있습니다. 이 제품의 전체 원가는 약 3만 9,000달러에 달하는데, 이 중 메모리 반도체 비용이 무려 62%를 차지했습니다. 특히 CPU용 메모리인 소캠2(SOCAMM2)가 전체 원가의 절반 가까이를 차지하며 HBM4보다 더 큰 부담으로 작용하고 있습니다.
시장의 반응은 뜨거운 편입니다. 구글 클라우드와 MS 애저, 오라클 등 주요 기업이 이미 베라 루빈을 가동 중이며, 일론 머스크는 이를 최고의 아키텍처라고 평가했습니다. 스페이스X만 해도 올해 말 2GW 이상의 인프라를 확보하고 내년 말까지 10GW로 늘릴 계획입니다. 하지만 이면에는 공급 부족이라는 그림자가 드리워져 있습니다. 전작보다 메모리 원가 비중이 9%포인트 높아진 가운데, 차기 제품인 루빈 울트라의 사양이 낮아질 가능성까지 제기되고 있습니다.
엔비디아 독주와 다변화 시도
소버린 AI 인프라 시장에서 엔비디아의 입지는 여전히 굳건합니다. 전 세계 55개국 170개 프로젝트 중 92.4%가 엔비디아 제품을 택했는데요. CUDA 생태계가 만들어낸 높은 진입장벽이 이런 결과를 이끌어낸 것으로 풀이됩니다. 핀란드나 인도, UAE 등 일부 국가만이 대안을 모색하고 있는 실정입니다.
하지만 변화의 조짐도 엿보입니다. AMD는 AI 소프트웨어 기업 모레, 모티프와 협력해 AMD 기반 대형언어모델을 개발했고, 업스테이지도 AMD 칩을 도입하며 의존도를 낮추고 있습니다. AI 시장의 중심이 학습에서 추론으로 옮겨가는 흐름 속에서, 메모리 최적화 기술을 무기로 한 추격자들의 도전이 본격화되고 있습니다. SK하이닉스는 차세대 메모리 솔루션을 통해 추론 효율을 극대화하는 전략을 펼치고 있습니다.
공급망 불안과 산업 전망
메모리 의존도가 높아질수록 공급망 리스크도 커지는 것은 당연합니다. 베라 루빈 NVL72 한 랙에는 스마트폰 약 4,500대 분량의 LPDDR5X가 들어가는데, 이런 수요가 집중되면서 내년까지 공급 부족이 이어질 수 있다는 관측이 나옵니다. 삼성전자와 SK하이닉스, 마이크론이 HBM4와 소캠2 양산에 속도를 내고 있지만, 차기 제품의 메모리 사양이 절반으로 줄어들 수 있다는 전망은 업계의 불안감을 키우고 있습니다.
국내 통신 3사는 이런 흐름 속에서 AI 데이터센터를 새로운 성장 동력으로 삼아 투자를 확대하고 있습니다. SK텔레콤의 AIDC 매출은 전년 대비 92% 넘게 늘었고, LG유플러스도 28% 성장을 기록했습니다. KT는 향후 5년간 데이터센터를 25곳으로 늘린다는 계획을 세웠습니다. 메모리가 AI 산업의 핵심 자원으로 부상한 만큼, 반도체 공급망의 안정성이 향후 기술 경쟁의 중요한 변수가 될 것으로 보입니다.