AI 추론의 변곡점이 왔다
젠슨 황 엔비디아 CEO가 GTC 2026 기조연설에서 "AI가 마침내 생산적인 일을 할 수 있게 됐습니다"라고 선언했습니다. 지난 2년간 AI 연산 수요가 100만 배 증가했으며, 이제 추론 중심의 시대로 패러다임이 전환되고 있다는 분석입니다. 엔비디아는 이에 대응해 차세대 AI 플랫폼 '베라 루빈'과 추론 전용 칩 '그록3 LPU'를 공개하며 화답했는데요. 이번 발표는 단순한 제품 출시를 넘어 AI 인프라의 구조적 변화를 예고하는 중요한 신호로 받아들여지고 있습니다. 특히 GPU가 대규모 연산을, LPU가 추론을 담당하는 분업화된 접근법이 주목을 받았습니다.
파트너십으로 구축하는 AI 생태계
엔비디아의 새 플랫폼은 삼성전자와 인텔 등 글로벌 주요 기업들과의 협력을 통해 구현됩니다. 삼성전자는 그록3 LPU를 파운드리 사업부에서 생산하는 것은 물론, 차세대 고대역폭메모리 HBM4E를 최초로 공개하며 기술력을 과시했습니다. HBM4E는 핀당 16Gbps 전송 속도로 AI 시스템의 병목 현상을 해결할 핵심 기술로 꼽힙니다. 인텔 역시 DGX 루빈 시스템에 고성능 제온6 프로세서를 공급하며 CPU의 중요성을 재확인시켰습니다. 이러한 협력 관계는 AI 시장이 단일 기업의 역량을 넘어 파트너십 기반의 생태계 경쟁으로 전환되고 있음을 보여줍니다.
효율성과 독자성의 기술 경쟁
AI 연산 효율화를 위한 기술적 도전도 가속화되고 있습니다. 웨카는 엔비디아 BlueField-4 STX와 연동해 증강 메모리 그리드 기술을 선보이며, 동일 GPU 환경에서 토큰 처리량을 6.5배 높이고 첫 번째 토큰 생성 시간을 4~20배 단축했다고 발표했습니다. 네이버클라우드 성낙호 기술총괄은 GTC 패널 토크에서 '소버린 AI'의 미래를 논의하며 데이터 주권과 로컬 맞춤형 AI의 필요성을 강조했습니다. AI 기술이 고도화될수록 효율성과 더불어 각국의 독자적인 생태계 구축이 핵심 과제로 부상하고 있는 겁니다. 엔비디아는 2027년까지 최소 1조 달러 매출을 전망하며 자신감을 나타내지만, 향후 시장은 다양한 기술 접근법이 공존하는 양상으로 펼쳐질 전망입니다.