추론 시장, 새로운 AI 전쟁터
AI가 세상을 바꾸고 있지만, 그 뒷면에는 두 가지 핵심 단계가 있다. 바로 학습(Training)과 추론(Inference)이다. 학습은 방대한 데이터로 모델을 훈련시키는 과정이고, 추론은 훈련된 모델을 실제 서비스에 적용해 결과를 내는 단계다. 엔비디아는 학습용 GPU 시장을 사실상 독점하며 AI 시대의 주역이 됐다. 그러나 추론 시장은 아직 열려있다. AMD, 인텔, 구글, AWS, 그리고 수많은 스타트업이 경쟁을 펼치고 있다. 그중에서도 그록(Groq)은 추론에 특화된 LPU(Language Processing Unit)로 빠른 속도를 자랑하며 주목받아왔다. 이제 엔비디아가 그록과 손을 잡았다.
엔비디아의 선택: 그록의 기술과 인재
엔비디아는 지난 24일(현지시간) 그록과 비독점 기술 라이선스 계약을 체결하고, 그록의 핵심 인력 다수를 영입한다고 발표했다. 그록의 창업자 조너선 로스와 사장 서니 마드라를 포함한 주요 인재들이 엔비디아로 합류한다. 로스는 구글의 텐서프로세서(TPU) 설계를 주도한 인물로, AI 반도체 분야에서 명성이 높다. 그록은 2016년 설립 이후 LPU를 개발해 AI 추론 속도를 높였고, 최근 69억 달러의 기업가치 평가를 받았다.
엔비디아는 이번 계약으로 그록의 지식재산권을 활용할 수 있게 되었고, 핵심 인재 영입을 통해 추론 기술 개발을 가속화할 계획이다. 거래 규모는 공개되지 않았으나, 일부 매체는 200억 달러(약 29조 원)에 달하는 인수합의라고 보도했다. 그러나 엔비디아의 젠슨 황 CEO는 "그록을 인수하는 것이 아니라 지식재산권 라이선스와 인재 영입"이라고 정정했다. 그록은 독립 법인으로 남아 클라우드 사업을 계속하며, 새 CEO가 경영을 이어간다.
규제 피하기와 미래 전망
왜 인수가 아닌 라이선스+영입 형태를 선택했을까? AI 시장에서 엔비디아의 독점 우려가 커지면서 규제 당국의 눈길이 예민해졌기 때문이다. 인수합병(M&A)으로 진행했다면 반독점 심사를 받아야 하고, 승인 여부가 불투명했을 것이다. 라이선스 계약과 인재 영입은 규제 리스크를 줄이면서도 기술력을 흡수하는 현명한 전략으로 평가된다.
이제 엔비디아는 추론 시장에서도 강력한 포지션을 확보할 수 있을까? 그록의 LPU는 온칩 메모리를 활용해 데이터 이동을 최소화함으로써 챗봇 응답 속도를 크게 향상시킨다. 다만 대규모 모델 처리에는 한계가 있었는데, 엔비디아의 자원과 결합하면 그 단점을 보완할 수 있을 전망이다. 경쟁사들은 이번 움직임에 위기감을 느낄 것이다. AMD는 이미 추론용 칩을 강화하고 있고, AWS와 구글은 자체 AI칩 개발에 박차를 가하고 있다. AI 반도체 시장의 전쟁은 이제 추론에서 본격화될 것이다.
한편, 그록의 클라우드 사업은 계속되지만 핵심 인재가 빠져나가 장기적인 경쟁력은 약화될 수 있다는 관측도 있다. 그러나 엔비디아가 추론 기술을 얼마나 빨리 상용화할지, 그리고 규제 당국이 이번 거래를 어떻게 바라볼지도 주목할 대목이다. AI 시대의 반도체 지형이 다시 한번 흔들리고 있다.