AI 경쟁의 최전선에서 구글이 새로운 판을 짜고 있습니다. 최근 차세대 자체 AI 칩인 TPU의 생산량을 대폭 늘리고, 이를 넘어 칩을 넘나드는 초대규모 시스템 '슈퍼팟'을 공개하며, 단순한 반도체 성능 경쟁이 아닌 통합 시스템 경쟁으로의 전환을 선언했는데요. 이는 엔비디아의 압도적 지위에 도전하는 동시에, AI 인프라 시장의 게임 룰 자체를 바꾸려는 전략적 움직임으로 읽힙니다.
생산 증량, 공급망 전쟁의 시작
구글의 첫 번째 행보는 공급망 강화입니다. 자체 개발 AI 가속기인 텐서 처리장치(TPU)의 차세대 모델 'TPU v7e' 생산을 위해 대만의 반도체 설계사 미디어텍에 주문량을 기존 대비 두 배로 늘린 것으로 알려졌습니다. 이는 단순한 주문 증가가 아닌, AI 칩 시장의 핵심 병목인 TSMC의 고급 패키징 기술(CoWoS) 물량을 확보하기 위한 다각화 전략의 일환이죠. 구글은 이미 브로드컴을 다른 제조 파트너로 삼으며, 두 회사를 통해 CoWoS 할당량을 분산 주문하고 있습니다. 이를 통해 안정적인 공급과 빠른 출시를 동시에 노리는 겁니다.
이런 적극적 투자의 배경에는 폭발하는 수요가 있습니다. 구글은 TPU를 내부 서비스에만 사용하던 과거와 달리, AI 스타트업 앤트로픽과 최대 100억 달러 규모의 TPU 인프라 공급 계약을 체결하는 등 외부 고객 공략에 본격 나섰습니다. 메타를 비롯한 다른 빅테크 기업들도 TPU 도입을 검토 중인 것으로 전해지며, 총소유비용(TCO) 측면에서 TPU가 경쟁력 있는 대안으로 부상하고 있습니다.
슈퍼팟, 칩을 잇는 '초연결'의 힘
하지만 구글이 더 주목받는 변화는 하드웨어 자체보다 그것들을 어떻게 연결하느냐에 있습니다. 최근 공개한 '슈퍼팟'은 무려 9216개의 TPU 칩을 하나의 시스템으로 통합한 초대규모 클러스터인데요. 이 시스템의 핵심은 각 칩의 단독 성능이 아니라, 칩 간 데이터 이동을 관리하는 네트워킹과 소프트웨어에 있습니다. 구글은 이 '시스템' 차원의 최적화를 통해 단일 칩 성능의 물리적 한계를 뛰어넘으려 하고 있습니다.
슈퍼팟은 'All-Reduce'라는 고성망 기술과 FP8 같은 효율적인 데이터 형식을 도입해, 칩 간 통신 속도와 연산 효율을 극대화했습니다. 결과적으로 이 시스템은 대규모 AI 모델을 훈련하는 데 걸리는 시간과 비용을 획기적으로 줄일 수 있게 해주죠. 이는 모델 규모가 기하급수적으로 커지는 현재 AI 트렌드에서, 단순히 더 좋은 칩을 만드는 것보다 훨씬 실질적인 솔루션이라 할 수 있습니다.
새로운 경쟁 구도와 미래
구글의 이중 전략은 시장에 여러 가지 영향을 미칠 것으로 보입니다. 첫째, 엔비디아 GPU와 CUDA 생태계에 대한 의존도를 낮출 수 있는 실질적인 대안을 시장에 제공합니다. 둘째, AI 인프라 경쟁의 초점을 '최고의 칩'에서 '최고의 시스템'으로 이동시켜, 구글이 오랜 기간 갈고닦은 소프트웨어 및 네트워킹 기술 우위를 발휘할 수 있는 장을 열었습니다.
물론 아직 갈 길이 멉니다. 엔비디아의 생태계는 너무나도 견고하고, AMD를 비롯한 다른 경쟁자들도 맞춤형 칩 시장에 뛰어들고 있습니다. 또한, 대규모 시스템을 운영하는 데는 엄청난 전력과 냉각 비용이 따르며, 이를 효율적으로 관리하는 것은 쉬운 일이 아닙니다. 하지만 구글이 제시한 방향성, 즉 칩과 소프트웨어, 네트워크를 아우르는 통합 솔루션의 중요성은 점점 더 많은 업체들이 공감할 가능성이 높습니다.
결국 AI의 진정한 도약을 위해서는 혁신적인 칩 설계와 이를 뒷받침하는 시스템 아키텍처가 모두 필요합니다. 구글은 이 두 마리 토끼를 모두 잡기 위해 공급망을 강화하고 슈퍼팟 같은 플래그십 시스템을 내세우며, AI 하드웨어 경쟁의 다음 장을 준비하고 있습니다.