#암호화폐 속보

엔비디아, AI 메모리 풀스택 공동설계 방안 제안... 추론 처리량 30배 증가

24x7 뉴스 속보

엔비디아는 AI 모델 확장으로 GPU 메모리 압박이 지속되고 HBM 공급이 부족하다고 밝혔다. 메모리 용량 단순 증가 대신 NVFP4 저정밀 포맷 압축과 멀티 GPU 분산 배포 등을 통한 풀스택 공동설계를 제안했다. SemiAnalysis AgentX 테스트에서 GB300 NVL72는 H200 대비 단위 비용당 추론 처리량 최대 10배, 베라 루빈 NVL72는 GB300 NVL72 대비 최대 30배 증가했으며 GPU당 HBM 용량은 약 3%만 증가했다.

관련 속보