Google TPU가 외부로 나오면, NVIDIA의 경쟁우위는 어디에 남을까? AI 반도체 경쟁에서 달라지고 있는 것은 칩 성능만이 아닙니다. 고객이 다른 하드웨어로 옮겨가는 비용도 변하고 있습니다. Google은 오래전부터 클라우드에서 TPU를 제공해 왔습니다. 올해는 일부 고객의 자체 데이터센터로 공급 경로를 확대했고, 2분기부터 TPU 시스템 판매 매출도 인식하기 시작했습니다. 여기에 10월 20일 공개한 TorchTPU가 더해졌습니다. Google과 Meta가 공동 개발한 이 소프트웨어는 기존 PyTorch 개발 환경에서 TPU를 활용하기 쉽게 만듭니다. 하지만 여기서 구분해야 할 것이 있습니다. 기존 모델을 실행할 수 있다는 것과 더 저렴하고 안정적으로 운영할 수 있다는 것은 다릅니다. CUDA 전용 코드와 커널, 분산 학습 최적화, 모델 품질 검증, 장애 대응까지 자동으로 해결되는 것은 아닙니다. NVIDIA의 경쟁우위도 단순히 CUDA라는 이름에 있지 않습니다. 최적화 라이브러리, 추론 소프트웨어, NVLink와 네트워킹, 실제 운영 경험이 하나의 생태계로 작동한다는 점이 중요합니다. 그렇다고 TPU의 변화가 작다는 뜻은 아닙니다. 대규모 반복 작업을 수행하는 고객은 전환 비용을 장기간에 걸쳐 회수할 수 있습니다. 실제로 TPU를 선택하지 않더라도 대체 공급자를 검증해 두면 가격과 공급 조건을 협상할 여지가 생깁니다. 여기서 NVIDIA의 점유율과 매출을 구분해야 합니다. AI 연산 시장 전체가 충분히 성장하면 NVIDIA의 비중이 낮아져도 매출은 증가할 수 있습니다. 반대로 매출이 증가한다고 경쟁 압력이 없다는 뜻도 아닙니다. 기업별 수익 구조도 다릅니다. Alphabet은 자체 연산비 절감, 클라우드 서비스, TPU 시스템 판매라는 세 가지 경로를 갖습니다. NVIDIA는 GPU와 소프트웨어·네트워크의 결합 가치를 계속 입증해야 합니다. Broadcom은 맞춤형 반도체와 연결 부품에서 기회를 얻지만, 일부 인프라 거래에 연결된 금융지원과 보증 부담도 함께 살펴야 합니다. Anthropic이 2027년부터 접근할 예정인 약 3.5GW의 TPU 기반 연산용량 역시 현재 가동 실적이나 확정 매출은 아닙니다. 결국 TPU 확대가 곧 NVIDIA의 경쟁력 상실을 의미하지는 않습니다. 중요한 변화는 고객의 선택지가 넓어지고, 그 선택을 가로막던 소프트웨어 장벽 일부가 낮아졌다는 점입니다. 앞으로 확인할 것은 실제 고객의 반복 사용, 이전·운영비를 포함한 비용 절감, 그리고 그 성과가 기업의 현금이익으로 연결되는지입니다. 자료: Alphabet SEC 10-Q, Google·PyTorch(10/20), Broadcom SEC 8-K ROY_INVEST