2023년, 지구상에서 가장 수요가 높은 상품이 된 것은 석유도, 희토류 광물도 아닌 하나의 칩이었습니다. 개당 3만~4만 달러에 달하는 NVIDIA의 H100 GPU는 AI 산업 전체가 통과해야 하는 병목이 되었습니다. 그 희소성은 우연이 아니었습니다. 구조적이었습니다.
독점이 구축된 방법
AI 컴퓨트에서 NVIDIA의 지배력은 단일 결정에서 비롯되지 않았습니다. 세 가지 상호 연결된 우위를 통해 10년에 걸쳐 구축되었습니다: CUDA 락인, 제조 파트너십, 딥러닝 전환에 대한 선점자 타이밍.
NVIDIA의 독점 병렬 컴퓨팅 플랫폼인 CUDA는 AI가 상업적으로 관련성을 갖기 훨씬 전인 2006년에 도입되었습니다. 2012년 AlexNet과 함께 딥러닝이 폭발적으로 성장했을 때, 전체 연구 커뮤니티는 이미 CUDA를 중심으로 도구, 프레임워크, 제도적 지식을 구축해 놓았습니다. 전환 비용이 6년에 걸쳐 조용히 복리로 쌓여 있었습니다.
CUDA 해자
PyTorch, TensorFlow, 그리고 모든 주요 ML 프레임워크는 CUDA 네이티브입니다. 글로벌 ML 엔지니어 인재 풀은 CUDA를 기반으로 훈련받았습니다. 박사 학생들은 NVIDIA 하드웨어를 전제로 논문을 작성했습니다. 2020년까지 AMD의 ROCm과 Intel의 oneAPI는 기술적으로 실행 가능한 대안을 제공했지만, 생태계 격차는 대부분의 실무자가 건너기를 정당화할 수 없을 만큼 커져 있었습니다.
레버리지로서의 희소성
2023~2024년 H100 공급 부족은 중요한 사실을 보여줬습니다: NVIDIA의 칩이 가용하더라도 그 할당 결정 자체가 권력적 함의를 가진다는 것입니다. 어떤 클라우드 공급자가 우선순위를 받는가? 어떤 프론티어 랩이 초기 접근권을 얻는가? 어떤 국가가 수출 통제로 제한되는가?
단일 민간 기업이 내리는 이 할당 결정들이 누가 프론티어 모델을 훈련할 수 있는지, 어떤 타임라인에서 훈련할 수 있는지를 결정했습니다. 이것은 시장 결과가 아닙니다. 권력 구조입니다.
내구성 문제
NVIDIA의 위치에 대한 명백한 도전은 커스텀 실리콘입니다. AWS Trainium, Google TPU, Microsoft Maia, Meta MTIA — 모든 하이퍼스케일러가 NVIDIA 의존도를 줄이기 위한 독점 칩에 투자하고 있습니다. 하지만 이 칩들은 커스텀 소프트웨어 스택, 최적화된 커널, 추론 파이프라인 재훈련이 필요하다는 역의 CUDA 생태계 문제에 직면합니다.
전환은 이루어지고 있지만 느립니다. 프론티어 모델 훈련에서 — 가장 높은 이해관계와 가치가 걸린 사용 사례 — NVIDIA는 단기적으로 구조적으로 대체 불가능합니다. 그 창은 무한하지 않고 약 3~5년으로 추정됩니다.
전략적 시사점
투자자에게: 컴퓨트 희소성은 일시적인 공급망 문제가 아닌 지속적인 구조적 우위입니다. NVIDIA의 가격 결정력은 CUDA 락인이 지속되는 한 높은 수준을 유지할 것입니다.
운영자에게: NVIDIA에 과도하게 의존하는 것은 국가·공급망 리스크를 만듭니다. 커스텀 실리콘을 구축하는 하이퍼스케일러들은 올바르게 헤지하고 있지만, 동등 수준에 도달하는 타임라인은 대부분이 가정하는 것보다 깁니다.
정책 입안자에게: 단일 기업의 컴퓨트 할당 결정은 이름만 다를 뿐 사실상 핵심 인프라 거버넌스입니다. 이에 대한 정책 프레임워크는 현실보다 수십 년 뒤처져 있습니다.