메타데이터
- 발신자: TLDR
- 원문 URL: https://www.dwarkesh.com/p/why-compute-might-get-10x-more-expensive
- 발행일: 2026-07-30
- 카테고리: ai-llm
직역 전문
랩(lab)들은 추론(inference)에 점점 더 많은 컴퓨트 비중을 쓰고 싶어하지 않는다. 추론 수익의 목적은 투자자들이 더 많은 컴퓨트를 사서 더 큰 모델을 학습시키도록 더 많은 돈을 쓰게 설득하는 데 있다. 추론에 컴퓨트를 너무 많이 쓴다는 것은 진전(progress)이 정체되었다는 신호이며, 이는 학습(training)에 더 투자할 가치가 없다는 뜻이 된다. 랩들은 자신들의 모델이 계속 더 좋아질 것이라고 믿기 때문에, 이것이 의미하는 바는 오직 컴퓨트가 더 비싸질 것이라는 점뿐이다.
Dwarkesh Patel은 모델이 더 유능해질수록 AI 컴퓨트 비용이 상당히 오를 수 있다고 주장한다. 그는 Anthropic 같은 랩들이 컴퓨트 용량을 3배로 늘리는 데 그치면서도 수익은 10배로 성장시키고 있으며, 이를 위해서는 더 높은 마진, 더 오른 컴퓨트 가격, 또는 더 많은 추론 지출 중 무언가가 필요하다고 설명한다.
수학적 문제 랩들은 역설에 직면해 있다. 수익이 매년 10배 성장하는데 컴퓨트는 겨우 3배만 늘어난다면, 무언가는 반드시 조정되어야 한다. Patel은 세 가지 메커니즘을 지목한다. 이윤 마진 확대, 컴퓨트 가격 상승, 그리고 학습보다 추론을 우선시하는 것이다.
현재 시장의 신호 현물(spot) 컴퓨트 가격은 2025년 2월 이후 40% 이상 상승했다. 더욱 의미심장한 것은, Google이 SpaceX에 GPU 11만 개에 대해 월 약 9억 달러를 지불하고 있다고 알려진 점이다. 이는 현물 가격의 약 2배에 해당하며, 프론티어 랩들의 절박한 수요를 보여주는 신호다.
25만 달러짜리 밸류에이션 Patel의 핵심 주장은 다음과 같다. "만약 H100 한 대에 상당하는 하드웨어로 구동 가능한, 진정한 인간 수준의 소프트웨어 엔지니어가 있다면, 현재 소프트웨어 엔지니어 시장 임금 기준으로 그 H100은 연간 25만 달러 이상에 대여되어야 한다." 이는 현재 현물 가격의 15배에 해당한다.
경쟁 구도에 대한 함의 컴퓨트 가격이 오르면 선두 기업들의 지위가 더 공고해진다. 수익이 없는 스타트업들은 이미 확립된 랩들과 경쟁해 비싼 자원을 확보할 수 없기 때문이다. 알치안-알렌 효과(Alchian-Allen effect)는, 기저 컴퓨트 비용이 급등할 때 사용자들이 효율적인 모델에 프리미엄을 지불하게 될 것임을 시사한다.
공급 제약 과거의 원자재 시장과 달리, 컴퓨트 공급은 2030년까지 단단한 병목(hard bottleneck)에 직면해 있으며, 현재의 연 3배 성장률을 넘어 가속할 여지가 제한적이다.
4계층 심층 요약
1. 핵심 주장
Dwarkesh Patel은 AI 모델이 더 유능해질수록 컴퓨트 가격이 향후 몇 년간 최소 10배 이상 오를 수 있다고 주장한다. 랩들의 수익 성장 속도(약 10배)가 컴퓨트 공급 성장 속도(약 3배)를 훨씬 앞서기 때문에, 마진 확대·가격 상승·추론 우선순위 조정 중 하나 혹은 여럿이 반드시 일어나야 하며, 랩들은 자신들의 모델 개선을 계속 믿기에 결국 가격 상승 쪽으로 힘이 쏠릴 것이라고 본다.
2. 근거
- 수익 10배 성장 대 컴퓨트 3배 성장이라는 수학적 불균형이 존재하며, 이 격차는 마진, 가격, 추론 비중 중 하나로 메워져야 한다.
- 랩들은 추론에 너무 많은 컴퓨트를 쓰는 것을 "진전이 정체됐다"는 신호로 받아들이기 때문에 오히려 학습에 컴퓨트를 우선 배분하려 한다.
- 현물 컴퓨트 가격이 2025년 2월 이후 40% 이상 상승했다는 시장 데이터가 이 추세를 뒷받침한다.
- 컴퓨트 공급은 2030년까지 하드 캡(hard bottleneck)에 직면해 있어 수요 증가를 공급 확대로 흡수하기 어렵다.
- 알치안-알렌 효과에 따르면 기저 자원 가격이 오를수록 사용자는 더 효율적인(비싼) 상위 모델을 선택하는 경향이 강해진다.
3. 사례
- Google이 SpaceX에 GPU 11만 개에 대해 월 약 9억 달러를 지불한다고 알려졌으며, 이는 현물 가격의 약 2배 수준이다.
- Patel의 계산에 따르면, H100 한 대로 구동 가능한 인간 수준 소프트웨어 엔지니어가 있다면 해당 H100은 연 25만 달러 이상에 대여되어야 하는데, 이는 현재 현물가의 15배에 해당한다.
- Anthropic과 같은 랩들이 컴퓨트 용량은 3배 늘리면서 수익은 10배로 키우고 있다는 구체적 성장률 비교가 제시된다.
4. 시사점
개발자와 스타트업 관점에서 이 글은 두 가지 실질적 경고를 준다. 첫째, LLM API 원가는 앞으로 더 오를 가능성이 높으므로, 모델 의존도가 높은 제품은 비용 구조를 재점검하고 효율적인 모델·캐싱·온디바이스 추론 같은 대안을 미리 검토해야 한다. 둘째, 컴퓨트 가격 상승은 자본이 풍부한 대형 랩에 유리하게 작용해 스타트업의 경쟁 우위를 좁힐 수 있으므로, 컴퓨트 집약적이지 않은 차별화 지점(데이터, 워크플로우 통합, 도메인 특화)에 집중하는 전략이 더 중요해진다.
핵심 요약 (20줄)
- Dwarkesh Patel은 AI 컴퓨트 가격이 앞으로 몇 년간 10배 이상 오를 수 있다고 주장한다.
- 랩들은 추론에 컴퓨트를 지나치게 많이 쓰는 것을 원하지 않는데, 이는 진전이 정체됐다는 신호로 해석되기 때문이다.
- 추론 수익의 진짜 목적은 투자자들이 더 큰 모델 학습을 위해 더 많은 컴퓨트를 사도록 설득하는 데 있다.
- 랩들은 자신들의 모델이 계속 더 좋아질 것이라 믿기 때문에, 컴퓨트 가격 상승은 오히려 자연스러운 귀결로 여겨진다.
- Anthropic과 같은 랩들은 컴퓨트 용량을 3배 늘리는 동안 수익은 10배로 성장시키고 있다.
- 이 수익-컴퓨트 성장률 격차는 마진 확대, 컴퓨트 가격 상승, 추론 우선순위 조정 중 하나로 메워져야 한다.
- 현물 컴퓨트 가격은 2025년 2월 이후 40% 이상 상승했다.
- Google은 SpaceX에 GPU 11만 개에 대해 월 약 9억 달러를 지불하는 것으로 알려졌다.
- 이 금액은 현물 가격의 약 2배 수준으로, 프론티어 랩들의 절박한 컴퓨트 수요를 보여준다.
- Patel은 H100 한 대로 구동 가능한 인간 수준 소프트웨어 엔지니어를 가정한 계산을 제시한다.
- 그 계산에 따르면 해당 H100은 연 25만 달러 이상에 대여되어야 한다.
- 이는 현재 현물 가격의 약 15배에 해당하는 수치다.
- 컴퓨트 가격 상승은 자본이 풍부한 선두 랩들의 경쟁 우위를 더 공고히 한다.
- 수익이 없는 스타트업들은 비싼 컴퓨트 자원을 확보하는 경쟁에서 밀려날 가능성이 크다.
- 알치안-알렌 효과에 따르면 기저 자원 가격이 오르면 사용자는 더 효율적인 고급 모델에 프리미엄을 지불하게 된다.
- 컴퓨트 공급은 과거의 원자재 시장과 달리 2030년까지 단단한 병목에 직면해 있다.
- 현재의 연 3배 성장률을 넘어 공급을 가속할 여지는 제한적이다.
- 이 모든 요인은 컴퓨트가 단기간에 대폭 싸질 가능성이 낮다는 결론으로 수렴한다.
- 개발자 입장에서는 LLM API 비용 상승에 대비해 효율적인 모델 선택과 캐싱 전략을 미리 준비해야 한다.
- 스타트업 입장에서는 컴퓨트 집약적 경쟁보다 데이터·워크플로우·도메인 특화 같은 비-컴퓨트 차별화 지점에 집중하는 전략이 더 중요해진다.