Why smarter AI models could drive up compute prices 10x

URL: https://www.youtube.com/watch?v=oZBGAuANX6I 날짜: 2026-08-07 채널: Dwarkesh Patel

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

앤트로픽(Anthropic)의 매출은 매년 10배(10x)씩 성장하는데, AI 랩(lab)들의 컴퓨트(compute) 총량은 매년 겨우 3배(3x)씩만 늘어난다. ==이 10x와 3x 사이의 간극을 메우는 것은 결국 컴퓨트 가격의 급격한 상승이며, 이는 AI가 똑똑해질수록 컴퓨트 1단위의 경제적 가치가 기하급수적으로 커지기 때문==이다.

• 지난 3년 연속 앤트로픽 매출이 매년 10배씩 늘었고, 올해도 같은 추세가 이어질 것으로 예상됨
• 반면 랩들이 실제로 확보할 수 있는 컴퓨트 총량은 무어의 법칙, 신규 팹(fab) 건설, 웨이퍼 배분 전환이라는 세 요소의 곱으로만 늘어나며 연간 약 3배 수준에 머묾
• 10x 매출과 3x 컴퓨트 사이의 격차는 (1) 랩 마진 상승 (2) 컴퓨트 가격 상승 (3) 추론(inference)에 쓰는 컴퓨트 비중 확대 중 하나 혹은 조합으로만 메워질 수 있는데, 저자는 이미 셋 다 동시에 일어나고 있다고 진단함
• 결론적으로 저자는 셋 중 "컴퓨트 가격 상승"이 가장 지속 가능한 탈출구이며, 이는 AI가 더 똑똑해질수록 동일한 컴퓨트로 더 많은 가치를 뽑아낼 수 있기 때문이라고 주장함

이 영상은 드워케시 파텔(Dwarkesh Patel)이 자신의 블로그(dwarkesh.com)에 올린 에세이를 직접 육성으로 낭독하는 콘텐츠로, AI 컴퓨트 경제학에 대한 개인적 사고 실험을 담고 있다.

---

1. 앤트로픽 매출 10x, 컴퓨트 3x의 미스매치

앤트로픽의 매출 성장 속도와 랩들이 실제로 확보 가능한 컴퓨트 성장 속도 사이에는 구조적인 격차가 존재하며, 이 격차가 앞으로 AI 산업의 경제 구조를 결정짓는다.

1.1. 앤트로픽 매출 궤적

1. 과거 3년간 매년 10배 성장

   1. 최근 실적: 앤트로픽은 지난해 90억 달러(9 billion) 매출로 마감했고, 올해는 1,000억~1,500억 달러(100~150 billion) 사이로 마감할 것으로 저자는 예상함
   2. 추세 지속 시 함의: 이 추세가 계속되려면 내년 말까지 앤트로픽은 연매출 1조 달러(1 trillion)를 달성해야 하는데, 저자 스스로도 "이게 반드시 사실이어야 할 깊은 이유는 없다"며 매우 극단적인(wild) 결론이라고 인정함
   3. 관건은 AI 능력: 이 매출 궤적이 실현되느냐는 결국 "내년 말까지 AI가 그 정도로 유용해지는가"라는 AI 능력(capability) 문제로 귀결됨

2. 가정: 추세가 이어진다면

   1. 사고 실험의 전제: 저자는 이 매출 성장 추세가 실제로 계속된다고 가정하고, 그 세계에서 무슨 일이 벌어질지 추론해봄

1.2. 랩 컴퓨트는 연 3배 성장에 그침

1. 컴퓨트 성장률의 상한
   1. 매출 대비 격차: AI 업계의 또 다른 큰 트렌드는 랩들의 컴퓨트 총량이 연간 약 3배(3x)로만 증가한다는 점으로, 매출 10x 성장과 정면으로 충돌함
   2. 세 가지 해소 경로: 랩이 컴퓨트는 3x만 늘면서도 매출을 10x로 유지하려면 다음 셋 중 하나(또는 조합)가 필요함 — ① 랩 마진 증가 ② 컴퓨트 가격 상승 ③ 훈련(training) 대비 추론(inference)에 쓰는 컴퓨트 비중 확대

---

2. 세 가지 해소 경로는 이미 동시에 일어나고 있다

저자는 세 가지 경로 모두 현재 실제로 관측되고 있다고 주장하며, 각각의 구체적 데이터를 제시한다.

2.1. 경로 ① — 랩 마진 상승

1. 앤트로픽 추론 마진 급등
   1. 수치: 앤트로픽의 추론(inference) 마진은 작년 중반 40%에서 현재 80% 이상으로 상승한 것으로 알려져 있음(reportedly)

2.2. 경로 ② — 컴퓨트 가격 상승

1. 스팟 가격 급등
   1. 수치: 컴퓨트 스팟 가격(spot price)은 올해 초 2월 저점(trough) 대비 40% 이상 높아짐

2.3. 경로 ③ — 추론 비중 확대

1. 훈련 대비 추론 비중 변화
   1. 2024년 기준: Epoch 자료에 따르면 2024년 OpenAI는 전체 컴퓨트 중 4분의 1(a quarter)만 추론에 지출했음
   2. 현재 추정: 이 비율은 이제 50% 혹은 그 이상으로 폭증했을 가능성이 큼(likely to explode)

2.4. 랩들이 추론 비중 확대를 꺼리는 이유

1. 추론 매출의 진짜 목적

   1. 투자 유치 수단: 랩들이 보는 세계관에서 추론 매출의 존재 이유는 그 다음 더 크고 더 나은 모델을 훈련시키기 위한 투자금을 유치하는 데 있음
   2. "클라우드 제공업체" 전락 우려: 만약 컴퓨트 대부분을 추론에 쓴다면, 이는 사실상 "AI 발전이 정체됐다"는 선언이자 스스로를 클라우드 제공업체 사업으로 격하시키는 것이며, 이는 AGI를 만드는 사업보다 매력이 훨씬 떨어짐(less compelling)
   3. 랩들의 자기 인식: 랩들은 스스로를 그런 세계에 있다고 생각하지 않으며, 1년 안에 지금 모델들을 "매우 형편없어(extremely shitty) 보이게 만들" 모델을 만들 것이라고 믿고 있음
   4. 컴퓨트 대부분은 훈련에 투입: 그래서 랩들은 컴퓨트 대부분(majority)을 다음 모델을 만드는 데 필요한 훈련·실험에 투입하고 있음

2. 남는 두 가지 선택지

   1. 정리: 훈련 우선 원칙을 지키는 한, 3x 컴퓨트-10x 매출 간극을 메울 방법은 ① 랩 마진 상승 또는 ② 컴퓨트 가격 상승 두 가지로 좁혀짐

---

3. 마진 상승 vs 가격 상승 — 어느 쪽이 더 설득력 있는가

저자는 두 경로 중 어느 것이 실제로 격차를 메울지 검토한 뒤, 컴퓨트 가격 상승 쪽이 더 타당하다고 결론짓는다.

3.1. 마진이 90%를 넘어서는 시나리오는 비현실적

1. 90% 이상 마진의 전제 조건
   1. 극단적 경쟁 우위 필요: 마진이 80%에서 90% 이상으로 더 오르려면 선두 모델이 경쟁 모델들보다 압도적으로 앞서야 함 — 이는 시장경제에서 마진의 본질이 "당신이 제공하는 것이 타인이 대체할 수 있는 수준보다 훨씬 뛰어나야" 성립하기 때문
   2. 저자의 회의적 입장: 지능(intelligence)과 같은 상품의 마진이 90%를 넘고 경쟁에 의해 깎여나가지(competed away) 않는다는 것은 저자에게 매우 비현실적으로(wild) 느껴짐

3.2. 컴퓨트 가격 상승이 이미 진행 중

1. 실제 데이터 사례 — Google과 SpaceX 컴퓨트 임대
   1. 가격 수치: Google은 GB200/GB300 블렌드 GPU 11만 개(110,000 GPUs)를 월 9억 달러(900 million)에 SpaceX로부터 임대하고 있음
   2. 스팟 가격 대비 배율: 이는 해당 GPU의 시간당 스팟 가격의 2배(2x) 수준이며, 그 스팟 가격 자체도 이미 2월 대비 40% 이상 높아진 상태임
   3. 프론티어 랩 특수성: 프론티어 랩들은 단순히 스팟 인스턴스를 사올 수 없고, 효율성·유연성 확보와 자사 가중치(weights)·고객 정보 보안에 적합한 종류의 컴퓨트를 충분한 규모로 확보해야 하므로, 이 가격 상승 효과는 프론티어 랩이 필요로 하는 컴퓨트 구간에서 더욱 강하게 나타남

---

4. AI가 똑똑해질수록 컴퓨트 가치는 기하급수적으로 오른다

핵심 결론: AI 모델이 더 똑똑해질수록 동일한 컴퓨트를 더 많은 경제적 가치로 환전할 수 있게 되며, 이것이 컴퓨트 가격 상승을 정당화하는 근본 메커니즘이다.

4.1. H100 한 대의 잠재 가치 계산

1. 소프트웨어 엔지니어 대체 시나리오

   1. 가정: 진짜 인간 수준의 소프트웨어 엔지니어가 H100 한 대에서 구동될 수 있다면, 오늘날 소프트웨어 엔지니어 몸값 기준으로 그 H100은 연 25만 달러(250k) 이상에 임대될 수 있어야 함
   2. 현재 대비 배율: 이는 현재 H100 스팟 가격의 15배 이상(over 15x)이며, 여기에는 AI가 밤낮없이(nights and weekends) 일할 수 있다는 점조차 반영되지 않은 수치임

2. 반론 — 노동 공급 증가와 한계가치 하락

   1. 일반적 반박: 갑자기 1,000만 명(10 million)의 소프트웨어 엔지니어가 경제에 추가로 나타난다면, 엔지니어의 한계 가치가 떨어져 H100의 잠재 매출도 15배까지는 오르지 않을 것이라는 반론이 가능함
   2. 저자의 재반박 — 노동총량 오류(lump of labor fallacy) 유비: 이 논리를 사람에게 적용하면 고전적인 "노동총량의 오류"가 됨. 경제학자들은 일반적으로 고숙련 이민이 장기적으로 임금을 낮추지 않는다고 보는데, 이는 혁신과 전문화가 노동의 가치를 오히려 높이기 때문임
   3. 단서: 다만 저자는 이번 AI발 노동 공급 충격이 너무 크고 너무 빨라서 이 일반적 휴리스틱이 통하지 않을 가능성도 열어두며, "확신은 없다"고 밝힘. 표준 경제학을 따른다면 노동과 컴퓨트의 한계 가치는 여전히 놀랍도록(astonishingly) 높게 유지되어야 한다고 봄

4.2. 이 세계에서 벌어질 변화들

1. 변화 ① — 신규 진입 장벽 상승

   1. 메커니즘: 상위 랩들이 컴퓨트를 더 잘 화폐화(monetize)할수록, 그리고 컴퓨트 비용이 오를수록, 이 희소 자원을 놓고 그것을 더 잘 활용하는 상대와 입찰 경쟁을 해야 하는 다른 경쟁자들의 진입은 더 어려워짐

2. 변화 ② — 알치안-앨런 효과(Alchian-Allen effect)로 인한 마진 확대

   1. 가장 흥미로운 함의: 저자가 이 사고 실험에서 가장 흥미롭다고 꼽는 지점으로, 가장 효율적인 모델을 훈련시킬 수 있다면 오늘날보다 훨씬 높은 마진을 부과할 수 있다는 것
   2. 개념 설명: H100 임대료가 시간당 20달러라면, 더 약하거나 덜 효율적인 모델을 쓰는 것은 매우 어리석은 선택이 됨 — 비싼 컴퓨트에서 더 많은 토큰을 태워야 같은 결과를 얻기 때문
   3. 함의: 컴퓨트를 더 잘 경제화(economize)하는 모델을 훈련시킨 랩일수록 훨씬 큰 프리미엄을 부과할 수 있음. 같은 결과를 더 적은 컴퓨트로 낼 수 있는 모델을 가지면, 어떤 의미에서는 컴퓨트를 "더 창출한" 셈이 되고 컴퓨트의 가치는 계속 상승함

3. 변화 ③ — 현재 대중적 AI 애플리케이션의 가격 축출(priced out)

   1. 현재 AI가 저렴한 이유: AI가 지금 비교적 저렴한 이유는 최상위 인간이 할 수 있는 많은 일을 AI가 아직 못하기 때문임
   2. 미래 전환: 이 조건이 더 이상 성립하지 않는 시점이 오면, Google·Anthropic·OpenAI는 "AI 연구를 자동화하는 토큰"에 당신이나 나 같은 일반 사용자가 "AI 슬롭(slop) 잡담을 더 만드는 것"보다 훨씬 더 많은 돈을 지불하려 할 것이며, 결과적으로 현재의 저렴한 대중 AI 서비스들이 가격에서 밀려날 수 있음

---

5. 이 분석이 틀릴 위험 — 사이먼-얼릭 내기(Simon-Ehrlich bet) 유비

저자는 자신의 논리가 과거 희소성(scarcity)에 대해 틀렸던 사람들의 패턴과 닮아 있다는 자기 회의를 제시하면서도, 컴퓨트는 다른 상품과 근본적으로 다르다고 논증한다.

5.1. 사이먼-얼릭 내기 개요

1. 역사적 사례

   1. 폴 얼릭(Paul Ehrlich): 인구 증가에 대한 유명한 종말론자(doomer)로, 1990년 이전 10년간 특정 원자재 바스켓(basket of commodities) 가격이 하락이 아니라 상승할 것이라는 내기를 함
   2. 내기의 의미: 이 내기는 얼릭의 맬서스주의(Malthusian) 세계관이 틀렸음을, 그리고 그가 시장 신호와 인간의 창의성(ingenuity)이 희소 자원을 더 잘 경제화하는 방법을 찾아낸다는 점을 예측하지 못했음을 보여주는 유명한 사례로 통함

2. 저자의 재해석

   1. 다른 결과 가능성: 다른 분석들은 만약 이 내기가 다른 10년에 이루어졌다면 얼릭이 이겼을 수도 있다고 지적함
   2. 결론: 저자는 자신의 상황이 이 유비와 다르다고 추측(guessing)하며, 컴퓨트의 공급은 여러 금속(metals) 채굴보다 훨씬 비탄력적(less elastic)이고, 대체재로 수요 충격을 흡수할 능력도 훨씬 떨어진다고 봄

5.2. 왜 연 3배 컴퓨트 성장률은 늘리기 어려운가

1. 3배 성장을 구성하는 세 요소 분해
   1. 무어의 법칙(1.4x): 이 속도를 늘리기는커녕 앞으로 몇 년 더 유지하는 것조차 기적일 것이라고 봄
   2. 신규 팹 건설(1.2x): 새 ASML EUV 장비 건설에 병목이 걸려 있으며, 이 병목은 2030년까지, 어쩌면 그 이후까지도 지속될 것으로 보임 (딜런Dylan이 몇 달 전 팟캐스트에서 이를 상세히 다룬 바 있음)
   3. 웨이퍼 배분 전환(1.8x): 스마트폰·PC용이던 웨이퍼 생산 능력이 AI로 전환되면서 나온 몫으로, TSMC 최선단 N3 노드 기준 AI 비중이 60%에서 86%까지 올라가면 내년 말쯤 한계(hit a wall)에 부딪힐 것으로 예상됨. 일단 최선단 웨이퍼 생산능력을 AI가 전부 흡수하면 더 이상 늘릴 수 없음
   4. 결론: 이 세 요소 어느 것도 크게 가속할 여지가 안 보이므로, 연 3배 컴퓨트 스케일링을 앞으로 몇 년간 유지하는 것조차 방법이 안 보이며, 그 이상을 기대하기는 더더욱 어려움

---

6. (스폰서 구간) Mercury / Command 광고

1. 내용 요약
   1. 맥락: 저자는 매달 말 장부를 마감할 때 은행 플랫폼 Mercury와 그 내장 AI 기능 Command를 사용한다고 소개함
   2. 기능: Command는 새로운 계약자·연구자·영상 제작자 등과의 신규 거래 내역까지 포함해 각 거래에 카테고리를 제안하고 근거(rationale)를 제시하며, 벤더뿐 아니라 팀 내 누가 결제했는지, 메모까지 살펴 맥락을 구축함
   3. 처리 방식: 저자는 이를 검토·수정·승인만 하면 되고, 이후 QuickBooks와 자동 동기화됨
   4. 광고 고지: Mercury는 핀테크 기업이며 FDIC 보험 대상 은행이 아니고, 뱅킹 서비스는 Choice Financial Group과 Column NA(둘 다 FDIC 회원)를 통해 제공됨. AI가 생성한 응답과 제안 행동은 결과가 보장되지 않는다는 고지가 포함됨

---

7. 최종 결론 — 컴퓨트는 결국 다시 저렴해지지만, 그 전까지는 아니다

7.1. 장기 vs 현재(pre-singularity) 구분

1. 장기적으로는 컴퓨트도 저렴해짐
   1. 로봇 기반 생산 시나리오: 언젠가는 로봇들이 실리카 모래와 구리 광산을 새 컴퓨터 칩으로 직접 변환할 수 있게 될 것이고, 그때는 컴퓨터 가격이 사실상 원자재와 가공 도구 비용 수준으로 낮아질 것
   2. 현재 논의의 범위 한정: 저자가 이 영상에서 다룬 논의는 어디까지나 "AI 컴퓨트가 연 3배로만 느는데, 이는 AI가 시간이 지날수록 더 가치 있어지는 속도를 상쇄하기에 부족한" 이 특정 시기(pre-singularity 국면)에 한정된 것임

7.2. 앤트로픽 사례가 보여주는 규모의 경제(economies of scale)

1. 매출 10x vs 컴퓨트 3x가 보여주는 것

   1. 강력한 규모의 경제: 앤트로픽 매출이 컴퓨트보다 훨씬 빠르게 성장했다는 사실 자체가 모델 사업에서 규모의 경제가 얼마나 강한지 보여줌
   2. 논리적 이유: 모델을 훈련할 때는 다양한 스킬을 학습시키는 일회성 비용(one-time cost)만 지불하면 되고, 이후 그 능력은 모든 사용자에게 공유(shared)됨 — 매번 처음부터 재훈련해야 하는 인간 노동과는 근본적으로 다른 구조
   3. 저자의 우려: 저자는 지능에 대해 이렇게 강력한 규모의 경제가 존재하는 세상에 살고 싶지 않다고 밝힘 — 권력 집중(power concentration)에 대한 우려 때문이지만, 실제로 그런 세상에 살고 있는 것 같다고 인정함

2. 아웃트로

   1. 원문 안내: 이 영상은 저자가 자신의 웹사이트 dwarkesh.com에도 게시한 블로그 포스트를 그대로 육성 낭독한 것이며, 다른 포스트나 향후 신작 알림을 위해 사이트를 확인하라고 안내하며 마무리됨

---

주요 발언 모음

"Anthropic's revenue has 10x year-over-year... they ended last year with 9 billion in revenue. I think they'll probably end this year with somewhere between 100 billion to 150 billion dollars in revenue."

"For a lab to keep 10x revenue year-over-year while compute only 3x, one of the following three things needs to happen... My understanding is that basically all three of these things are already happening."

"If you're spending most of your compute on inference, then you're basically declaring that AI progress has stalled, and you're just now in the business of being a cloud provider."

"I want to emphasize a key conclusion here, that as AI models get smarter, they'll be better able to monetize the same amount of compute."

"If a true human-level software engineer could run on an H100 equivalent, then at today's prices for software engineers, that H100 should rent for over 250k a year. That's over 15x the current spot price for an H100."

"This is the Alchian-Allen effect in economics... labs will be able to charge a much larger premium if they can train a model that better economizes this scarce input."

"I wish we didn't live in a world with such strong economies of scale for intelligence because I'm worried about power concentration, but it seems we do."

핵심 데이터 & 수치

• 앤트로픽 매출: 작년 90억 달러 → 올해 예상 1,000억~1,500억 달러 (매년 10x 성장 추세)
• 랩 컴퓨트 성장률: 연 약 3x (무어의 법칙 1.4x × 신규 팹 1.2x × 웨이퍼 전환 1.8x)
• 앤트로픽 추론 마진: 작년 중반 40% → 현재 80% 이상
• 컴퓨트 스팟 가격: 올해 2월 저점 대비 40% 이상 상승
• OpenAI 추론 컴퓨트 비중: 2024년 25% → 현재 50% 이상으로 급증 추정 (출처: Epoch)
• Google-SpaceX GPU 임대: GB200/GB300 블렌드 11만 개, 월 9억 달러 = 스팟 가격의 2배
• H100 잠재 임대료: 인간 수준 SWE 구동 가능 가정 시 연 25만 달러+ (현재 스팟 가격의 15배 이상)
• TSMC N3 노드 AI 웨이퍼 비중: 60% → 86% (내년 말 한계 도달 예상)

결론 및 시사점

1. 앤트로픽 매출 10x와 랩 컴퓨트 3x 사이의 구조적 간극은 마진 상승·컴퓨트 가격 상승·추론 비중 확대 세 경로로만 메워질 수 있으며, 저자는 이미 셋 다 동시에 진행 중이라고 진단한다.
2. 랩들은 AGI를 향한 훈련 우선순위를 지키려 하므로 추론 비중 확대에는 한계가 있고, 마진이 90%를 넘어 경쟁에 잠식되지 않는 시나리오도 비현실적이라 결국 컴퓨트 가격 상승이 가장 유력한 탈출구다.
3. AI가 똑똑해질수록 동일 컴퓨트가 더 많은 경제적 가치(예: 인간급 SW 엔지니어 대체)를 창출하게 되어, 컴퓨트의 한계 가치와 가격이 함께 오르는 구조적 압력이 존재한다.
4. 알치안-앨런 효과에 따라 컴퓨트가 비싸질수록 더 효율적인 모델을 훈련한 랩이 훨씬 큰 프리미엄을 부과할 수 있어, 상위 랩과 후발주자 간 격차가 더 벌어질 수 있다.
5. 무어의 법칙·신규 팹·웨이퍼 배분 전환 세 요소 모두 가속 여지가 거의 없어, 연 3배 컴퓨트 성장률조차 앞으로 유지하기 어려울 수 있다는 공급 측 제약이 존재한다.
6. 저자 스스로도 이 논리가 사이먼-얼릭 내기처럼 희소성 예측이 빗나간 역사적 사례들과 패턴이 겹친다는 점을 인정하며, 컴퓨트가 장기적으로는(로봇 기반 생산 시대에는) 다시 저렴해질 것이라는 단서를 단다.