AI로 정말 돈 버는 곳은 어디인가? 데이터센터의 미래 — Crusoe CEO

URL: https://www.youtube.com/watch?v=Ko7nU1Img40 날짜: 2026-10-05 채널: 20vc 원문 제목: Who REALLY makes money from AI & the future of Data Centers | Crusoe CEO

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI 인프라의 진짜 병목은 GPU 자체가 아니라 에너지·전력 연결·노동력이며, 데이터센터·GPU·토큰을 모두 다루는 수직 통합 사업자가 가격 변동과 기술 변화 속에서 가장 많은 가치를 포착할 수 있는가?==

• AI 컴퓨팅은 북버지니아 같은 중앙 허브에만 모일 필요가 없고, 값싸고 풍부한 에너지가 있는 지역으로 분산될 수 있다.
• Crusoe가 파는 핵심 상품은 데이터센터, GPU, 토큰이며, 세 층의 마진이 서로 움직이기 때문에 한 층의 가격 하락을 다른 층의 수익으로 흡수할 수 있다.
• AI 데이터센터에 대한 물·전기·지역사회 영향 우려에는 과장된 주장도 있지만, 허가·토지·계통연계·숙련 노동력·건설 외부효과는 실제로 해결해야 할 문제다.

Chase Lochmiller는 Crusoe의 사업을 에너지에서 지능(intelligence)으로 이어지는 가치사슬 전체를 운영하는 ‘AI 슈퍼메이저(supermajor)’로 설명한다. 2026년은 거대한 학습 클러스터를 계속 키우는 시기인 동시에, 에이전트와 실제 애플리케이션이 토큰을 소비하는 추론(inference)의 시대다. 따라서 가장 중요한 경쟁력은 특정 세대의 칩을 영원히 독점하는 해자보다, 변화하는 수요에 맞춰 전력·시설·칩·메모리·소프트웨어를 빠르게 재배치하고 GPU를 놀리지 않는 능력이다.

1. 산악 등반에서 배운 창업자의 운영 원칙

예측할 수 없는 물리적 환경에서 살아남는 습관이 디지털 세계와 물리적 건설 사업을 동시에 운영하는 문화의 기반이 된다.

1.1. ‘산악인처럼 생각하라’는 Crusoe의 문화

1. 변화에 대비하는 회복탄력성

   1. 산악 등반은 날씨, 장비, 동료의 건강, 눈사태처럼 계획을 바꾸게 만드는 변수가 계속 생기는 활동이다.
   2. 정상에 오르는 단일 계획만 세우지 않고 플랜 A, B, C, D를 미리 준비하는 습관을 기업 운영에 적용한다.
   3. 디지털 플랫폼과 물리적 건설을 함께 수행하는 Crusoe에는 변화가 예외가 아니라 기본 조건이므로, 이 문화가 조직의 회복탄력성을 만든다.

2. 긴 원정을 견디는 인내력

   1. 원정은 길고 고되며, 고통이 가장 큰 순간에 깊이 파고들어 문제를 통과해야 한다.
   2. 단순히 오래 버틴다는 뜻이 아니라, 어려운 시기를 지나면서도 목표와 안전을 함께 유지하는 지구력이다.

3. 정상보다 귀환을 우선하는 안전 문화

   1. 등반에서 “정상에 도달하는 것은 선택 사항이지만 내려오는 것은 의무다”라는 원칙을 따른다.
   2. Crusoe는 건설 현장의 신체적 사고뿐 아니라 플랫폼에 대한 디지털 공격도 피해야 할 위험으로 보고, 안전을 첫째·둘째·셋째 우선순위로 둔다.
   3. 정상에 오르려는 야심이 불필요한 위험 감수로 변하지 않도록, 예방 가능한 비극을 예방하는 것이 장기적으로 더 중요하다.

1.2. 불필요한 위험과 계획 변경

1. 에베레스트에서 본 예방 가능한 비극

   1. 진행자는 에베레스트를 오른 기업가에게서 등반로에 놓인 사망자들의 사진을 봤다고 말하며, 그 장면이 얼마나 참혹했는지 언급한다.
   2. 고산 등반 공동체에서 불필요하고 부주의한 위험을 감수하는 사람을 자주 보게 되며, 많은 비극은 사전에 피할 수 있다는 판단이 나온다.
   3. 계획을 앞서 세우고 변화에 대응하는 태도가 장기간 등반을 가능하게 한다.

2. 항상 다음 단계를 정해 두던 삶에서 벗어나기

   1. Lochmiller는 고등학교를 졸업할 때 갈 대학을 알고 있었고, 대학을 떠날 때 할 일과 첫 직장을 떠난 뒤의 대학원·직업까지 미리 정해 둔 삶을 살았다.
   2. 2018년 에베레스트에 오르기 위해 떠날 때는 그 이후의 계획이 없었다. 이미 어느 정도 경제적 성공을 거뒀지만 다음 단계가 비어 있었다.
   3. 그 공백은 공허하면서도 무엇이든 할 수 있는 백지처럼 느껴졌다. 돈을 투자하며 여생을 보낼 수도 있었고, 회사를 시작할 수도 있었다.
   4. 매일 흥미를 느끼며 해결할 만한 가장 어려운 문제를 찾던 과정에서 Crusoe의 발상이 생겨났다.

3. 경제적 안전망이 큰 도박을 가능하게 한다

   1. 기본 생활비와 가족 부양이 보장된다는 확신은 위험을 감수해 모든 것이 0이 되어도 살아갈 수 있다는 심리적 여유를 준다.
   2. Maslow의 욕구 단계처럼 기본 욕구가 해결되면 더 큰 위험과 더 큰 결과를 겨냥할 수 있다.
   3. 진행자는 팟캐스트로 충분히 벌고 있기 때문에 급여를 놓고 흥정하지 않으며, 몇 사람에게서 5천~1만 달러를 덜 가져가는 것은 중요하지 않다고 말한다. 사람들에게 원하는 보상을 주는 편이 삶의 시간에 비해 가치 있다고 본다.

1.3. 물리학에서 양적 금융, 그리고 Crusoe로

1. 느린 발견 산업에서 빠른 실행 산업으로
   1. Lochmiller는 원래 이론물리학자가 되어 교수가 될 생각이었고, MIT와 Los Alamos National Laboratory에서 기초과학 연구를 했다.
   2. 우주의 미스터리를 발견하는 수도원적 삶을 받아들였지만, 당시 발견 산업은 매우 느리게 움직인다고 느꼈다.
   3. 삶의 목적을 잃었다고 느낀 뒤 “그렇다면 부자가 되는 것이 차선 아닐까”라고 생각했고, 수학 문제를 잘 푼다는 이유로 양적 금융(quantitative finance)에 헤드헌팅되어 고액 연봉을 받았다.
   4. 돈이 충분해진 뒤에는 “다음은 무엇인가?”라는 질문이 남았고, 경제적 성공이 오히려 더 큰 창업 위험을 감당하게 하는 발판이 됐다.

2. Bitcoin에서 AI로 이어진 Crusoe의 원래 설계

겉으로는 Bitcoin 채굴 회사에서 AI 회사로 피벗한 것처럼 보이지만, 내부의 장기 목표는 처음부터 AI 플랫폼이었고 Bitcoin은 초기 자원을 수익화하는 엔진이었다.

2.1. 피벗이 아니라 단계적 자원 재배치

1. AI를 향한 최초의 병목 가설

   1. Lochmiller는 AI·머신러닝 알고리즘을 다뤄 왔고, 딥러닝이 모든 산업을 바꿀 메타 과학(meta-science)이 될 것이라고 봤다.
   2. AI가 커지면 컴퓨트와 데이터가 두 가지 핵심 병목이 되고, 컴퓨트의 병목은 다시 에너지라고 판단했다.
   3. 따라서 회사의 목표는 처음부터 에너지를 컴퓨트로 전환해 AI 플랫폼을 만드는 것이었다.

2. Bitcoin을 초기 수익화 장치로 사용한 이유

   1. 회사 초반에는 모든 자원을 AI 플랫폼에 투입할 수 없었기 때문에, 낭비되는 에너지와 저비용·풍부한 에너지 자원을 Bitcoin 채굴로 수익화했다.
   2. 당시 Bitcoin은 에너지를 컴퓨트로 바꾸는 가장 좋은 수익화 엔진이었고, 동시에 AI 플랫폼에 필요한 인프라와 운영 역량을 축적하게 했다.
   3. 이는 인프라가 준비되기 전에 수요가 생기기를 기다리는 전략이 아니라, Bitcoin으로 물리적 기반을 만들면서 AI를 병행 개발하는 전략이었다.

3. 베이지안 방식의 방향 전환

   1. 미래는 결정론적으로 정해져 있지 않고 확률적으로 전개되므로, 가까운 미래일수록 확신이 높고 먼 미래일수록 불확실성이 커진다는 관점으로 투자한다.
   2. 옆에서 개발하던 AI 플랫폼의 가능성이 커질 때 한 번에 모든 것을 버리는 대신, 세상에 대한 믿음이 바뀐 만큼 자원 배분을 바꾼다.

2.2. ChatGPT가 수요의 확률을 바꾼 순간

1. Crusoe Cloud의 선행 출시

   1. 2022년 초 Crusoe Cloud를 첫 유료 고객과 함께 출시했다.
   2. 출시 전에는 MIT·Stanford 연구자들과 협력하며 AI 연구자가 인프라 플랫폼에서 실제로 무엇을 가치 있게 여기는지 확인했다.

2. 2022년 11월 30일의 전환점

   1. ChatGPT 출시가 AI가 실제로 도착했다는 사실과 폭발적인 사용 사례를 대중에게 보여 주면서 세계에 대한 Lochmiller의 전망을 크게 바꿨다.
   2. AI 컴퓨트 인프라 수요가 훨씬 커질 것이라고 판단했고, 이미 플랫폼을 출시한 Crusoe가 좋은 위치에 있다고 봤다.
   3. 이후 데이터센터 설계와 AI에 맞는 에너지 자원 확보에 더 많은 투자를 배분했다.

3. Bitcoin 채굴의 진화가 준 설계 힌트

   1. Bitcoin 채굴은 노트북을 쓰던 취미 채굴자에서 GPU, 전통적 코로케이션 데이터센터, ASIC으로 진화했다.
   2. 처음에는 99.999%(파이브 나인) 가용성이 필요하다고 생각했지만, 채굴에는 99.9%(쓰리 나인), 나중에는 90% 수준의 낮은 가용성도 충분하다는 사실을 깨달았다.
   3. 중복 설비가 거의 없는 ‘닭장(chicken coop)’ 같은 저가 시설은 Bitcoin 데이터센터 비용의 약 98%를 없애 투자 회수 기간을 크게 낮췄다.
   4. AI도 특정 워크로드에 맞춰 시설의 가용성·냉각·전력 구조를 다시 설계하면 중앙화된 고가 시설과 다른 경제성이 가능하다고 봤다.

2.3. 중앙집중형 인터넷과 분산형 AI 인프라

1. 전력 밀도가 시설을 바꾼다

   1. Nvidia와 장기간 협력하며 현재 칩의 150~200W 전력에서 다음 세대 300W, 미래 세대 600W로 전력 밀도가 올라가는 로드맵을 봤다.
   2. 칩당 전력이 높아질수록 기존 데이터센터 설계로는 충분하지 않으며, 냉각·전력 분배·랙·건물 전체가 바뀐다.

2. 북버지니아에 고정될 이유가 없다

   1. 전통적인 웹 애플리케이션은 인터넷의 중심 허브인 북버지니아에서 많이 실행되지만, AI 추론은 데이터센터까지 네트워크로 이동하는 시간보다 신경망 계산 자체에 드는 시간이 훨씬 큰 경우가 많다.
   2. 따라서 AI 시설은 북버지니아와 같은 중앙 허브가 아니라 값싸고 풍부한 에너지가 있는 새로운 지역으로 분산될 수 있다.
   3. 이 가설은 “AI를 지원하는 인프라는 중앙화되지 않고 에너지가 싼 곳에 분산된다”는 Crusoe의 에너지 우선(energy-first) 전략으로 이어진다.

3. AI 데이터센터를 실제로 짓는 경제학과 병목

AI 데이터센터의 공급 부족은 건물 면적 자체보다 GPU를 꽂고 켜서 AI 워크로드를 실행할 수 있는 장소가 부족하다는 형태로 나타난다.

3.1. Whac-a-Mole 공급망과 수직 통합

1. 병목은 계속 위치를 바꾼다

   1. 대규모 AI 데이터센터 공급망은 두더지 잡기(Whac-A-Mole) 게임과 같아서, 어느 시점에는 전력, 다른 시점에는 부품·노동·허가가 병목이 된다.
   2. 여러 층을 수직 통합하면 특정 병목이 나타났을 때 외부 공급업체 하나에 전체 일정이 묶이지 않는다.

2. Abilene 200MW 이상 프로젝트의 일정 경쟁

   1. Abilene에서 처음 두 건물을 지을 때 목표 컴퓨트 용량은 조금 넘는 200MW였고, Crusoe는 1년 안에 완공하겠다고 약속했다.
   2. 가장 가까운 경쟁 입찰은 2년 반이었고, 경쟁 데이터센터 개발자는 34곳이나 됐다. 속도가 핵심이었다.

3. 전력 분배센터를 직접 만든 사례

   1. 중전압 전력 약 34~34.5kV를 받아 저전압 변압기로 보내 랙에 공급하는 전력 분배센터(power distribution center)가 일정의 핵심 병목이었다.
   2. 시장에서 이 부품을 받는 데 걸리는 리드타임은 100주였지만, 1년 약속을 지키려면 그 시간을 기다릴 수 없었다.
   3. 내부 팀은 부품을 직접 조달해 전력 분배센터를 28주 만에 제조했다.
   4. 제조의 목적은 초고마진을 얻는 것이 아니라 공급 가능성, 납기, 일정 통제력을 확보하고 전체 비용을 처음부터 이해하는 것이었다.

4. Elon Musk의 ‘바보 지수(idiot index)’와 혁신 플랫폼

   1. 원자재 가격과 완성품 가격의 차이를 보면 공급망에서 불필요한 비용이 어디에 쌓이는지 알 수 있다.
   2. 자체 제조는 부족한 공급을 보완하고 마진을 조금씩 쌓는 동시에, 원자재에서 출발해 AI 워크로드에 맞는 부품을 다시 설계하는 혁신 플랫폼이 된다.
   3. 제조 자체는 초고마진 사업이 아니며, 공급 부족으로 최근 마진이 올라간 것이 핵심 알파는 아니다.

3.2. 1GW 컴퓨터와 2026년 추론의 시간 단위

1. Abilene 캠퍼스의 목표

   1. 한 캠퍼스 전체에서 거대한 GPU 클러스터가 하나의 응집된 워크로드를 수행하는 1GW 규모 컴퓨터를 밑바닥부터 만들려 한다.
   2. 코어, GPU, 전력 구조를 하나의 RDMA(Remote Direct Memory Access) 패브릭 위에서 실행하도록 설계해 GPU 간 통신과 작업 처리를 하나의 시스템처럼 만든다.

2. 학습보다 활용률과 추론이 중요해지는 시기

   1. 2026년의 핵심은 AI 인프라와 LLM·기초 모델의 활용률을 높이는 것이며, 에이전트가 토큰을 소비하면서 실제 유용한 작업에 모델을 쓰는 시기다.
   2. 에이전트 시대의 추론에는 1GW 컴퓨터가 항상 필요한 것이 아니라, 더 작은 클러스터로도 모델을 서비스할 수 있다.
   3. 중요한 지표는 아무것도 없는 상태에서 토큰을 제공할 수 있게 되기까지의 시간, 즉 time to token이다.

3.3. 전력·노동·정책이라는 현실의 제약

1. 가장 중요한 두 가지 병목

   1. 컴퓨트에 실제로 사용할 수 있는 전력은 핵심 제약이다.
   2. 전기기사, 용접공, 배관공, 건설 노동자 같은 숙련 기술 인력도 유한하다.
   3. 에너지가 있는 독특한 장소를 찾아도 그곳으로 노동자를 데려와 AI 공장을 완성할 수 있어야 하므로, 전력과 노동을 동시에 확보해야 한다.

2. 미국과 중국의 비용 비교

   1. 영국은 미국보다 에너지 가격이 네 배 높고 노동력도 부족하다는 지적이 나왔다.
   2. 미국의 노동력은 중국보다 비싸지만, 미국의 전력 가격이 중국보다 본질적으로 경쟁력이 없다고 보지는 않는다.
   3. 중국에 보조금이 존재할 수는 있지만, 미국도 전력 가격 측면에서는 세계적으로 경쟁할 수 있다는 판단이다.

3. 규제는 제거할 문제가 아니라 통과할 조건이다

   1. 정책과 규제가 데이터센터 건설을 막는 문제라기보다, 올바른 정책을 지키면서 속도를 조정해야 하는 조건이라는 관점이다.
   2. 아무도 신경 쓰지 않는 무법지대처럼 모든 사람이 원하는 것을 짓게 해서는 안 되며, 큰 투자는 주변 사람과 지역을 고려해 신중하게 집행해야 한다.
   3. 인프라를 공장형으로 더 많이 제조하면 거대한 현장 건설 프로젝트보다 규제·일정 마찰을 줄일 수 있다.

4. 정책의 핵심은 지역 주민이 체감하는 가치다

   1. 정치는 지역적이며, 주민은 일자리, 전기요금, 물 사용량, 대기오염, 아이들의 건강, 기업이 지역의 좋은 시민인지에 관심을 둔다.
   2. 데이터센터는 세수와 고용으로 지역에 보답해야 하며, 기술적 효율만 주장해서는 사회적 허가를 얻을 수 없다.

3.4. 물·전기·교통에 관한 사실과 실제 우려

1. 물 사용량에 관한 반론

   1. 모든 물을 데이터센터가 쓴다는 주장은 과장된 오정보이며, 최신 AI 공장 설계는 물 사용량이 거의 0에 가깝다.
   2. Abilene의 140MW급 건물 하나가 1년에 쓰는 물은 단독주택 약 10채와 비슷하다.
   3. 대부분은 직원의 화장실·손 씻기와 부지의 식물에 물을 주는 데 사용된다.
   4. GPU 냉각에 물이 들어가지만, 랙으로 들어간 차가운 물이 외부 칠러로 나가 열을 배출하는 폐쇄 루프(closed-loop) 구조라 물을 계속 소비하지 않는다.

2. 전기요금이 오히려 내려갈 수 있다는 주장

   1. 데이터센터가 들어온 지역에서는 전력 생산 기술과 발전 용량에 대한 투자가 촉진된다.
   2. 같은 송전·배전 인프라를 더 많은 메가와트가 나눠 부담하면서 단위 비용이 낮아지고, 지역 주민의 전기요금이 내려가는 경우가 있다는 데이터가 제시된다.
   3. 신규 발전 용량이 필요한 대형 프로젝트에서는 데이터센터 업계가 새 전력 생산을 함께 온라인으로 가져오는 것이 바람직하다.

3. 실제로 존재하는 지역사회 부담

   1. 대규모 공사 기간에는 교통량, 먼지, 소음이 늘어난다.
   2. 반대로 Abilene의 식당·카페·호텔·서비스업에는 역사상 가장 많은 돈이 유입되어 지역 사업자들이 호황을 누린다.
   3. 공사 뒤에는 장기적인 일자리가 남고, Taylor County와 Abilene의 세수에서 데이터센터가 차지하는 비중은 3분의 1을 넘을 것으로 전망된다.
   4. 학교에 들어가는 세수는 두 배 이상 늘어나 경찰, 소방, 도로, 학교 같은 지역 서비스가 달라질 수 있다.

3.5. 계획된 데이터센터의 절반이 사라질 수 있는 이유

1. 50%라는 현실적인 탈락률

   1. 계획 발표가 실제 온라인 가동을 보장하지 않으며, 계획된 데이터센터의 약 50%가 완공되지 않을 것이라는 전망은 합리적이다.
   2. 산악 등반처럼 계획 단계에서 많은 변수가 생기므로, 큰 숫자를 발표하는 것과 실제 전력을 공급하는 것은 다르다.

2. 가장 흔한 실패 지점

   1. 허가와 개발권(entitlement)을 받지 못하거나, 토지를 확보하지 못하거나, 토지 소유자가 팔지 않는 상황이 생긴다.
   2. 지역 전력회사와 대규모 부하 계통연계 계약을 맺지 못할 수 있다.
   3. 신규 발전을 함께 건설한다면 대기 배출 허가도 받아야 한다.
   4. 중국처럼 국가가 토지와 주민을 강제로 재배치해 첫날 승인할 수 있는 체계는 개발자에게는 속도상의 이점이지만, 그 이점을 순수한 마키아벨리적 관점에서만 볼 때의 이점이다.

4. 데이터센터·GPU·토큰이라는 세 가지 상품

Crusoe는 한 가지 자산의 가격에만 베팅하지 않고, AI 가치사슬의 서로 다른 층에서 수익을 얻는 포트폴리오를 만든다.

4.1. GPU 시간은 거래 가능한 상품이 된다

1. GPU 시간의 상품화

   1. GPU 시간당 가격은 거래되는 상품(commodity)처럼 움직이며, Compute Exchange와 Orin 같은 플랫폼은 컴퓨트를 거래 가능한 자산이나 선물 상품으로 만들려 한다.
   2. GPU를 빌려주는 사업은 고정된 소프트웨어 구독료가 아니라 공급 부족과 수요 변화에 따라 가격이 흔들리는 시장이다.

2. 계약 기간별 위험과 수익

   1. 신용도가 높은 고객에게 약 5년짜리 장기 계약으로 용량을 빌려주면 계약 기간 동안 현금흐름이 발생하고 투자금이 회수된다.
   2. 단기 계약은 더 높은 마진을 줄 수 있지만, 만료 뒤 재계약이나 다음 수익원이 없을 위험이 커진다.
   3. managed inference와 서버리스 파인튜닝은 오픈소스 최신 모델을 특정 도메인에 맞게 미세조정하고 애플리케이션 확장에 필요한 토큰을 제공하는 개발자 도구이며, 계약 기간은 짧지만 마진이 높다.
   4. 여러 기간과 마진의 계약을 섞어 전체 포트폴리오의 건강한 수익률을 만든다.

3. Take-or-pay의 의미

   1. 고객이 실제로 사용했는지와 상관없이 약속한 용량에 대해 비용을 내는 계약이다.
   2. 에너지에서 100MW를 약정하면 전부 쓰지 않아도 100MW에 대한 비용을 내는 것과 같으며, GPU 임대 계약은 대체로 take-or-pay다.
   3. 따라서 GPU 수요가 잠시 흔들려도 계약 구조상 즉시 모든 매출이 소비량과 함께 사라지는 것은 아니지만, 장기적으로 고객의 사업과 재계약 가능성은 여전히 중요하다.

4.2. ‘AI 슈퍼메이저’라는 수직 통합 모델

1. 석유·가스 가치사슬의 유비

   1. 전통적인 에너지 산업은 유정에서 생산하는 upstream, 정제소까지 운송하는 midstream, 휘발유·플라스틱 같은 완제품을 만드는 downstream으로 나뉜다.
   2. Exxon과 Chevron 같은 슈퍼메이저는 세 층을 통합해 유가가 변할 때 어느 한 구간에서 줄어든 마진을 다른 구간의 증가한 마진으로 보완한다.
   3. 유가가 내려가면 유정의 마진은 줄어도 휘발유·플라스틱의 마진은 높아질 수 있으므로, 통합 사업자는 유가를 완전히 헤지하지 않아도 내부적으로 균형을 얻는다.

2. Crusoe의 세 상품

   1. 데이터센터는 물리적 시설과 전력 연결을 판매한다.
   2. GPU는 직접 컴퓨트 용량과 GPU 시간을 판매한다.
   3. 토큰은 managed inference와 개발자 도구를 통해 고객이 실제로 소비하는 지능을 판매한다.
   4. 전기 제조, 데이터센터, 칩, 서비스 사이에서 마진이 이동할 때 모든 층을 보유하면 AI 슈퍼메이저처럼 내부적으로 헤지할 수 있다.

3. 현재 가장 높은 마진이 나는 층

   1. 현재 시점에는 공급이 심각하게 부족해 managed GPU, 즉 관리형 컴퓨트 클러스터의 마진이 매우 높다.
   2. 그러나 한 층의 높은 마진을 영구적인 해자로 가정하지 않고, 부족한 공급이 해소될 때 다른 층의 마진과 서비스로 이동할 수 있도록 포트폴리오를 구성한다.

4.3. 칩 감가상각과 오래된 GPU의 두 번째 삶

1. 6년 감가상각과 장기 자산 전략

   1. 업계 표준에 맞춰 GPU를 6년 감가상각한다.
   2. Crusoe는 인프라, 데이터센터, 에너지, 칩을 장기 보유하는 사업자가 되려 하며, 긴 수명을 가진 자산을 더 많은 방식으로 현금화할수록 주주에게 유리하다고 본다.

2. 서비스가 칩의 수명을 연장한다

   1. 관리형 AI 서비스는 고객에게 실제 칩과 컴퓨트의 복잡성을 노출하지 않고, 결과로서의 지능을 제공한다.
   2. 최첨단 실리콘과 최신 모델에는 계속 수요가 있지만, 더 느리고 저렴한 구형 칩으로 제공하는 지능에도 충분한 시장이 있다.
   3. 칩을 서비스 뒤에 추상화하면 6년 이후에도 다양한 애플리케이션으로 가치를 만들 수 있어 감가상각 주기가 길어진다.

3. Hopper 사례가 보여 준 수요 예측의 오류

   1. Crusoe가 2023년에 Hopper GPU를 대규모 구매할 때는 3년 뒤에도 가치가 있을지 모른다는 반응이 많았다.
   2. 실제로 3년 뒤 Hopper 사용료는 새 제품이던 당시의 요금보다 높았다.
   3. 초기 금융 모델은 빠른 투자 회수와 높은 부채상환커버리지(debt service coverage)를 요구했지만, 애플리케이션 개발자가 컴퓨트를 경제적 가치로 바꾸는 창의력을 과소평가했다.

4.4. 미래 수요를 예측하는 방법

1. 고객 대화에서 시작하는 예측

   1. 무작정 GPU를 최대한 사들이는 것이 아니라 고객과 대화하며 수요 전망을 쌓는다.
   2. 고객 중심 조직으로서 실제로 필요한 솔루션을 제공하는 것이 구매 결정의 기준이다.

2. 장기 선약의 문제와 모듈형 해법

   1. AI 인프라를 온라인으로 가져오는 시간이 길어지면서 고객은 더 먼 미래의 수요를 미리 약정하라는 요구를 받는다.
   2. 초기 스타트업에 2028년의 컴퓨트를 지금 약속하라고 하는 것은 너무 먼 미래이며, 그때까지 사업·기술·사람이 모두 달라질 수 있다.
   3. Crusoe는 소형 모듈형 제조 AI 데이터센터를 배치해 작은 클러스터를 더 적시에 공급하고 time to token을 줄이려 한다.
   4. 이 방식은 거대한 캠퍼스를 미리 짓고 기다리는 구조와 달리 수요 변화에 맞춰 인프라를 공급하는 산업적 전환이 될 수 있다.

5. 추론 서비스의 핵심: 가장 싼 지능과 GPU 활용률

AI의 가치는 GPU 개수보다 비용·지연시간·처리량을 조합해 토큰을 얼마나 효율적으로 제공하느냐로 측정된다.

5.1. 달러당 토큰은 단일 숫자가 아니다

1. 최저 비용 생산자의 단위

   1. ‘가장 낮은 비용으로 지능을 생산하는 회사가 이긴다’는 명제에서 dollars per token은 유용한 기준이다.
   2. 다만 모든 토큰의 가치가 같지 않으므로 단순히 토큰 개수만 비교하면 안 된다.

2. 고객이 최적화하는 세 가지 시간

   1. Throughput은 특정 모델과 사용 사례에서 초당 생성할 수 있는 토큰 수다.
   2. Time to first token(TTFT)은 요청 후 첫 토큰이 나오기까지의 지연시간이다.
   3. Time to last token은 전체 응답이 끝날 때까지 얼마나 빨리 제공되는지를 나타낸다.
   4. 비용, GPU 활용률, 메모리 설계, 모델 라우팅이 이 지표들을 함께 결정한다.

5.2. GPU를 놀리지 않는 메모리·KV 캐시 관리

1. 가장 비싼 자산을 계속 가동하기

   1. 데이터센터 전체에서 GPU가 가장 비싼 자산이므로, GPU가 유휴 상태로 있으면 돈이 그대로 타 버린다.
   2. 수직 통합은 인프라 전체의 비용을 쌓아 보며 토큰 가격에 유연성을 주고, GPU 활용률을 높여 지연시간과 처리량을 개선한다.

2. KV 캐시의 역할

   1. 대형 신경망은 입력 토큰을 행렬 곱셈으로 다시 계산해 출력 토큰을 만들지만, 같은 토큰을 이미 처리했다면 key-value cache(KV cache)에 결과를 저장해 재사용할 수 있다.
   2. KV 캐시는 칩의 HBM 용량을 넘어 커질 수 있으므로 한 GPU의 메모리만 관리해서는 충분하지 않다.

3. 여러 저장 계층을 움직이는 시스템 역량

   1. HBM을 여러 GPU에 걸쳐 관리해야 한다.
   2. 시스템 메모리인 DRAM, NVMe 같은 SSD, 클러스터의 오브젝트 스토리지까지 데이터를 효율적으로 이동해야 한다.
   3. 이 이동을 잘하면 GPU를 계속 바쁘게 유지하면서 TTFT·처리량·전체 응답 시간에서 경쟁력을 얻는다.

5.3. 관리형 추론 시장에서 경쟁과 협력

1. 일반화된 오픈소스와 전문화된 서비스의 차이

   1. SGLang과 vLLM 같은 훌륭한 오픈소스 프로젝트는 다양한 추론 작업에 일반화될 수 있다.
   2. 그러나 모든 추론 제공자가 같은 수준의 운영·라우팅·사용자 경험을 제공하는 것은 아니며, 특정 워크로드를 얼마나 잘 다루는지가 다르다.

2. Fireworks와의 관계

   1. Fireworks는 특정 추론 워크로드와 사용자 경험에서 매우 훌륭한 일을 한다.
   2. Crusoe가 여러 스택에서 경쟁하더라도, 서비스의 기능과 UX에 따라 고객이 더 좋아하는 제공자가 달라진다.
   3. 고객에게 필요한 기능을 제공하는 사업자와는 경쟁하면서도 다른 층에서는 협력할 수 있다.

3. 석유 파이프라인처럼 경쟁하고 협력하기

   1. Exxon은 유정 운영에서 다른 생산자와 경쟁하지만, 중간 파이프라인에서는 같은 경쟁자에게 운송 용량을 팔 수도 있다.
   2. AI 인프라에도 이처럼 경쟁과 협력이 공존하는 지점이 많으며, 스택 전체의 모든 회사를 적으로 볼 필요는 없다.

5.4. 오픈 모델과 폐쇄형 모델의 공존

1. 지출과 토큰 사용의 비대칭

   1. 현재 돈은 폐쇄형 프런티어 모델에 더 많이 쓰인다.
   2. 반면 생성되는 토큰은 오픈소스 모델에서 더 많다.

2. 오픈소스의 데이터 주권 가치

   1. 기업은 자신의 모델과 지능을 소유하고 싶어 하므로, 데이터 주권 측면에서 오픈소스가 중요하다.
   2. 아직 활용하지 못한 사내 데이터가 모델 성능을 크게 높일 수 있으며, 기업이 직접 모델을 소유하면 그 데이터와 모델을 함께 통제할 수 있다.

3. 하나의 승자보다 조합이 될 미래

   1. Cognition처럼 자체 데이터로 모델을 후훈련(post-training)하는 접근과 Harvey처럼 법률 도메인 데이터에 특화하는 접근이 가능하다.
   2. 프런티어 연구소도 자체 모델에 더 넓은 지식 표면을 추가하고 있으며, 폐쇄형 모델에 사내 데이터를 결합하는 방식도 남는다.
   3. 대기업이 모두 자체 모델을 가져 프런티어 모델 시장을 없애는 단일 시나리오가 아니라, 오픈·폐쇄·도메인 모델이 사용 사례에 따라 섞이는 시장이 될 가능성이 높다.

4. 5년 뒤 관리형 추론의 핵심

   1. 고객이 자기 지능이든 도메인 특화 모델이든 쉽게 접근하도록 만드는 것이 핵심이다.
   2. 관리형 추론은 여러 GPU·데이터 저장소·모델을 운영하는 복잡성을 감추고, 쿼리를 어떤 모델로 보낼지와 데이터 저장소를 어떻게 연결할지를 서비스가 처리한다.

6. 일과 가족, 지역사회, 해자에 대한 빠른 답변

6.1. 높은 성장 속도와 가족 시간

1. 시간을 비용으로 지불하는 우선순위

   1. 세 아이와 보내는 시간은 가장 큰 기쁨이며, 바쁜 일정 속에서도 의도적으로 우선순위를 둔다.
   2. 아이의 취침 시간을 놓치지 않으려고 더 불편한 비행기와 심야 비행(red-eye)을 선택한다.
   3. 거의 매주 집에 있고, 주말에는 축구 코칭·수영 등 아이가 좋아하는 활동에 참여한다.

2. 접근 불가능한 시간을 공개적으로 지키기

   1. 샌프란시스코 베이 지역에 있을 때 오전 7시부터 8시까지는 회의나 업무 연락을 받지 않는다.
   2. 그 시간에 아이들 아침을 만들고 학교에 갈 준비를 시키며 하루를 시작하게 돕는다.
   3. 회사 구성원들이 그 시간을 알고 존중하도록 만드는 것이 핵심이다.

6.2. 데이터센터에 대한 비인기 의견과 불평등

1. 지역사회가 데이터센터를 축하해야 한다는 주장

   1. 데이터센터가 들어오는 지역은 경제·에너지·교육 투자와 세수 혜택을 받을 수 있으므로 좋은 자산으로 기념할 만하다고 본다.
   2. 이는 데이터센터가 물과 전기를 빼앗는다는 감정적 인상과 충돌하기 때문에 비인기 의견이 될 수 있다.

2. 집중된 부와 더 큰 생산성의 비교

   1. 최근 몇 번의 IPO가 45년간 IPO의 누적 가치를 합친 것처럼 보일 정도로 가치 집중은 전례 없이 크다는 지적이 나왔다.
   2. Lochmiller는 기업 시가총액과 세계에 창출되는 실제 가치를 구분한다.
   3. 풍부한 지능이 세계 경제의 생산성을 크게 높이면, 사회가 얻는 총가치는 특정 기업의 시가총액보다 몇 배 클 수 있다고 본다.
   4. 불평등에는 인간적인 ‘옆집 사람은 저것을 가졌는데 나는 왜 없나’라는 질투가 있지만, 대규모 투자가 없을 때보다 모두가 더 많은 혜택을 얻는다면 순효과는 긍정적이라는 입장이다.

6.3. AI 시대의 불확실성과 확실성

1. 기술 역량의 급격한 전진

   1. 모델 개발의 돌파가 이어지고 scaling law가 계속 입증되며, 인공지능과 AGI의 기준선은 계속 뒤로 이동한다.
   2. 고등학교 때 불가능해 보였던 튜링 테스트는 이미 지나갔지만, 통과한 순간을 사회가 크게 축하하지도 않았다.
   3. MIT 학부 시절 수십 년 동안 풀리지 않아 100만 달러 상금이 걸렸던 Millennium Prize Problems를 AI가 해결하기 시작했다.

2. 일자리 변화는 불확실하지만 AI의 역할은 확실하다

   1. 에이전트 군집이 통제되지 않은 일을 하거나, 특정 산업의 업무를 대체하는 사례가 생기고 있다.
   2. 법률가가 불과 6개월 전에는 쓰지 않던 Legora를 사용해 5개월째 문서를 직접 쓰지 않는 사례처럼 변화 속도가 빠르다.
   3. Lochmiller는 미래의 업무 형태가 어떻게 바뀔지는 불확실해도, AI가 생산성과 업무의 핵심 엔진이 되어 인간 수준 또는 그 이상인 생산 능력을 만들 것이라는 사실은 확실하다고 본다.

7. 마지막 판단: 해자는 사라지고 적응 속도가 남는다

7.1. 대부분의 해자는 환상이다

1. 12개월 사이 바뀐 생각

   1. 장기 경쟁우위를 만드는 요소에 대한 생각이 바뀌었다.
   2. VC가 좋아하는 “무엇이 장기 해자인가?”라는 질문에 대해, 대부분의 해자는 특히 기술이 가속하는 시기에 일시적이며 실제로 존재하지 않는다고 본다.

2. 빠른 이동과 효율적 적응

   1. 모델 역량과 기술이 빠르게 변하는 체스판에서는 현재의 제품·공급망·고객 관계만으로 영구적 초과수익을 보장할 수 없다.
   2. 변화하는 판에서 빠르게 움직이고 효율적으로 적응하는 능력이 장기 경쟁력에 가깝다.

7.2. 상장과 자본의 필요

1. 2028년 상장 여부

   1. 2028년 말까지 Crusoe가 상장할지는 확답하지 않는다.
   2. 데이터센터, AI 공장, 대규모 GPU 클러스터를 구축하려면 막대한 자본이 필요하다.
   3. 공개시장은 규모 있는 자본에 접근할 수 있다는 장점이 있으므로 궁극적으로 상장이 회사에 더 적합할 수 있지만, 시점이 중요하다.

2. Michael Dell에 대한 존경

   1. 이사회에 모시고 싶은 인물로 Michael Dell을 꼽는다.
   2. 인간적으로 훌륭하고, 큰 사업을 만들었으며, 사업 감각과 가족 중심의 면모를 함께 갖춘 사람이라는 이유다.
   3. Zach에 대한 농담을 익명 발언으로 착각해 실수하는 짧은 웃음이 이어진다.

7.3. 2018년의 Chase가 오늘을 본다면

1. 에너지 우선 가설의 현실화

   1. 2018년의 자신은 크고 대담한 AI 클라우드 플랫폼이 실제로 만들어질 것이라고 믿기 어려워했을 것이다.
   2. 에너지가 지능을 확장하는 병목이 되고, 에너지 우선 전략이 이 규모로 실현된 사실은 당시에는 거의 상상할 수 없던 결과다.

2. 2,000명의 시간이 만든 회사

   1. 창업 초기에는 150명이 회사를 위해 일한다는 것조차 상상하기 어려운 규모였지만, Crusoe는 약 2,000명에 가까운 조직으로 성장했다.
   2. 구성원들은 생산성이 가장 높은 시기의 경력과 시간을 Crusoe에 걸고 매일 현장에서 함께 건설하고 있다.
   3. 그들이 자신들의 시간을 회사에 투자했다는 사실을 당연하게 여기지 않는 것이 창업자의 마지막 태도다.

주요 발언 모음

“정상에 도달하는 것은 선택 사항이지만, 내려오는 것은 의무다.”

“AI를 지원하는 인프라는 중앙화되지 않고, 에너지가 싸고 풍부한 곳에 분산될 것이다.”

“우리가 궁극적으로 고객에게 팔고 돈을 버는 상품은 데이터센터, GPU, 토큰이라는 세 가지다.”

“GPU는 데이터센터 전체에서 가장 가치 있는 물건이다. GPU가 놀고 있으면 돈이 타고 있는 것이다.”

“대부분의 해자는 환상이다. 대부분의 해자는 존재하지 않는다.”

“미래의 일이 어떻게 바뀔지는 불확실하지만, AI가 업무와 생산성의 핵심 엔진이 될 것이라는 점은 확실하다.”

핵심 데이터 & 수치

• 3.9B 달러 Series F: Crusoe가 30.9B 달러 기업가치로 조달한 자금이다.
• 2018년: Lochmiller가 에베레스트 등반을 떠나며 다음 계획이 없는 백지 상태를 경험한 시점이다.
• 2022년 초: 첫 유료 고객과 Crusoe Cloud를 출시한 시점이다.
• 2022년 11월 30일: ChatGPT 출시로 AI 컴퓨트 수요 전망이 크게 바뀐 날이다.
• 200MW 초과: Abilene 첫 두 건물의 계획 컴퓨트 용량이다.
• 1년 대 2.5년: Crusoe가 약속한 건설 기간과 가장 가까운 경쟁 입찰 기간이다.
• 34곳: 당시 경쟁한 다른 데이터센터 개발자 수다.
• 100주 대 28주: 외부 전력 분배센터 조달 리드타임과 내부 제조 기간이다.
• 1GW: Abilene 캠퍼스가 지향하는 하나의 응집된 GPU 컴퓨터 규모다.
• 140MW: Abilene 첫 8개 건물 각각에 책정된 전력 규모다.
• 단독주택 10채: 140MW급 건물 한 채의 연간 물 사용량과 비슷한 기준이다.
• 3분의 1 이상: Taylor County와 Abilene 세수에서 프로젝트가 차지할 것으로 예상되는 비중이다.
• 두 배 이상: 학교에 들어가는 세수의 증가 폭이다.
• 50%: 계획된 데이터센터 중 실제 온라인 가동에 이르지 못할 수 있다고 본 비율이다.
• 5년: 신용도 높은 고객에게 제공하는 장기 GPU 용량 계약의 대표 기간이다.
• 6년: 업계 표준 GPU 감가상각 주기다.
• 2023년: Crusoe가 Hopper를 대규모 구매하기 시작한 시점이다.
• 약 2,000명: 현재 Crusoe에 가까운 조직 규모다.

결론 및 시사점

1. AI 인프라의 핵심 병목은 GPU를 주문하는 능력이 아니라, GPU를 실제로 켤 수 있는 전력·건물·냉각·노동·허가를 시간 안에 묶는 능력이다.
2. 중앙화된 고신뢰 데이터센터만을 전제로 하지 말고, 워크로드의 지연시간과 전력 가격에 따라 분산형 AI 공장이라는 설계를 검토해야 한다.
3. 데이터센터·GPU·토큰을 함께 운영하면 특정 자산의 가격이 내려가도 가치사슬의 다른 층에서 수익을 얻는 내부 헤지 효과가 생긴다.
4. GPU 투자는 6년 감가상각표만으로 판단할 수 없으며, 관리형 추론과 저가 지능 서비스가 구형 칩의 수명을 연장할 수 있다.
5. 추론 경쟁력은 dollars per token 하나가 아니라 GPU 활용률, KV 캐시 이동, HBM·DRAM·NVMe·오브젝트 스토리지 운영, TTFT와 처리량의 조합에서 나온다.
6. 오픈소스와 폐쇄형 모델은 서로를 완전히 대체하기보다, 프런티어 지능·사내 데이터·도메인 모델을 조합하는 방향으로 공존할 가능성이 높다.
7. 지역사회 설득에는 물 사용량과 전기요금에 대한 데이터뿐 아니라 교통·먼지·소음 같은 공사 부담과 일자리·세수·학교 투자 효과를 함께 제시해야 한다.
8. 영구적인 해자를 찾기보다 공급망 병목이 바뀔 때 빠르게 움직이고 수요에 맞춰 시설·칩·서비스를 재배치하는 적응력을 구축해야 한다.

핵심 요약 (20줄)

1. AI 인프라는 중앙 허브보다 값싸고 풍부한 에너지가 있는 지역으로 분산될 가능성이 높다.

2. Crusoe의 장기 목표는 처음부터 AI 플랫폼이었고 Bitcoin은 초기 낭비 에너지를 수익화한 엔진이었다.

3. 2022년 11월 30일 ChatGPT 출시는 AI 컴퓨트 수요가 폭발할 것이라는 전망을 확신으로 바꾼 전환점이었다.

4. Bitcoin 채굴이 저가의 낮은 가용성 시설로 데이터센터 비용을 약 98% 줄였듯 AI도 워크로드에 맞춘 설계가 필요하다.

5. Crusoe는 데이터센터·GPU·토큰을 모두 판매하는 AI 인프라 슈퍼메이저를 지향한다.

6. Abilene 프로젝트는 200MW가 넘는 컴퓨트 용량을 1년에 구축하기 위해 전력 분배센터를 직접 제조했다.

7. 외부 전력 분배센터의 조달 기간은 100주였지만 내부 제조로 28주까지 단축됐다.

8. 수직 통합의 핵심 이점은 초고마진보다 공급 가능성·납기·원가 이해·설계 혁신이다.

9. 2026년 AI 인프라는 거대한 학습 클러스터와 함께 에이전트 추론의 활용률을 높이는 단계로 이동하고 있다.

10. 추론 서비스에서는 아무것도 없는 상태에서 토큰을 제공하기까지의 time to token이 중요한 경쟁 지표다.

11. 전력과 숙련 기술 노동자는 AI 데이터센터 건설을 동시에 제한하는 가장 현실적인 병목이다.

12. 최신 AI 공장의 폐쇄 루프 냉각은 140MW 건물 한 채의 물 사용량을 단독주택 약 10채 수준으로 낮춘다.

13. 데이터센터는 발전 용량과 인프라 투자를 촉진해 지역 전기요금을 낮출 수도 있지만 교통·먼지·소음은 실제 부담이다.

14. 계획된 데이터센터의 약 50%가 허가·토지·계통연계·배출 허가 문제로 온라인 가동에 실패할 수 있다.

15. 장기 GPU 계약은 대체로 take-or-pay 구조여서 고객이 약정 용량을 사용하지 않아도 비용을 낸다.

16. Hopper는 2023년 구매 후 3년이 지나도 새 제품 때보다 높은 사용료가 형성돼 칩 수요의 창의성을 보여 줬다.

17. GPU의 6년 감가상각 주기는 관리형 서비스와 저가 추론 수요를 통해 더 길어질 수 있다.

18. 추론 비용은 dollars per token뿐 아니라 처리량·첫 토큰 지연·전체 응답 시간·GPU 활용률로 평가해야 한다.

19. HBM·DRAM·NVMe·오브젝트 스토리지를 가로지르는 KV 캐시 관리가 GPU를 놀리지 않는 핵심 기술이다.

20. 기술이 급변하는 시대에는 대부분의 해자보다 변화하는 체스판에 빠르게 적응하는 능력이 오래 남는다.