최고의 창업자들이 AI 인프라로 몰려드는 이유

URL: https://www.youtube.com/watch?v=Zx1Ec8LWFeM
날짜: 2026-08-29
채널: a16z

---

📌 핵심 질문 / AI 인프라에 지금 투자해야 하는 이유

==AI는 역사상 가장 중요한 기술이 될 수 있지만, 모델 자체보다 모델을 떠받치는 모든 물리적·컴퓨터과학적 계층이 병목이 되고 있다.==

• 하이퍼스케일러의 자본 지출은 올해 약 7,000억 달러에서 내년 1조 달러로 커질 전망이다.
• GPU·메모리·전력·냉각·데이터센터가 이미 부족하고, 핵심 공급은 2028년까지 예약되어 있다.
• 챗봇에서 추론(Reasoning), 에이전트(Agent), 다중 에이전트(Multi-agent)로 갈수록 한 작업이 소비하는 토큰이 자릿수 단위로 증가한다.
• 기존 컴퓨팅 구조는 AI 작업 부하를 위해 설계되지 않았으므로 칩 하나가 아니라 메모리·네트워크·전력·냉각을 포함한 전체 시스템을 다시 설계해야 한다.

AI 수요는 사용자의 수가 늘어나는 방향과 한 작업당 토큰 사용량이 늘어나는 방향으로 동시에 확장된다. 따라서 성장을 막는 자연스러운 공학적 한계보다 공급을 만들어내는 능력이 핵심 제약이 되며, 하드웨어와 시설을 처음부터 다시 설계하는 시스템 창업자에게 큰 기회가 열린다.

1. [00:00] Machine Age Fund와 전면적인 인프라 재설계

AI가 소프트웨어 제품 하나가 아니라 산업 전체의 물리적 기반을 바꾸면서, a16z는 컴퓨터과학 인프라를 전담하는 Machine Age Fund를 출범시켰다.

1.1. 역사상 가장 중요한 기술과 새로운 인프라

1. 기술 혁명의 규모

   1. Marc Andreessen의 비교: 이번 변화는 인터넷보다도 크며, 비교 대상으로 마이크로프로세서(Microprocessor), 증기기관(Steam Engine), 전기(Electricity), 심지어 바퀴까지 거론된다.
   2. 핵심 전제: 사람들이 기존 도구를 사용하는 방식이 극적으로 바뀔 때마다 완전히 새로운 인프라가 필요해진다.

2. 인프라의 범위 확대

   1. 기존의 정의: 서버·스토리지·네트워크를 떠올리지만, AI 시대에는 전력과 데이터센터를 지나 구리 광산(Copper Mine)까지 내려간다.
   2. 재설계 대상: 새로운 칩, 시스템 소프트웨어(System Software), 전력 공급 방식, 구리를 대체할 연결 기술이 모두 필요하다.
   3. 전면적 변화: 특정 부품 하나의 교체가 아니라 칩에서 시설과 원자재까지 전체 스택을 다시 만드는 변화다.

1.2. 모델 남쪽(South of the Model)으로 이동한 병목

1. 모델 능력의 급상승

   1. 최근 3년의 변화: 모델 능력이 꾸준히 향상됐고, 모델 자체는 더 이상 가장 큰 병목이 아니다.
   2. 자기 가속: AI가 AI 모델의 개선 과정에도 사용되면서 성능이 더 빠르게 좋아지고 있다.

2. 모델 아래 계층의 부족

   1. 새로운 병목: 모델 남쪽에 있는 메모리, 컴퓨트, 네트워크, 전력, 냉각, 데이터센터가 모델의 성장 속도를 따라가지 못한다.
   2. 창업자 신호: 최고의 창업자들이 복잡한 하드웨어 문제를 해결하는 거래를 예전보다 훨씬 많이 만들고 있다.
   3. 거래 비중 변화: 과거 상위 창업자 거래에서 하드웨어가 차지하는 비중은 약 3~5%였지만, 현재는 20~30%를 넘는 수준으로 늘었다.

2. [04:00] 수요가 과열이 아니라는 증거

AI 인프라 수요는 기대감만으로 만들어진 것이 아니라, 실제 사용량과 구매 주문, 공급 부족이 동시에 확인되는 현상이다.

2.1. 무한에 가까운 수요와 수익성의 물리적 문제

1. 수요의 성격

   1. 공급망 전반의 압박: AI 수요가 사실상 무한에 가깝기 때문에 메모리 제조에 쓰이는 재료를 포함해 공급망의 모든 단계가 압박을 받는다.
   2. 성장보다 효율성: 일반적인 제품은 사용자를 확보할 수 있는지가 문제지만, AI는 사용자가 이미 강하게 원한다. 핵심 질문은 그 수요를 수익성 있게 처리할 수 있는지다.

2. 기존 시스템의 부적합

   1. 물리적 한계: 효율성의 상당 부분은 하드웨어가 감당할 수 있는 물리적 한계에 의해 결정된다.
   2. 설계 목적의 불일치: 기존 시스템은 AI 작업 부하를 위해 만들어지지 않았고, AI 사업 모델 자체가 기존 시스템에 큰 부담을 준다.
   3. 투자 방향: 핵심 구성 요소를 바꿔야 효율성을 높이고 성장과 기업가치를 동시에 끌어올릴 수 있다.

2.2. 하이퍼스케일러와 시장의 수요 신호

1. 자본 지출의 폭발

   1. 총액: 대형 하이퍼스케일러의 자본 지출(CapEx)은 올해 약 7,000억 달러에서 내년 약 1조 달러로 늘어날 전망이다.
   2. 수요 가시성: 하이퍼스케일러는 프론티어 랩(Frontier Lab), AI 네이티브 기업, 대기업, 미국 시장, 국제 시장의 수요를 모두 관찰할 수 있는 위치에 있다.
   3. 해석: 수요를 가장 잘 판단하는 기업들이 전례 없는 규모로 구매 주문을 늘리는 것은 단순한 유행보다 강한 신호다.

2. 애플리케이션 성장

   1. 기업 성장률: 일상적으로 관찰되는 AI 애플리케이션 기업과 프론티어 랩이 모두 매우 빠르게 성장하고 있다.
   2. 가격 신호: 칩 가격이 과거처럼 계속 하락하지 않고 상승하는 현상이 나타나 공급이 수요를 따라가지 못한다는 점을 보여준다.
   3. 시장 범위: 현재 알려진 시장 주소(addressable market)는 전체의 5~10%에 불과하다는 판단도 제시된다.

2.3. 2028년까지 이어지는 공급 부족

1. GPU와 메모리 부족

   1. 예약 물량: 공급망 전반의 핵심 물량이 사실상 2028년까지 예약되어 있다.
   2. 재판매 가격: GPU를 구매가의 네 배에 되파는 사례가 등장했다.
   3. 경매: 수천 개의 GPU를 확보하기 위해 며칠 동안 진행되는 경매까지 발생했다.
   4. 메모리 리드타임: Hot Chips 컨퍼런스에서 주요 메모리 공급업체는 현재 수요만 충족하는 데도 3년 치 생산능력이 필요하다고 밝혔다.

2. 과거 인터넷 붐과의 차이

   1. 당시의 다크 파이버(Dark Fiber): 인터넷 초기 대규모 구축에서는 실제로 사용될지 모르는 투기적·미사용 광섬유가 많이 깔렸다.
   2. 실제 사용자 부족: 1990년대 후반에는 인터넷 사용자가 많지 않아 대역폭을 소비할 수요가 충분하지 않았다. 비디오 같은 고대역폭 서비스도 아직 실현되기 어려웠다.
   3. 현재의 선판매: AI 인프라는 만들어지는 GPU 대부분이 이미 선판매되어 있고, 전력·냉각까지 동시에 부족하다.
   4. 건설의 정치적 장벽: 공급 부족과 함께 데이터센터 건설을 어렵게 만드는 정치적·규제적 역풍까지 겹쳤다.

3. 현장 일화가 보여주는 변화

   1. 클라우드 전환을 망설이던 상장사의 사례: 한 대기업 CFO가 서버 재고를 점검하다가 서버 메모리가 너무 많이 늘어 클라우드 전체 마이그레이션 비용을 충당할 정도가 됐다는 사실을 발견했다.
   2. 동시다발적 품절: 전력, 냉각, 메모리, GPU 등 한두 가지가 아니라 거의 모든 핵심 요소가 부족하다.

3. [10:00] 공급이 수요를 따라가지 못하는 구조

AI 인프라의 부족은 예측 실패 하나로 생긴 것이 아니라, 수요가 폭발한 시점과 물리적 생산·건설 주기가 구조적으로 맞지 않아 발생했다.

3.1. 짧은 AI 역사와 긴 인프라 주기

1. 예측으로 해결할 수 없는 속도

   1. 짧은 역사: 현재의 AI 붐은 본격적으로 시작된 지 약 4년밖에 되지 않았다.
   2. 완벽한 예측의 한계: 수요를 미리 정확히 알았더라도 작동하는 순간의 속도를 따라갈 생산능력을 확보하기는 어려웠다.

2. 서로 다른 리드타임

   1. 칩 주기: 칩의 설계·생산 주기는 보통 3~4년이다.
   2. 데이터센터 주기: 부지를 파고, 건물을 짓고, 기존 시설을 허물고 다시 만들고, 전원을 연결하는 데 4~5년이 걸린다.
   3. 전력 확보: 데이터센터는 자체 발전설비를 짓거나 외부 전원을 확보해야 하며, 실제로는 두 가지를 함께 해야 하는 경우가 많다.

3. 성장률의 불일치

   1. 공급 측: 머신러닝 산업의 연간 20~30% 성장은 훌륭한 수준이지만 물리적 산업이 감당할 수 있는 전형적인 성장률에 가깝다.
   2. 수요 측: AI 소프트웨어 산업은 이미 세 자릿수 성장률을 보이고 있어 두 산업 사이에 큰 격차가 생겼다.

3.2. 새 시대의 투자 기회가 늦게 열린 이유

1. 이전 컴퓨팅 전환의 독립 기업

   1. 메인프레임에서 클라이언트-서버로: 컴퓨팅 구조가 바뀌자 새로운 기업들이 등장했다.
   2. 인터넷 시대: Cisco와 Juniper가 네트워크 전환의 수혜자로 성장했다.
   3. 초대형 데이터센터: 클라우드 사업자가 인프라를 수직 통합하던 시기에 Arista 같은 기업이 등장했다.
   4. 차이점: 과거에는 칩 회사 하나, 스위치 회사 하나처럼 변화가 제한적이었지만 지금은 전체 스택이 동시에 바뀐다.

2. 수요가 아직 끝나지 않은 이유

   1. 기업 사용량 증가: AI를 도입한 기업은 사용량을 빠르게 늘리고 있고, 아직 높은 수준으로 도입하지 않은 기업도 많다.
   2. 소비자 시장의 초기 단계: 소비자는 이제 막 AI 사용을 시작했기 때문에 추가 수요가 남아 있다.
   3. 토큰 전망: 토큰 수요가 매년 약 1,000%에 가까운 속도로 증가할 수 있다는 전망이 제시되며, 공급이 그 속도로 늘기는 어렵다.

3. 물리적 한계의 연쇄

   1. 기존 아키텍처의 한계: 하드웨어 시스템은 AI와 전혀 다른 컴퓨팅 시대를 위해 설계됐다.
   2. 용량 이상의 문제: 단순히 더 많은 용량이 아니라 새 방식으로 만들 수 있는 용량이 필요하다.
   3. 기술적 돌파구: 메모리, 네트워크, 전력 등 각 영역이 기존 물리 한계에 도달했으므로 다음 단계마다 기술적 혁신이 필요하다.

4. [14:00] 토큰, 추론, 그리고 자연스러운 조절 장치의 부재

AI의 성능 향상은 더 많은 추론을 사용해 더 많은 토큰을 소비하는 자기증폭 구조를 만든다.

4.1. 챗봇에서 다중 에이전트로 늘어나는 작업량

1. 단일 작업의 토큰 증가

   1. 진화 단계: 챗봇(Chatbot)에서 추론(Reasoning), 에이전트(Agent), 다중 에이전트(Multi-agent)로 갈수록 작업 하나에 필요한 토큰 수가 자릿수 단위로 늘어난다.
   2. 작업의 가치와 비용: AI가 수행할 수 있는 작업 단위의 가치는 커지지만, 그 작업을 완료하는 데 쓰는 토큰도 함께 증가한다.

2. 수요가 양쪽에서 확장되는 방식

   1. 작업당 확장: 단순한 채팅은 약 100개 토큰으로 끝날 수 있지만 에이전트 작업은 수천 개 토큰을 소비할 수 있다.
   2. 사용자 확장: 개발자뿐 아니라 모든 지식 노동자와 그 밖의 사용자에게 AI가 확산된다.
   3. 핵심 문장: AI를 가장 많이 사용하고 싶어 하는 존재는 AI 자체이며, AI의 답은 더 나은 AI를 더 많이 사용하는 것이다.

4.2. 추론 중심 스케일링과 자원 제약

1. 현재의 스케일링 방식

   1. 추론(Inference): 현재 성능 확장은 많은 추론과 토큰을 사용하는 방식으로 이뤄진다.
   2. 강화학습(RL): 강화학습은 반복적인 추론을 대량으로 요구한다.
   3. 사고의 연쇄(Chain of Thought): 단계별 사고 과정도 추가 추론을 필요로 한다.
   4. 장기 실행 에이전트(Long-running Agent): 오랜 시간 작업하는 에이전트는 지속적으로 추론하므로 토큰 사용량이 커진다.

2. 공학 문제에서 자원 문제로

   1. 과거의 방식: 엔지니어를 더 투입해 문제를 해결하려 했지만, 투입 인원은 선형적으로 늘어도 작업은 그렇게 확장되지 않았다.
   2. 신화적 인월(Mythical Man-Month): 9명의 여성이 한 달에 아기를 낳을 수 없다는 비유처럼, 사람을 더한다고 일정이 그대로 단축되지 않는다.
   3. 현재의 차이: 돈과 GPU를 투입하면 거대한 클러스터가 즉시 켜지고, GrokBot이나 Kimi 같은 결과물이 갑자기 현실이 될 수 있다.
   4. 자연 조절 장치의 부재: 토큰 확장에는 과거 공학 문제에 있던 자연스러운 속도 제한이 약하므로 수요가 계속될 가능성이 높다.

3. 자기촉매적 순환

   1. AI가 AI를 만듦: GPU 커널(GPU Kernel) 작성처럼 AI를 사용해 더 많은 AI를 만드는 과정도 추가 AI 사용량을 만든다.
   2. 자원 투입의 단순화: 돈·GPU·데이터가 있으면 당분간 시스템을 확장할 수 있다.
   3. 수요의 종료 조건: 해결할 문제가 남아 있는 한 수요가 끝나지 않으며, 문제를 모두 소진하는 것이 사실상 유일한 자연적 종료 조건이다.

4.3. 지식 노동과 컴퓨터 사용의 새 물결

1. 대규모 사용 기반

   1. ChatGPT: 애플리케이션이 주간 10억 건의 활성 사용(weekly active)을 기록한다는 수치가 제시됐다.
   2. 개발자: 약 3,000만 명의 개발자가 컴퓨팅 수요의 큰 부분을 차지한다.
   3. 지식 노동자: 전 세계 지식 노동자는 10억 명을 넘으며, 업무 흐름·자동화·백오피스 에이전트가 추가 수요를 만든다.

2. 사용 사례의 단계적 확장

   1. 일반 사용자에서 전문가로: ChatGPT 같은 캐주얼 앱이 전문 개발자를 위한 코딩 도구로 발전했다.
   2. 코딩에서 지식 업무로: 코딩 기반 도구가 다른 지식 노동자를 위한 도구로 확장된다.
   3. 컴퓨터 활용 전반: GrokBot은 코딩에서 일어난 변화가 컴퓨터를 사용하는 모든 영역으로 확장될 수 있음을 보여준다.
   4. 실제 컴퓨터 사용: 신용카드 정보를 여러 서비스에 업데이트하거나 구독을 해지하는 일처럼, 사람이 브라우저 안에서 하던 작업을 에이전트가 직접 수행한다.

3. 앞으로 수십 년의 문제 해결

   1. 증기기관과 전기의 비유: AI는 즉시 적용 가능한 응용 분야가 있지만, 새로운 동력을 문제에 투입하는 방식은 30~40년 동안 계속 확장될 수 있다.
   2. 명확한 보상 신호: 결과의 좋고 나쁨을 분명히 측정할 수 있는 모든 영역이 컴퓨터 투입 대상이 된다.
   3. 확장될 영역: 언어(Language)와 코드(Code)는 시작일 뿐이며, 과학(Science), 재료(Materials), 생물학(Biology), 창의성(Creativity)이 다음 영역이 된다.
   4. 병목의 이동: 전통적인 소프트웨어 엔지니어링 병목이 줄어들면 다른 더 복잡한 문제로 병목이 이동하지만, 컴퓨터를 문제 해결에 투입하는 긴 여정은 이제 막 시작됐다.

5. [19:00] 에이전트는 새로운 유형의 직원이다

에이전트의 본질은 검색창이나 사용자의 비밀번호를 공유하는 보조 기능이 아니라, 독립된 컴퓨터와 브라우저를 가진 새로운 직원에 가깝다.

5.1. 보조 기능에서 독립된 직원으로

1. AI 제품에 대한 인식 변화

   1. 검색창 단계: 초기에는 제품에 AI를 추가하면 사용자가 검색창에 질문하고 AI가 답하는 정도로 생각했다.
   2. OpenClaw 단계: 독립형 서비스이면서 사용자의 연장선이 되어 키와 비밀번호를 공유하고 사용자가 할 일을 대신하는 모델이 등장했다.
   3. GrokBot 단계: GrokBot은 사용자의 권한을 특별히 공유하는 보조자가 아니라 자체 컴퓨터와 브라우저를 가진 직원으로 접근한다.

2. 직원형 에이전트의 능력

   1. 독립된 실행 환경: 자체 컴퓨터와 브라우저를 사용하므로 사용자의 비밀번호나 키에 특별히 접근하지 않아도 작업을 수행한다.
   2. 일반화된 지능: 가장 똑똑한 모델이 직원처럼 여러 종류의 컴퓨터 작업을 처리한다.
   3. 작업의 범위: 캘린더 관리와 회의 예약 같은 명확한 업무뿐 아니라 이메일을 읽고 우선순위를 정하는 비명시적 업무도 처리한다.
   4. 감독: 이메일 분류처럼 민감할 수 있는 작업은 실제 분류를 실행하기 전에 사람에게 확인하도록 설정할 수 있다.

5.2. 조직에 도입하는 법과 위험

1. 새로운 직원에 대한 적응

   1. 학습 곡선: 조직은 인간 직원과 일하는 방법을 수년간 익혔지만, 에이전트 직원과 협업하는 방법은 새로 배워야 한다.
   2. 생산성 편차: 에이전트는 많은 토큰과 비용을 쓰고도 생산적인 결과를 내지 못할 수 있다.
   3. 행동 리스크: 작업을 잊거나 사실을 만들어내거나, 좋은 행동과 나쁜 행동을 모두 보일 수 있으며, 보안 문제를 일으킬 수 있다.

2. 인간과 에이전트의 결합

   1. 양면성: 같은 에이전트가 매우 비생산적일 수 있는 동시에 초고생산성을 낼 수도 있다.
   2. 도입 원칙: 실제 인간 동료와 에이전트가 잘 협업하도록 통합하는 방법을 찾아야 한다.
   3. 목표: 조직을 완전히 자동화해 인간을 천천히 제거하는 것이 아니라, 에이전트가 통제 불능이 되지 않도록 하면서 인간을 초인적으로 만드는 것이 목표다.
   4. 검증된 접근법: 조직 안에서 에이전트를 사람처럼 대하고 일을 맡기는 방식이 가장 오래 지속되는 도입 방식으로 드러났다.

6. [25:00] AI에 맞춰 설계하는 인프라

AI 인프라는 부품별 최적화가 아니라 추론 엔진의 실제 계산과 데이터 이동을 분석한 뒤, 메모리·컴퓨트·전력·냉각·연결을 함께 재구성해야 한다.

6.1. 추론 엔진에서 시작하는 시스템 사고

1. 근본 단위로 분해하기

   1. 추론의 특성: 추론 엔진은 메모리를 많이 사용하면서 컴퓨트와 함께 새 토큰을 생성한다.
   2. 핵심 질문: 필요한 메모리 양, 필요한 컴퓨트, 서로 통신하는 방식, 각 요소의 전력, 전력을 식히는 방법을 함께 계산해야 한다.
   3. 집합 구성: 개별 부품을 최적화한 다음 여러 부품을 어떤 구조로 묶을지 결정해야 한다.

2. 계산과 메모리의 맞춤화

   1. 행렬 곱셈(Matrix Multiplication): 실제 연산의 본질을 행렬 곱셈 같은 기본 연산으로 분해하고 그 시나리오에 맞춰 컴퓨트를 최적화한다.
   2. 토큰 생성: 모든 부품이 토큰을 점진적으로 생성하는 흐름을 지원해야 한다.
   3. 메모리 계층(Memory Hierarchy): 메모리를 계층적으로 배치하는 최적의 방법을 찾아야 한다.

3. 연결과 에너지

   1. 연결 범위: 같은 칩 안, 칩과 칩 사이, 데이터센터와 데이터센터 사이의 연결 방식을 각각 설계해야 한다.
   2. 전송 비용: 데이터 전송 한 번에 드는 전력까지 계산해야 한다.
   3. 재구축 원칙: 문제를 기본 블록으로 계속 쪼갠 뒤, 그 블록에서 전체 시스템을 다시 쌓는 작업이 현재 창업자들이 수행하는 핵심이다.

6.2. 모델별 ASIC이 가능해지는 경제성

1. 새로운 투자 구조

   1. 학습 비용: 최첨단 모델 하나를 학습하는 데 약 30억~50억 달러가 든다고 가정한다.
   2. 추론 수익: 사업이 성립하려면 추론이 최소한 그 비용을 회수하고, 넉넉하게는 약 100억 달러의 수익을 만들어야 한다.
   3. 효율성 가치: 추론 효율을 20% 개선하면 약 20억 달러를 절감할 수 있다.
   4. ASIC 투자: 20억 달러면 ASIC(Application-Specific Integrated Circuit)을 개발할 수 있으므로 모델별 맞춤 칩의 경제성이 생긴다.

2. 전통적 소프트웨어와 다른 이유

   1. 모델의 고정성: 전통적인 소프트웨어는 상태가 많고 동적이지만, 모델 가중치(Model Weights)는 고정되어 있다.
   2. 아키텍처의 맞춤화: 세계가 모델별 ASIC으로 갈지는 확실하지 않지만, 거대한 자본이 투입된 고정 모델에 맞춰 시스템을 훨씬 더 맞춤화할 수 있다.
   3. 역사적 규모: 디지털 산물 하나에 약 50억 달러가 직접 투입되는 방식은 산업 역사상 보기 드물며, 그만큼 하드웨어 요구가 커진다.

7. [28:00] 랙 전력, 냉각, 데이터센터의 재설계

AI 시스템의 컴퓨팅 밀도와 전력 밀도가 기존 데이터센터 설계의 전제를 깨뜨리고 있다.

7.1. 전력·밀도·냉각의 변화

1. 랙 단위 변화

   1. 랙 전력: 랙당 전력 요구량이 약 5~10kW에서 100~250kW 수준으로 커지고 있다.
   2. 컴퓨트 밀도: 컴퓨팅 밀도가 약 70배 증가했다는 설명이 제시된다.
   3. 냉각 방식: 공랭식에서 액체 냉각(Liquid Cooling)으로 이동했으며, 최첨단 데이터센터에서는 이미 액체 냉각이 사실상 기본이 됐다.

2. 전력 방식의 전환

   1. AC의 한계: 랙당 전력이 이 수준에 이르면 교류(AC) 전원이 더 이상 적합하지 않다.
   2. DC 전원: 직류(DC) 전원으로 전환해야 하며, DC 전원 자체도 냉각이 필요하다.
   3. 안전 문제: 고밀도 DC 전력은 매우 위험하다.
   4. 에디슨의 일화: Thomas Edison은 동물을 감전시키며 교류의 위험성을 강조하고 직류를 홍보했지만, 강력한 전력을 다루는 상황에서는 직류도 위험하다는 아이러니가 생긴다.

3. 친환경 인프라의 조건

   1. 냉각: 정치적 환경을 고려하면 액체 냉각만으로 충분하지 않고 친환경 액체 냉각이어야 한다.
   2. 전력의 사회적 기여: 데이터센터는 전력을 소비하기만 하는 기생자가 아니라 사회의 전력 역량에 기여해야 한다.
   3. 물 사용: 데이터센터의 약 10%가 많은 물을 낭비하는 것으로 추정되며, 피스타치오나 아몬드보다 절대량이 적더라도 훨씬 효율적으로 개선할 수 있다.

7.2. 건물·소음·자재·인력의 병목

1. 건축 구조

   1. 바닥 하중: 고밀도 랙의 무게를 견디도록 바닥 설계를 바꿔야 한다.
   2. 소음: 장비가 매우 시끄러우므로 주변 주거지의 평온을 해치지 않도록 데이터센터 벽을 더 두껍게 지어야 한다.
   3. 건물의 노후화: 향후 Feynman급 시스템에 도달하면 현재 데이터센터 중 실제로 작동 가능한 비율이 크게 줄어든다.
   4. 자재 가격: 메모리만이 아니라 철근 콘크리트(Reinforced Concrete) 가격도 가장 빠르게 오르는 항목 중 하나다.

2. 800V와 전기 인력

   1. 고전압 위험: 데이터센터 내부에 800V를 보내면 안전 문제가 커진다.
   2. 인력 부족: 미국 전기 엔지니어와 전기 기술자 중 DC 전력 인증을 받은 사람은 약 2%뿐이다.
   3. Meta의 대응: Meta는 사람들에게 고전압 데이터센터 업무를 무료로 교육하는 프로그램을 운영하며 새로운 직업훈련소(Job Corps) 역할을 한다.
   4. 역설: AI가 일자리를 빼앗는다는 우려와 달리, AI 인프라는 새로운 전기 기술자를 대량으로 필요로 한다.

3. 로봇의 시설 투입

   1. 현재 실험: 대형 클라우드 사업자들은 로봇을 사용해 데이터센터에 서버를 조립·설치하는 작업을 실험하고 있다.
   2. 확대 방향: AI가 발전할수록 서버 조립과 시설 운영에서 로봇 활용이 늘어난다.

8. [34:00] 44GW의 전력 격차와 미국의 선택

AI 데이터센터 건설은 소프트웨어 인력을 더 투입한다고 단축할 수 없는 물리적·규제적 프로젝트이며, 지역사회와 전력망의 관계까지 다시 설계해야 한다.

8.1. 기가와트 규모의 실체

1. 전력 수요와 공급

   1. 2028년 전망: 새 데이터센터가 추가로 필요로 하는 전력은 약 44GW로 예상된다.
   2. 전력망 증설: 같은 기간 예상되는 전력망 추가 용량은 약 25GW에 그친다.
   3. 규모의 직관: 1GW는 축구장 여러 개에 해당하는 거대한 규모이며, 약 5만 가구 또는 작은 도시 하나에 해당한다.

2. Flagstaff 비유

   1. 도시 규모: Flagstaff, Arizona는 대학에 따라 인구가 약 4만~6만 명인 도시다.
   2. 전력 소비: Flagstaff 전체 전력 소비는 1GW보다 적다.
   3. 결론: 1GW면 작은 도시 전체에 불을 밝히고 냉방할 수 있지만, 실제 가동 중인 기가와트급 데이터센터는 아직 극소수다.

8.2. 왜 유틸리티와 하이퍼스케일러가 빨리 짓지 못하는가

1. 건설·허가·접속

   1. 사람의 작업: 먼저 사람이 건설해야 하며, 일반 건설보다 훨씬 많은 허가가 필요하다.
   2. 전력 접근: 연결할 전력을 확보해야 하고, 규제와 입찰 경쟁이 뒤따른다.
   3. 발전 자원: 천연가스 발전망과 기존 전력망에서 끌어올 수 있는 자원은 제한적이다.

2. 자체 발전의 공급망

   1. 발전설비: 자체 전력을 만들려면 변압기(Transformer), 터빈(Turbine) 등 많은 부품이 필요하다.
   2. 부품 부족: 변압기와 터빈을 포함한 발전설비 자체가 부족하다.
   3. 압축 불가능한 리드타임: 세계 최고의 인재가 기간을 줄이려 해도 물리적 공급망의 리드타임은 주말 근무나 소프트웨어식 인력 투입으로 해결되지 않는다.
   4. 수요 증가: 수요는 현재 매년 10배씩 증가하는 반면 공급은 그렇게 빠르게 늘 수 없다.

3. 미국의 기회 상실과 정책 기준

   1. 해외 이전: 미국에서 GPU 사업을 새로 시작하는 기업들이 멕시코·호주 등으로 향하는 경우가 늘고 있다.
   2. 경제적 손실: 미국의 데이터센터 건설 금지는 다른 나라에 일자리와 장기 경제 기회를 만들어주는 결과가 된다.
   3. 지역사회 기준: 데이터센터는 전력 공급을 개선하고, 소음과 물 문제를 없애며, 일자리를 추가하는 방식으로 지역사회에 기여해야 한다.
   4. 현재 가능한 모델: 이런 기준을 실제로 충족하는 데이터센터가 이미 존재하므로 미래의 꿈이 아니라 정책 표준으로 삼을 수 있다.

8.3. 데이터센터와 전력망의 공생

1. 자체 전력의 양방향 활용

   1. 낮: 자체 발전 데이터센터가 낮에 주(州)에 전력을 공급할 수 있다.
   2. 밤: 도시의 수요가 떨어지는 밤에는 데이터센터가 주 전력을 빌린다.
   3. 요금 효과: 자체 전력과 상호 보완적 사용 덕분에 에너지 요금이 도입 이후 매년 하락하는 사례가 있다.

2. 부하 곡선의 상호 보완

   1. 발전소: 발전소는 항상 최대 용량에 가깝게 생산하도록 설계된다.
   2. 도시: 도시는 낮에 전력 소비가 급증하고 밤에 급감한다.
   3. 데이터센터: 데이터센터는 낮과 밤에 안정적인 전력을 소비하므로 발전소와 도시 사이의 빈틈을 메우는 공생 관계를 만들 수 있다.

9. [38:00] 왜 Machine Age인가

Machine Age라는 이름은 AI가 인간의 뇌를 그대로 복제한다는 뜻이 아니라, 인간이 축적한 지식을 기계가 활용하고 그 성능이 다시 물리적 기계의 품질에 좌우된다는 사실을 강조한다.

9.1. Artificial Intelligence보다 Machine Intelligence

1. 인간 사고와 다른 작동 방식

   1. 학습의 출발점: 현재의 모델은 아무 지식도 없는 상태에서 세상에 나가 언어를 스스로 재구성하는 존재가 아니다.
   2. 지식의 성격: 인간이 이미 학습한 지식과 인간의 생각을 모아놓은 캐시(Cache)에 가깝다.
   3. 생산적 활용: 이미 배운 것을 바탕으로 새로운 생산적 사용을 수행하는 시스템을 만들었다.

2. AI라는 단어의 역사적 부담

   1. 컴퓨터과학의 용어: Artificial Intelligence는 컴퓨터과학에서 공식적으로 약 70년 동안 쓰인 넓은 용어다.
   2. 대중적 선입견: 공상과학과 Nick Bostrom 같은 저술이 덧붙인 이미지 때문에 인간형 지능이라는 선입견이 강하다.
   3. 이름의 의도: Machine Intelligence라고 부르면 인간 지능과 다른 기계적 성격을 인정하면서 실제 기반을 더 정확히 표현할 수 있다.

9.2. 소프트웨어가 기계를 만나는 역설

1. Software Eating the World의 반전

   1. 기존 서사: 소프트웨어가 세상을 먹어치운다는 관점은 소프트웨어의 확장성을 강조해 왔다.
   2. 새로운 제약: 실제로는 소프트웨어에 돈을 아무리 투입해도 아래에 있는 기계가 처리할 수 있는 만큼만 성능을 낸다.
   3. 하드웨어의 중심성: 이번 파도에서는 하드웨어 구성 요소가 사업과 지능 발전의 핵심 제약이다.

2. 기계의 품질이 만드는 지능

   1. 차세대 돌파구: 다음 지능 혁신은 모델 알고리즘만이 아니라 그 아래 기계의 품질에서 나온다.
   2. 이름의 의미: Machine Age는 AI가 실제로 기계 지능이며 하드웨어가 중요한 시대라는 사실을 함께 표시한다.

10. [40:00] Nvidia 이후에도 창업자와 신생 기업이 필요한 이유

기존 반도체 기업이 시장을 장악해도, 10배의 효율 개선을 위한 근본적 혁신은 주변부의 창업자와 새로운 시스템에서 나올 수 있다.

10.1. 10배 개선을 만드는 근본적 혁신

1. 혁신 지표

   1. 측정 기준: 초당 토큰 수(Tokens per Second), 달러당 토큰 수(Tokens per Dollar), 와트당 토큰 수(Tokens per Watt), 랙당 토큰 수(Tokens per Rack) 같은 지표에서 10배 개선이 필요하다.
   2. 혁신의 출처: 전통적으로 새로운 10배 도약은 문제를 제1원리(First Principles)에서 다른 방식으로 풀어내는 뛰어난 창업자에게서 나온다.

2. 대기업의 경제적 초점

   1. 시장 규모: 기존 실리콘 기업의 시가총액이 수조 달러라고 가정하면, 그중 5%만으로도 거대한 상장사급 비공개 기업을 만들 수 있다.
   2. Nvidia의 선택: Nvidia가 같은 일을 할 수 있어도, 현재 매출의 90%에 해당하며 동일한 성장률을 만드는 핵심 영역에 집중하는 편이 합리적이다.
   3. 규모의 법칙: Amazon이 클라우드 주변의 모든 기회를 직접 하지 않았던 이유, Microsoft가 모든 신사업을 직접 하지 않았던 이유와 같다. 규모가 커지면 주변부에 혁신 공간이 생긴다.

10.2. 시장 확장과 분업의 순환

1. 은벽돌과 금벽돌의 비유

   1. Alex Rampell의 일화: TrialPay를 Meta/Facebook에 매각하려 할 때, 당시 기업개발 책임자 Dan Rose는 작은 기회를 은벽돌(Silver Brick)에 비유했다.
   2. 대기업의 관점: Facebook에는 이미 주워 담지 못할 만큼 금벽돌(Gold Brick)이 많으므로 은벽돌을 볼 이유가 없다는 반응이 나왔다.
   3. Nvidia에 적용: Nvidia도 거대한 핵심 시장을 처리하느라 주변의 작은 기회를 모두 직접 다룰 유인이 낮다.

2. Ford와 Fordlandia

   1. 수직 통합의 극단: 1913년 Ford의 Rouge River 공장은 물·석탄·고무나무를 넣으면 자동차가 나오는 것처럼 보이는 통합 생산 체계였다.
   2. 고무 농장과 도시: Ford는 아마존의 고무 플랜테이션을 사들이고 Fordlandia라는 미국식 도시를 만들어 밴드 스탠드와 아이스크림 가게까지 조성했다.
   3. 통합의 한계: 한동안 작동했지만 사람들이 시간 약속을 지키도록 강요하자 현지 노동자들이 반발했다.

3. 시장 구조의 순환

   1. 확장기: 시장이 커지면 여러 단계의 공급업체와 전문 기업으로 분화된다.
   2. 둔화기: 성장률이 낮아지면 인수합병(M&A)이나 새로운 도전자의 등장으로 통합된다.
   3. AI의 위치: 사용 사례가 기하급수적으로 늘고 추론 아키텍처가 복잡해지는 현재는 다시 분화와 창업자 혁신이 일어나는 단계다.

10.3. 소프트웨어 마진에서 하드웨어 최적화로

1. 추론의 복잡화

   1. 과거: 추론은 단순한 아키텍처로 생각할 수 있었다.
   2. 현재: 추론 작업이 복잡해져 서로 다른 방식으로 최적화해야 한다.
   3. 시장 분화: 가장 큰 기업도 가치 있는 모든 사용 사례를 가장 좋은 방식으로 처리하기 어렵다.

2. 마진 구조의 변화

   1. 전통 소프트웨어: 제품이나 서비스를 제대로 출하하면 소프트웨어 특성상 높은 마진을 얻기 쉬웠다.
   2. AI 서비스의 예외: AI 서비스는 추론 비용과 하드웨어 비용 때문에 같은 마진 구조를 보장하지 않는다.
   3. 새로운 기회: 하드웨어 최적화가 과거보다 훨씬 직접적으로 사업의 수익성과 성장 상한을 결정한다.

11. [48:00] 투자 대상과 창업자 프로필

Machine Age Fund는 칩 단일 기업이 아니라 AI가 실제로 실행되는 전체 시스템과 그 시스템을 설계·제조·운영할 수 있는 창업자에게 투자한다.

11.1. 투자할 하위 분야

1. 컴퓨터과학 인프라 스택

   1. 칩(Chips): 모델 실행에 필요한 연산과 전용 가속기를 설계한다.
   2. 메모리(Memory): 가격과 대역폭, 계층 구조를 개선한다.
   3. 네트워크·인터커넥트(Networking and Interconnect): 랙 내부, 칩 사이, 데이터센터 사이의 데이터 이동을 최적화한다.
   4. 전력 칩(Power Chips): 고밀도 전력 공급과 변환을 지원한다.
   5. 스토리지(Storage): 대규모 모델과 작업 흐름을 지탱한다.

2. 완전한 시스템

   1. 칩 이상의 제품: AI 시대에는 칩만 만들어서는 충분하지 않고 메모리·전력·냉각·네트워크를 묶은 완전한 시스템이 필요하다.
   2. 관리 소프트웨어: 여러 장비를 플릿(Fleet)으로 관리하고 자동화하는 소프트웨어 계층도 중요하다.
   3. 엣지와 물리적 플랫폼: 모바일 기기, CDN, 노트북, 로봇 같은 물리적 장치까지 AI를 세상으로 확장하는 플랫폼에 관심을 둔다.
   4. 투자 범위의 경계: 인프라 중심 투자자로서 규제가 심한 산업이나 고도로 수직화된 산업 자체보다는, AI를 더 멀리 밀어내는 컴퓨터과학 플랫폼을 선호한다.

11.2. 자본과 창업자 유형의 차이

1. 제품 전 대규모 자금

   1. 첫 라운드: 발표된 기업들의 첫 투자 라운드가 수억 달러에 이르는 경우가 많다.
   2. 위험의 본질: 제품이 나오기 전에 큰돈이 들어가는 점은 대형 모델과 비슷하지만, 기존 소프트웨어보다 위험과 필요 자금이 더 크다.
   3. 자본의 역할: 충분한 자금이 제품 출시 전 제조·공급망·시설 준비에 투입되어야 한다.

2. 시스템 창업자(Systems Founder)

   1. 연구만으로 부족: 훌륭한 연구자나 컴퓨터과학자라는 사실만으로는 충분하지 않다.
   2. 설계와 제조: 칩 또는 시스템을 아키텍처링하고 설계한 뒤 실제로 제조할 수 있어야 한다.
   3. 공급망 사고: 누가 부품을 공급할지, 어떤 하위 업체가 필요한지, 제조가 어디서 막힐지를 처음부터 알아야 한다.
   4. 전체 생태계: Jensen Huang은 전체 생태계를 처음부터 생각하고 설계하는 시스템 창업자의 대표 사례이며, 병목이 서로 연결돼 있기 때문에 체인 설계 전에 생태계를 봐야 한다.

3. 경험 많은 팀의 가치

   1. 복잡한 학습 곡선: 회사를 만드는 법을 배우는 것만으로도 어려운데 제품의 공급망과 기술까지 동시에 배워야 하면 신생 창업자에게 너무 가파른 곡선이 된다.
   2. 소프트웨어에서 하드웨어로: Elon Musk와 Travis Kalanick도 젊을 때는 소프트웨어 기업을 만들었고, 더 복잡한 제조·공급망 영역으로 확장할 때 경험이 도움이 됐다.
   3. 순수 소프트웨어와의 차이: 젊고 뛰어난 순수 AI 소프트웨어 창업자가 훗날 복잡한 하드웨어 영역에 진입할 수는 있지만, 지금 당장은 여러 부품을 동시에 다루기 어렵다.

11.3. 왜 지금 새로운 하드웨어 창업자가 나오는가

1. 수요자의 태도 변화

   1. 연구소의 절박함: AI 연구소가 하드웨어 완제품이 나오기 전부터 스타트업과 계약을 맺을 만큼 공급을 절실히 원한다.
   2. 5년 전과의 차이: 예전에는 미완성의 하드웨어를 Google 같은 대형 고객에게 판매하기 어려웠지만, 현재는 초기 단계의 계약 자체가 강한 수요 신호가 된다.

2. 자본시장 변화

   1. 후속 자금: 자금 조달 여건이 크게 개선되어 구조를 재편하고 후속 라운드를 진행할 자본이 있다.
   2. 투자 쏠림: 투자 가능한 자본이 충분한 분야로 자금이 몰리고 있으며 시장 분위기도 과거와 달라졌다.

3. 산업과 학계의 공백

   1. 지난 20년: 산업계와 학계가 하드웨어·반도체 분야에 예전만큼 집중하지 않았고, 성장 영역은 소프트웨어와 네트워킹이었다.
   2. 인재 부족: 대학에서 칩을 만드는 인턴 경험을 쌓거나 대기업에서 복잡한 시스템 제조를 배운 인재가 많지 않다.
   3. 새 세대: 새 하드웨어 기업에서 일한 사람들이 앞으로 창업자로 배출되고, 이들이 더 낮은 직급에서 경험을 쌓으며 생태계를 확장한다.

4. SpaceX식 창업자 배출

   1. 산업적 유산: Elon Musk의 가장 큰 유산은 SpaceX라는 기업만이 아니라 SpaceX 출신 창업자들이 산업 전체를 바꾸고 있다는 점일 수 있다.
   2. AI 인프라의 재현: 컴퓨터과학과 하드웨어에서도 같은 방식으로 경험 많은 인재가 새 회사를 연쇄적으로 만들 수 있다.
   3. 이상적인 조합: 창업자가 반드시 나이가 많거나 경험이 풍부할 필요는 없지만, 경험 많은 사람의 지식을 끌어오고 함께 일할 능력이 있어야 한다.

11.4. a16z의 하드웨어 DNA

1. 잠재된 경험
   1. 팀의 배경: 펀드 구성원들은 경력 대부분을 하드웨어와 데이터센터 영역에서 보냈고, 오랫동안 축적된 경험이 잠재돼 있었다.
   2. 기존 투자: SpaceX, Anduril, Astranis, Waymo 등에 초기 단계 투자를 해 왔다.
   3. 전략적 의미: 펀드는 팀 역량을 새로 만드는 것보다 이미 존재하는 하드웨어 DNA를 공식적인 투자 방식으로 확장하는 움직임이다.

12. [53:00] 5~10년 뒤의 목표

Machine Age Fund가 기대대로 작동한다면 미국이 인프라 경쟁에서 승리하고, 친환경·고효율 데이터센터와 풍부한 칩·메모리·전력이 갖춰져야 한다.

12.1. 풍요로운 AI 물리 기반

1. 인프라의 풍요

   1. 데이터센터: 친환경적이고 효율적인 데이터센터가 충분히 건설된다.
   2. 부품: 칩과 메모리가 풍부해져 공급 부족이 성장의 상한이 되지 않는다.
   3. 전력: 사회에 기여하는 방식으로 전력이 충분히 공급된다.

2. 미국의 기술 리더십

   1. 특별한 장소: 미국은 세계 어디서든 더 큰 기여를 하고 싶은 사람이 아무것도 없이 와서 의미 있는 일을 시작할 수 있는 곳이라는 가치가 강조된다.
   2. 리더십의 조건: 기술 분야의 선두를 잃으면 이런 개방성과 가치가 유지되지 않을 수 있다.
   3. 시대의 전환: 미국이 기술 리더십을 잃으면 다른 나라와 다른 가치관이 중심이 되는 새로운 시대가 열릴 수 있다.

주요 발언 모음

“우리는 완전히 새로운 기술을 갖게 되었고, 역사상 가장 중요한 기술이다. 그래서 완전히 새로운 인프라가 필요하다.”

“병목은 모델 남쪽에 있다.”

“AI를 가장 많이 사용하고 싶어 하는 존재는 AI 자체다.”

“충분한 GPU, 전력, 돈이 있으면 어떤 문제든 해결할 수 있다. 문제가 남아 있는 한 수요도 끝나지 않는다.”

“AI가 인간을 모두 없애는 방향이 아니라, 봇이 통제 불능이 되지 않으면서 인간을 초인적으로 만드는 방향으로 가야 한다.”

“추론 효율을 20%만 절감해도 20억 달러이며, 그 돈이면 ASIC을 만들 수 있다.”

“다음 지능 혁신을 만드는 것은 그 아래에 있는 기계의 품질이다.”

“시장이 커지면 주변부에 엄청난 혁신 기회가 생긴다.”

핵심 데이터 & 수치

• 하이퍼스케일러 CapEx: 올해 약 7,000억 달러, 내년 약 1조 달러 전망.
• 공급 예약: 핵심 AI 인프라 공급은 사실상 2028년까지 예약.
• GPU 재판매: 구매가의 약 4배에 재판매되는 사례.
• 메모리 생산능력: 현재 수요를 공급하는 데 주요 업체의 3년 치 생산능력 필요.
• AI 역사: 현재 붐은 본격화된 지 약 4년.
• 칩 주기: 3~4년.
• 데이터센터 건설 주기: 4~5년.
• 토큰 수요: 매년 약 1,000%에 가까운 증가 전망.
• ChatGPT 사용량: 주간 활성 사용 약 10억 건이라는 수치.
• 개발자: 약 3,000만 명.
• 지식 노동자: 전 세계 10억 명 이상.
• AI 문제 해결 여정: 앞으로 30~40년 동안 지속될 가능성.
• 최첨단 모델 학습비: 약 30억~50억 달러.
• 추론 수익 목표: 약 100억 달러.
• 효율 개선 가치: 20% 개선 시 약 20억 달러 절감.
• 랙 전력: 5~10kW에서 100~250kW.
• 컴퓨트 밀도: 약 70배 증가.
• DC 인증 인력: 미국 전기 엔지니어·기술자의 약 2%.
• 데이터센터 물 낭비: 약 10%가 많은 물을 낭비하는 것으로 추정.
• 2028년 전력 격차: 새 데이터센터 추가 수요 44GW 대 전력망 증설 예상 25GW.
• 기가와트 직관: 약 5만 가구 또는 작은 도시 전체의 전력 규모.

결론 및 시사점

1. AI 투자에서 모델과 애플리케이션만 보지 말고 메모리·전력·냉각·네트워크·시설까지 이어지는 공급망을 봐야 한다.
2. 추론과 에이전트의 확산은 사용자 수와 작업당 토큰을 동시에 늘려 수요를 장기간 확장한다.
3. 모델별 ASIC, 메모리 계층, 데이터 이동, 전력 효율에서 10배 개선을 만들 수 있는 시스템 설계가 핵심 경쟁력이 된다.
4. 데이터센터는 소프트웨어 프로젝트가 아니라 허가·전력·변압기·터빈·건축·인력의 리드타임을 관리하는 물리적 산업이다.
5. 지역사회에 전력·일자리·물·소음 측면의 순편익을 제공하는 데이터센터만 장기적으로 확장될 수 있다.
6. 가장 유망한 창업자는 개별 칩이 아니라 제조와 공급망까지 설계하는 시스템 창업자이며, 젊은 창업자와 경험 많은 팀의 결합이 이상적이다.
7. 대기업이 핵심 시장에 집중할수록 주변부에서 전문 공급업체와 새로운 플랫폼이 등장하는 시장 분화가 일어난다.
8. Machine Age라는 관점은 AI의 성능이 코드뿐 아니라 그 코드를 실행하는 기계의 품질에 달려 있음을 강조한다.

핵심 요약 (20줄)

1. AI는 인터넷보다 큰 기술 전환이 될 수 있어 칩부터 구리 광산까지 완전히 새로운 인프라가 필요하다.

2. 모델 성능이 빠르게 좋아지면서 핵심 병목은 모델 남쪽의 메모리·컴퓨트·네트워크·전력으로 이동했다.

3. 최고의 창업자 거래에서 하드웨어 비중은 과거 3~5%에서 현재 20~30% 이상으로 증가했다.

4. 하이퍼스케일러 CapEx는 올해 약 7,000억 달러에서 내년 1조 달러로 늘어날 전망이다.

5. GPU·전력·냉각·메모리 공급이 모두 부족하고 핵심 물량은 2028년까지 예약됐다.

6. 주요 메모리 공급업체는 현재 수요만 충족하는 데 3년 치 생산능력이 필요하다고 밝혔다.

7. AI 수요는 작업당 토큰 사용량과 AI를 활용하는 사람 수가 동시에 늘어나는 방식으로 확장된다.

8. 챗봇에서 추론·에이전트·다중 에이전트로 갈수록 한 작업의 토큰 사용량이 자릿수 단위로 증가한다.

9. AI가 AI를 개선하고 GPU 커널까지 만들면서 추론 수요가 자기촉매적으로 커진다.

10. ChatGPT의 주간 활성 사용은 약 10억 건이고 개발자 약 3,000만 명이 큰 컴퓨팅 수요를 만든다.

11. 언어와 코드는 컴퓨터 활용의 시작일 뿐이며 과학·재료·생물학·창의성이 수십 년의 추가 수요를 만든다.

12. 직원형 에이전트는 자체 컴퓨터와 브라우저로 캘린더·이메일·구독 업무를 처리하는 새로운 노동 단위다.

13. 에이전트 도입의 목표는 인간을 제거하는 것이 아니라 통제 가능한 봇으로 인간의 생산성을 초인적으로 높이는 것이다.

14. AI 인프라는 행렬 곱셈·메모리 계층·전력·냉각·칩 간 데이터 이동을 처음부터 함께 최적화해야 한다.

15. 최첨단 모델 학습비가 30억~50억 달러에 이르면 20% 효율 개선만으로 20억 달러 가치가 생겨 모델별 ASIC이 가능해진다.

16. 랙 전력은 5~10kW에서 100~250kW로, 컴퓨트 밀도는 약 70배로 증가하며 액체 냉각과 DC 전력이 필요해진다.

17. 2028년 데이터센터 전력 수요 44GW와 전력망 증설 25GW의 격차가 물리적 공급 병목을 보여준다.

18. 데이터센터는 변압기·터빈·허가·고전압 인력 부족 때문에 소프트웨어처럼 주말 근무만으로 건설 기간을 줄일 수 없다.

19. 시장이 커질수록 Nvidia 같은 대기업의 주변부에서 전문 공급업체와 시스템 창업자의 혁신이 분화된다.

20. Machine Age의 경쟁력은 좋은 모델뿐 아니라 그 모델을 실행하는 기계·전력·시설의 품질과 미국의 기술 리더십에 달려 있다.