메타데이터
- 채널: 20vc (The Twenty Minute VC)
- 제목: Open Models vs Frontier Models: Who Actually Wins? | The $100K Token Budget Every Engineer Will Need
- 게스트: Clay Bavor (Sierra AI 공동창업자)
- 호스트: Harry Stebbings
- URL: https://www.youtube.com/watch?v=YWg_YCQEZhI
- 저장일: 2026-07-09
핵심 주장 (1계층)
- 오픈 모델 vs 프론티어 모델은 이분법이 아니다 — 특정 작업은 오픈 모델로 충분하지만, 코딩·과학·법률 등 복잡한 도메인에서는 프론티어 모델에 대한 수요가 사실상 무한히 증가한다.
- 엔지니어 1인당 토큰 비용 $10만/년이 표준화될 것이다 — 현재 3.8% 수준의 개발자 급여 대비 토큰 지출 비율은 결국 20%까지 오를 것이다.
- 오픈 모델의 경쟁력은 프론티어 모델 증류(distillation)에 기반한다 — 특히 중국 모델들이 미국 프론티어 모델을 증류해 만들어졌을 가능성이 높다.
- AI 시대 기업의 진짜 경쟁력은 내부 AI 에이전트 활용 수준이다 — Sierra는 Pine Cone이라는 내부 에이전트로 전사 운영하며 엔지니어 생산성 3~20배 달성.
- 엔터프라이즈 AI는 고객사 내부에 깊이 파고드는 포워드 디플로이드 모델이 핵심이다 — Palantir 모델을 참고해 설계.
주요 논점 (2계층)
A. 오픈 모델 vs 프론티어 모델 경쟁 구도
- 오픈 모델이 더 저렴하지만 GPU/전력이라는 근본 제약은 동일하다
- 중국 오픈 모델의 발전 배경은 프론티어 모델 증류 전략
- 미국 랩들은 자사 프론티어 모델을 잠식할 오픈 모델을 직접 출시하기 어렵다
- 프론티어 모델은 발견·발명·신제품 개발 같은 고난이도 작업에서 수요 무한
- GPT-4급 성능이 이제 1/300 비용으로 가능 → 일부 작업은 하향 이동
B. 토큰 경제학과 $100K 예산 논쟁
- 추론 모델(O1 등)의 등장으로 토큰 사용량이 thinking out loud로 폭증
- 현재 최상위 엔지니어들은 Claude/Codex 등에 연간 $10만+ 지출 중
- Salesforce의 Benioff는 Anthropic에 연 3억 달러 지출 (개발자 급여의 3.8%)
- Clay 예측: 3.8%는 결국 20%에 수렴할 것
- CFO들은 향후 헤드카운트 예산을 '급여 + 토큰 예산'으로 재편해야 함
C. 온디바이스 vs 서버사이드 컴퓨팅
- 로컬 모델 실행(Mac mini 클러스터, 온폰 추론)은 일부 컨슈머 앱 개선에 기여
- 그러나 24시간 항상켜짐 AI, 훈련·추론 모두 thermal limit 때문에 서버가 필수
- 가정용 메인 연결 AI 어플라이언스 가능성은 있으나 프론티어 작업은 여전히 데이터센터
D. Sierra의 내부 AI 활용 — Pine Cone & Sierra Brain
- MCP Gateway: 회사의 모든 시스템(Slack, 문서, 운영리뷰)을 단일 MCP 서버로 집계
- Pine Cone: MCP Gateway 위에 구축된 Sierra 전용 AI 에이전트 하니스
- 엔지니어링, 에이전트 스튜디오, 코어 플랫폼 개발 지원
- Clay의 채용 면접 패킷 심사 자동화에도 활용
- Sierra Brain: 30페이지 회사 컨텍스트 문서 + 모든 보드레터 + 운영리뷰로 구성된 전략 사고 파트너
E. 엔터프라이즈 세일즈 전략
- Fortune 50의 40%, Fortune 500의 50%가 매출 10억+ 고객
- Palantir 포워드 디플로이드 모델을 차용하되 훨씬 큰 규모 지향
- 설계 파트너사: Sonos, Sirius XM, Weight Watchers (창업 초기 6개)
- Rocket Companies 사례: 검색→대출 신청→서비스까지 풀 라이프사이클 커버
- Next (부동산): 킥오프 6주 만에 라이브, Sigma (헬스케어): 58일 만에 배포
F. 이사회 운영 혁신
- 분기별 → 6주 단위 이사회 (AI 시간축에 맞춤)
- 3시간 + 1.5시간 틱톡 방식
- 이사회 덱(deck) 대신 6~10페이지 메모 사전 발송
- "잘 된 것들"보다 "부족한 7가지"를 솔직하게 기재
- 이사회 멤버를 관리 대상이 아닌 진짜 사고 파트너로 대우
G. 채용 혁신과 AI 네이티브 세대
- 엔지니어링 면접 완전 개편: $150 토큰 예산 주고 앱 직접 빌드
- 22~23세 AI 네이티브 직원들이 사내 최고 성과자
- "Smart, Nice, Intense" 세 가지 동시에 충족하는 인재 탐색
- 1~2개월 내 모든 면접에 AI 네이티브 요소 포함 예정
세부 내용 및 근거 (3계층)
오픈 모델 증류의 실체
Clay의 분석에 따르면 중국에서 나오는 오픈 웨이트 모델들은 상당 부분 미국 프론티어 모델의 훈련 런을 기반으로 한 증류 모델이다. 미국 랩들이 스스로를 잠식하면서 오픈 모델을 출시하기 어려운 구조적 딜레마가 존재한다. "Can't build frontier yourself? Then the next best move is distilling them."
O1 추론 모델의 전환점
2024년 말 OpenAI O1 모델 출시가 가장 저평가된 혁신이라고 평가. 테스트 타임 컴퓨트(thinking out loud)와 성능의 로그스케일 상관관계 차트가 증명한 것: 충분한 시간과 컴퓨트를 주면 모델은 더 똑똑해진다. 이것이 토큰 수요 폭증의 핵심 동인.
Andy Grove의 병목 이동 프레임
Sierra는 소프트웨어 개발에서 병목의 이동을 분석:
- 과거: 코드 작성이 병목
- 현재: 코드 리뷰가 병목
- 미래: "무엇을 만들 가치가 있는가" 결정이 병목
Pine Cone의 실제 활용
Clay는 Pine Cone에 자신이 채용 시 보는 기준을 학습시켜 면접 패킷 심사를 반자동화했다. 엔지니어들은 Claude/Codex 대비 3~20배 생산성 향상을 보고. Pine Cone은 "회사 전체가 접근할 수 있는 슈퍼파워"로 묘사됨.
Sierra의 기업가치 대비 고객 구성
- 기업가치: 약 $160억
- 누적 조달: $15억+
- Fortune 50의 40% = 20개사
- 고객의 50%가 매출 $10억+, 30%가 $100억+
"Think Apart, Think Together" 프레임워크
공동창업자 Clay와 Brett의 의사결정 방식. 중요 이슈에 대해:
- 각자 1시간 독립 작성 (Think Apart)
- 결과를 비교하며 토론 (Think Together) → 그룹씽크 방지 + 최선의 독립적 사고 도출
Brett vs Clay 역할 분담 (메이저/마이너)
| 영역 | Brett (메이저) | Clay (메이저) |
|---|---|---|
| 세일즈 | ✅ (Salesforce 출신) | |
| 엔지니어링/아키텍처 | ✅ | |
| 운영/재무/법무 | ✅ | |
| 제품 | 공동 | 공동 |
Sundar Pichai에게 배운 것
다이나믹 레인지 사고: 최상위 전략("5년 후 어떻게 전개될까")부터 픽셀 수준의 디테일(그림자, 사운드, 질감)까지 자유롭게 오가는 능력.
실행 포인트 / 시사점 (4계층)
기업 전략 실행
- 토큰 예산 CFO 아젠다화: 2026~2027년 내 "급여 + 토큰 예산" 체계로 헤드카운트 계획 재편 필요. 현재 3.8%이지만 20%로 수렴 예측.
- MCP Gateway 구축 우선순위: 회사 내 모든 시스템(Slack, 문서, 리뷰)을 단일 MCP 서버로 통합하는 것이 내부 AI 에이전트의 전제조건.
- 이사회/운영 리뷰 주기 단축: AI 시간축에서는 6주가 이미 긴 주기. 분기별 리뷰는 시장 변화 대응에 치명적.
- 메모 문화: 이사회 덱 → 사전 배포 메모로 전환 시 실질적 토론 품질 향상.
채용 전략
- AI 네이티브 인터뷰 즉시 도입: $150 토큰 예산 + 실제 빌드 과제 방식으로 전환. 이력서보다 실전 AI 활용 능력이 핵심 필터.
- 22~23세 AI 네이티브 세대 적극 채용: 경력 없어도 AI 도구 숙련도가 높으면 최고 퍼포머 될 수 있음.
- Smart + Nice + Intense 삼각형: 세 가지 모두 충족하는 인재 희소하지만 그 조합이 팀 에너지를 결정.
엔터프라이즈 AI 세일즈
- 포워드 디플로이드 팀: 고객사 내부에 엔지니어를 실질적으로 임베드하는 방식이 엔터프라이즈 AI 배포 속도를 결정. "킥오프 6주 → 라이브"는 이 모델 없이 불가능.
- 플랫폼 + 앱 병행 구축: 앱 → 플랫폼 학습 → 다음 앱 가속화 사이클. 커스텀 개발도 코딩 에이전트 덕에 경제성 생김.
- 수직 도메인 깊이: 리테일 바스켓 빌딩, 헬스케어 클레임, 금융 계좌 수수료 등 산업별 깊은 학습이 복리로 쌓임.
개인 생산성
- Hamming의 복리 원칙 적용: 지식과 노력은 복리이기 때문에 초기에 최대한 빠르게 학습 잠금(lock in) 필요. 젊을수록 AI 도구 숙련도 투자 ROI가 극대화.
- 이동 시간 → 고밀도 집중 전환: Clay는 두 개의 셀룰러 네트워크 + Starlink Mini 조합으로 출퇴근 왕복 3시간을 완전 업무 시간으로 전환.
핵심 요약 (20줄)
- Sierra AI 공동창업자 Clay Bavor가 20vc Harry Stebbings와 진행한 심층 인터뷰.
- 오픈 모델 vs 프론티어 모델 논쟁의 결론: 이분법 아님, 태스크별 혼합 사용이 정답.
- 코딩·과학·법률 등 고복잡도 도메인에서 프론티어 모델 수요는 사실상 무한대로 증가.
- 중국 오픈 모델의 강세는 미국 프론티어 모델 대규모 증류(distillation)가 핵심 원인.
- 현재 최상위 엔지니어들은 Claude/Codex에 연간 $10만+ 토큰 비용 지출 중.
- Clay 예측: 개발자 급여 대비 토큰 지출 비율이 현재 3.8%에서 결국 20%로 수렴.
- CFO들은 조만간 헤드카운트 예산을 '급여 + 개인 토큰 예산' 체계로 재편해야 한다.
- O1 추론 모델의 등장이 가장 저평가된 혁신 — 생각하는 토큰이 성능 폭발의 핵심.
- Sierra의 내부 에이전트 Pine Cone은 MCP Gateway 기반 전사 운영 도구로 엔지니어 3~20배 생산성 달성.
- Sierra Brain은 30페이지 회사 컨텍스트 + 모든 이사회 레터로 구성된 AI 전략 파트너.
- Sierra는 Fortune 50의 40%, 고객의 50%가 매출 $10억+ 기업인 엔터프라이즈 AI 카테고리 리더.
- Palantir 모델 참고한 포워드 디플로이드 전략으로 킥오프 6주 → 라이브 실현.
- 이사회를 분기 → 6주 단위로 전환, 이사회 덱 대신 6~10페이지 메모 사전 배포.
- 채용 인터뷰를 $150 토큰 예산 지급 후 실제 앱 빌드 방식으로 완전 개편.
- 22~23세 AI 네이티브 직원들이 사내 최고 퍼포머 — 경력보다 AI 도구 숙련도가 핵심.
- Brett(세일즈·아키텍처 전문)와 Clay(운영·재무 전문)의 '메이저/마이너' 역할 분담 공개.
- "Think Apart, Think Together" 프레임워크로 공동창업자 그룹씽크 방지.
- Richard Hamming의 복리 원칙 — 지식과 노력은 복리이므로 초기 학습 잠금이 경력 궤도를 결정.
- 재택 vs 출근 논쟁에서 Clay는 대면 필수 주의자 — 도제식 학습, 문화 형성, 멘토십이 이유.
- 결론: AI 시대에 가장 중요한 것은 모델 선택이 아니라 '조직 전체가 AI를 얼마나 깊이 내재화하는가'.