[한영자막] 당신만의 AI 스택을 소유하세요

URL: https://www.youtube.com/watch?v=idS9XwpdGdU 날짜: 2026-08-12 채널: Tech Bridge

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==기업은 AI를 외부 API에서 임대하는 데 그치지 않고, 자사 제품의 핵심 지능을 어디까지 직접 소유해야 하며 그 여정을 어떻게 시작해야 하는가?==

• Sovereign AI는 모든 모델을 처음부터 사전 학습(pre-training)하라는 뜻이 아니라, 비용·속도·성능·독점 데이터·전략적 중요도에 따라 필요한 지능을 직접 통제하고 나머지는 임대하는 선택이다.
• 오픈 웨이트(open-weight) 모델이 프런티어 수준에 가까워지고, 포스트 트레이닝(post-training)·하네스(harness)·평가(evaluation)·온라인 러닝(online learning)을 조합하면 특정 도메인에서 폐쇄형 API보다 높은 성능에 도달할 수 있다.
• 이 여정은 전략(strategy), 팀(team), 가독성(legibility), 기술 로드맵(technical roadmap)의 네 축으로 시작하며, 처음부터 거대한 연구 조직을 만들기보다 작고 독립적인 연구실(lab)로 출발해야 한다.

발표자는 약 80명의 포트폴리오 회사 창업자와 AI 리더가 모인 행사에서 이 주제를 다룬다. 행사의 목적은 절반은 함께 방향을 잡는 랠리(rallying call)이고 절반은 실제 구현 방법을 배우는 기술 워크숍(technical how-to)이다. 핵심 메시지는 “AI를 소유하라”는 구호 자체가 아니라, 제품의 차별화·마진·데이터·사용자 경험을 결정하는 지능 계층(intelligence layer)을 회사가 스스로 개선할 수 있는 구조를 만들라는 데 있다.

1. Sovereign AI의 의미와 소유권 논리

Sovereign AI는 외부 모델 제공자에 대한 의존을 무조건 끊는 전략이 아니라, 제품의 운명을 좌우하는 지능을 임대만 하지 않고 통제 가능한 자산으로 바꾸는 전략이다.

1.1. “지능을 소유한다”는 말의 정확한 뜻

1. 주권(sovereignty)의 비유

   1. 독립 국가의 정의: 주권국가는 외부 주체가 대신 통치하지 않고 스스로 통치하는 독립 국가다.
   2. AI에 적용한 의미: 기업이 외부 의존성 없이 자체 지능을 소유한다는 것은 단순히 프롬프트를 작성하는 수준을 넘어 모델의 웨이트(weights)까지 통제하고 보관할 수 있다는 뜻이다.

2. 폐쇄형 모델을 포기하라는 주장이 아니다

   1. 계속 임대해도 되는 영역: 코딩 에이전트(coding agent), 데스크톱 업무, 최첨단 프런티어 API처럼 즉시 강한 성능과 편리한 사용성이 중요한 영역에서는 Opus나 GPT 같은 폐쇄형 모델 API가 훌륭한 선택이다.
   2. 소유 여정이 시작되는 영역: 제품의 일부에 자체 AI 능력을 넣고, 자사 데이터와 도메인에 맞춰 수직 통합(vertical integration)하려는 기업이 늘고 있다.
   3. 오늘의 목적: 모든 기업에게 같은 정답을 강요하는 것이 아니라, 이미 자체 지능을 만들기 시작한 기업이 다음 단계로 갈 수 있도록 출발점과 기술 로드맵을 제공하는 것이다.

1.2. 왜 지금 Sovereign AI인가

1. 산업 담론의 급격한 확산

   1. 공론화: 최근 한 달 동안 Alex Karp와 Satya가 기업이 자체 지능을 소유해야 한다는 취지로 발언하면서 Sovereign AI에 관한 논의가 급격히 커졌다.
   2. 오픈 웨이트의 가용성: Jensen이 지난주 미국에서 오픈 웨이트 모델이 계속 이용 가능하도록 하는 흐름을 이끌었고, 거의 만장일치에 가까운 지지가 뒤따랐다고 발표자는 설명한다.
   3. 핵심 문장: 기업은 웨이트를 임대하고 싶은 것이 아니라 소유하고 싶어 한다. 지능은 너무 핵심적이고 근본적인 자산이어서 외부에 전부 맡기기 어렵기 때문이다.

2. 중앙집중형 지능과 분산형 지능의 대비

   1. 중앙집중형 지능(centralized intelligence): 하나의 강력한 AI가 세계 GDP의 더 많은 부분을 블랙박스로 작동시키고, 전 세계에서 발생하는 데이터 배출물과 데이터 플라이휠(data flywheel)을 빨아들이는 구조다.
   2. 분산형 지능(decentralized intelligence): 세계가 공통의 탄탄한 핵심 위에 각자의 지능을 쌓되, 개인과 기업이 자사 데이터·산업·개인화·일하는 방식·취향에 맞춰 지능을 bespoke하게 만드는 구조다.
   3. 발표자의 낙관적 결론: 후자의 생태계에서는 개성이 승리하고, 한 회사가 나머지 모두를 삼키지 않으며, 다양한 제품과 연구가 동시에 번성할 수 있다.

1.3. 기업이 자체 지능으로 이동하는 네 가지 이유

1. 비용(cost)

   1. 마진 압박: 낮은 마진·제로 마진·마이너스 마진에 가까운 기업에게 Sovereign AI는 있으면 좋은 기능(nice-to-have)이 아니라 반드시 필요한 기능(must-have)이다.
   2. 성공할수록 커지는 COGS: AI 제품이 성공해 사용량이 늘수록 AI 원가(COGS)가 함께 커지는 역설이 있다.
   3. 선도 기업의 선행: AI를 가장 앞서 배포한 기업들이 오히려 자체 모델과 지능을 소유하는 여정에 먼저 들어가고 있다.

2. 속도와 지연시간(speed and latency)

   1. 소형 특화 모델: 코딩과 보안처럼 짧은 지연시간이 중요한 도메인에서는 작게 증류한(distilled) 맞춤형 모델이 대형 범용 모델보다 빠를 수 있다.
   2. 속도가 성능의 일부인 영역: 사용자가 기다리는 시간이 곧 제품 경험을 결정하는 경우, 절대적인 범용 능력보다 빠른 응답이 더 중요한 경쟁력이 된다.

3. 성능(performance)

   1. 기준의 변화: 과거에는 성능을 크게 신경 쓰지 않을 때 오픈 웨이트를 선택하는 경향이 있었지만, 이제는 특정 도메인의 자사 데이터로 튜닝한 오픈 모델이 폐쇄형 모델을 앞설 수 있다.
   2. 오늘 행사의 중심: 이 세션의 기술 워크숍들은 오픈 모델을 특정 업무에 맞게 조정해 실제 성능을 끌어올리는 방법을 다룬다.

4. 자기 운명에 대한 통제(controlling your own destiny)

   1. 파트너십을 인정하면서도 독립성 확보: Anthropic과 OpenAI는 생태계의 많은 기업에 훌륭한 파트너였지만, 기업들은 동시에 독립적으로 설 수 있는 다리(legs)를 갖기를 원한다.
   2. 전략적 선택지: 특정 제공자의 가격·정책·모델 변경에 제품 전체가 흔들리지 않도록 자체 지능이라는 독립적인 기반을 확보한다.

1.4. “Not your weights, not your product”

1. 암호화폐 밈의 변형

   1. 원래 밈: 암호화폐(crypto) 시대에는 “Not your keys, not your crypto”라는 DeFi 밈이 있었다.
   2. 의미: 누군가가 사용자를 대신해 키를 보관하고 코인을 통제한다면, 그 자산은 근본적으로 사용자의 것이 아니라는 뜻이다.

2. AI 버전의 소유권

   1. 발표자의 변형: “Not your weights, not your product”라는 문장으로 AI 버전의 밈을 제시한다.
   2. 제품의 실질적 소유: 제품이 진정으로 회사의 것이라고 말하려면, 핵심 지능의 웨이트를 통제하고 보관할 수 있어야 한다는 주장이다.

2. 경쟁의 중심이 애플리케이션 계층에서 지능 계층으로 이동한다

AI 제품의 차별화는 더 이상 UI와 시장 진입만의 문제가 아니며, 제품이 실제로 어떤 지능을 사용하고 어떻게 개선하는지의 문제로 이동한다.

2.1. 애플리케이션 계층 경쟁의 재구성

1. Pat의 AI Ascent 슬라이드

   1. 기존의 경쟁: AGI·파운데이션 모델 연구소는 모델 쪽에서 올라오고, 애플리케이션 회사는 사용자 쪽에서 올라와 최종 사용자 제품을 차지하려고 경쟁한다.
   2. 양쪽의 방향: 모델 연구소는 모델 계층에서 사용자에게 접근하고, 애플리케이션 회사는 사용자와 제품에서 출발해 더 깊은 지능으로 내려간다.

2. 새로운 전장

   1. 표면 계층(surface layer): 누가 UI, 시장 진입(go-to-market), 제품 래퍼(wrapper), 사용자 접점을 통제하는지가 기존의 전장이었다.
   2. 지능 계층(intelligence layer): 이제 누가 제품 안에서 더 나은 지능을 만들고, 그 지능 자체를 소유하는지가 새로운 전장이 된다.
   3. 핵심 정의: 제품은 지능을 담는 껍데기가 아니라 지능 그 자체가 되며, 제품 표면뿐 아니라 지능 계층을 차지하는 경쟁이 시작된다.

2.2. 애플리케이션 회사가 새로운 연구소가 되는 이유

1. 응용 연구(applied research)의 확산

   1. 언급된 회사들: Harvey, Factory, Glean, OpenEvidence, Sam, Ramp 등 여러 애플리케이션 회사에서 뜨거운 연구가 나오고 있다.
   2. 연구 범위: 연구는 평가와 벤치마크(evals and benchmarks), 하네스 엔지니어링(harness engineering), 포스트 트레이닝을 위한 새로운 알고리즘 기법 등으로 확장된다.

2. “새로운 Neolabs”라는 관점

   1. 분산 지능과의 연결: 중앙화된 연구소만이 지능 혁신을 독점하는 것이 아니라, 도메인 사용자와 가까운 애플리케이션 회사도 지능을 연구하고 개선한다.
   2. 발표자의 평가: 민주화된 지능 세계에서 일어나는 혁신의 양은 매우 고무적이며, 애플리케이션 회사가 새로운 Neolabs가 되고 있다고 본다.

3. 제로에서 100까지 가는 네 단계 로드맵

발표자는 각 기업의 상황이 다르고 본인도 기술자가 아니라는 단서를 붙이면서, 실행 가능한 출발점으로 네 단계의 의견이 강한(opinionated) 프레임워크를 제시한다.

3.1. 1단계 — 전략: 무엇을 소유하고 무엇을 임대할 것인가

1. Sovereign AI는 이진 선택이 아니다

   1. 0%와 100% 사이: 기업은 완전히 비주권적이거나 완전히 주권적인 상태 중 하나만 선택하는 것이 아니다.
   2. 경계선 그리기: 제품의 각 지능 능력(capability)마다 직접 소유할지, 외부 모델을 임대할지 의도적으로 선을 그어야 한다.

2. 소유·임대 판단의 네 가지 기준

   1. 비용: 해당 모델 호출 원가가 회사 전체 COGS에서 얼마나 큰 비중을 차지하는지 본다.
   2. 속도와 지연시간: 해당 기능이 P0 수준으로 빠른 응답을 요구하는지 판단한다.
   3. 성능: 범용 모델의 기본 성능으로 충분한지, 자사 데이터로 튜닝했을 때 더 나아질 수 있는지 확인한다.
   4. 독점 데이터(proprietary data): 모델에 제공해 개선할 데이터가 회사에 매우 고유하고 경쟁상 중요한지 평가한다.

3.2. 소유·임대 트레이드오프의 실제 사례

1. 코딩 에이전트와 탭 자동완성(tab autocomplete)

   1. 코딩 에이전트: 현재는 즉시 쓸 수 있는 강한 성능이 중요하고 지연시간이 P0가 아닌 경우가 많으므로 대체로 외부 모델을 임대한다.
   2. 탭 자동완성: 호출 빈도가 매우 높고 사용자가 매번 즉시 결과를 기다리므로 속도가 중요하며, 누적 API 비용도 커진다.
   3. 결론: 탭 자동완성은 이런 이유로 점점 더 자체 지능(sovereign intelligence)에서 실행된다.

2. 보안 도메인

   1. 스텔스 사이버보안 회사: 발표자가 함께 일하는 한 스텔스 사이버보안 회사는 속도와 성능을 주된 이유로 자체 모델을 소유한다.
   2. 사후 학습의 유연성: 웨이트를 직접 보유하면 회사의 필요에 맞춰 매우 bespoke한 방식으로 포스트 트레이닝할 수 있다.

3. 바이오 도메인

   1. 독점 데이터의 가치: 바이오 기업은 자체 데이터의 가치가 매우 높기 때문에 독자 모델로 이동한다.
   2. 기준의 적용: 이 사례는 독점 데이터가 소유·임대 결정에서 단순한 보안 문제가 아니라 성능과 사업 가치의 원천임을 보여준다.

3.3. 2단계 — 팀: 생산 가능한 지능을 만드는 조직

1. 랩 리더의 출신은 하나가 아니다

   1. 연구 중심 경로: Nico는 Apple과 Google Brain에서 연구를 수행한 연구 쪽 출신의 사례다.
   2. 엔지니어링 중심 경로: Alex는 Microsoft와 Ramp에서 여러 엔지니어링 역할을 수행한 엔지니어링 쪽 출신의 사례다.
   3. 선택 기준: 연구가 기초적(fundamental)인지 응용적(applied)인지에 따라 적합한 리더 프로필이 달라지며, 열반으로 가는 길(path to Nirvana)은 하나가 아니다.

2. 기존 AI 플랫폼 팀에 억지로 맡기지 말 것

   1. 전통적 허브 앤 스포크(hub-and-spoke): 하나의 중앙 플랫폼 팀이 여러 AI·애플리케이션 제품 팀을 지원하는 방식이 흔하다.
   2. 잘못된 확장: 많은 기업이 이 플랫폼 팀에 Sovereign AI 연구까지 추가로 맡기려 한다.
   3. 역할의 본질적 차이: 플랫폼 서비스는 다른 팀의 요청을 처리하지만, 독자 연구 조직은 프런티어에서 생각하고 새로운 지능을 생산해야 한다.

3. 작고 독립적인 데 노보(de novo) 랩

   1. 새로 시작하기: 기존 플랫폼 조직을 재활용하기보다 처음부터 새 팀을 만들고 자체 랩으로 운영하는 것을 권한다.
   2. 공격적 역할: 이 팀은 단순히 다른 팀을 서비스하는 수비적 역할이 아니라, 프런티어 연구와 제품 성능을 주도하는 공격적 역할을 맡아야 한다.
   3. 규모의 사례: Harvey는 단 7명의 팀으로도 많은 연구를 발표했다.
   4. 실천 원칙: 작게 시작하고, 처음부터 완벽한 대규모 조직을 만들려 하지 말며, 필요하면 회사 안에 독립된 연구실을 세운다.

3.4. 3단계 — 가독성: 연구를 외부에 보이게 만들기

1. 내부 성과와 외부 가독성의 차이

   1. 숨은 연구: 많은 기업이 내부에서 훌륭한 연구를 하고 있지만, 외부 사람들이 그 연구 수준과 결과를 이해할 수 있는 형태로 드러내지는 못한다.
   2. 구매자의 문제: 지금 모든 구매자는 자신의 AI 챔피언을 선택하려 하며, 비슷한 세일즈 피치를 반복해서 듣고 어떤 벤더가 자신을 약속의 땅까지 데려갈 만큼 정교한지 판별해야 한다.

2. CEO의 두 가지 책임

   1. 실질적 결과: Winston Weinberg의 표현에 따르면 CEO는 실질적 결과(substantive results)를 만들어야 한다.
   2. 서사 통제: 동시에 무엇을 만들고 있는지에 관한 서사와 가독성(legibility)을 통제해야 한다.
   3. AI 스택의 의미: 자체 모델을 만들었더라도 외부에서 그 수준과 방향을 읽을 수 없다면 고객·인재·파트너가 그 가치를 평가하기 어렵다.

3. 가독성을 만드는 실행 방법

   1. 기술 마케팅: 단순 홍보가 아니라 연구의 품질과 실제 성능을 보여주는 훌륭한 technical marketing을 수행한다.
   2. 브랜드 분리: 필요하면 자체 브랜드의 랩이나 연구 그룹을 별도로 운영한다.
   3. 높은 취향의 연구 발표: 벤치마크·실험·방법론을 높은 완성도와 일관된 취향으로 공개한다.
   4. 생태계 전체의 과제: 발표자는 행사에 참석한 Sequoia 포트폴리오 회사들에 이 지점을 특히 강하게 고민하라고 촉구한다.

3.5. 4단계 — 기술 로드맵: 평가에서 온라인 개선까지

1. 초기 순서

   1. 전략 수립: 먼저 어떤 지능을 소유할지 결정한다.
   2. 평가 정의: 다음으로 eval을 정의한다. 화려하지 않고 재미없는 작업이지만, 초기에 많이 할수록 이후의 모든 단계가 더 나아진다.
   3. 측정 가능성: 어떤 모델·하네스·데이터 조합이 실제 제품 목표에 기여하는지 비교할 수 있어야 한다.

2. 모델과 하네스의 실험

   1. 라우터(router): 여러 모델을 목적에 맞게 선택하는 모델 라우터를 시험한다.
   2. 하네스(harness): 모델을 실제 업무에 연결하는 프롬프트·도구 호출·컨텍스트·제어 로직을 구성한다.
   3. 기본 모델의 한계: 어떤 회사는 기본 모델만으로도 좋은 성능을 얻지만, 어떤 회사는 포스트 트레이닝에서 큰 성능 향상을 얻는다.

3. 더 깊은 학습 단계

   1. 포스트 트레이닝: 특정 도메인과 사용 방식에 맞춰 이미 학습된 모델을 개선하는 일반적인 다음 단계다.
   2. 미드 트레이닝(mid-training): 더 드문 경우에 모델의 중간 학습 단계에 들어가야 할 수 있다.
   3. 프리트레이닝(pre-training): 가장 큰 비용과 복잡성이 필요한 단계이며, 모든 회사가 여기까지 갈 필요는 없다.

4. 고객 데이터가 만드는 피드백 루프

   1. 온라인 개선: 라이브 고객 데이터가 시스템에 들어오고, 그 상호작용이 지능을 개선하는 피드백 루프를 만든다.
   2. 최종 상태: 고객이 사용할 때마다 모델·하네스·데이터·평가 체계가 더 나아지는 기계를 구축한다.
   3. 기업별 위치: 모든 회사는 이 여정의 서로 다른 지점에 있으며, 행사 참석자들은 서로의 위치와 방법을 비교해야 한다.

4. 오픈 웨이트 시대의 성능과 AI 스택 구조

오픈 모델의 웨이트를 통제할 수 있다는 점이 자체 AI의 천장을 높이며, 동시에 생산 스택과 개발 스택을 모두 직접 운영해야 하는 복잡성을 가져온다.

4.1. 2026년의 새로운 가능성

1. 프런티어 수준에 가까운 출발점

   1. 모델의 진전: 최신 오픈 웨이트 모델, 특히 Kimi K3와 GLM52가 매우 좋아지고 있다.
   2. 출발선의 변화: 자체 모델을 처음부터 만드는 것이 아니라, 이미 프런티어 수준에 가까운 베이스라인에서 출발할 수 있다.

2. 웨이트의 가소성(malleability)

   1. 폐쇄형 API와의 차이: 오픈 웨이트는 폐쇄형 API보다 훨씬 유연하게 수정할 수 있다.
   2. 성능을 만드는 조합: 충분히 좋은 기술 로드맵, 강한 포스트 트레이닝, 프롬프트·하네스 엔지니어링, 온라인 러닝을 결합하면 특정 업무에서 프런티어보다 나은 성능에 도달할 수 있다.
   3. 시점의 의미: 발표자는 이것이 2026년에 새롭게 가능해진 중요한 변화이며, 사람들이 자체 지능을 진지하게 고려하는 큰 이유라고 강조한다.

4.2. 생산 스택과 개발 스택

1. 생산 스택(production stack)

   1. 사용자에게 보이는 지능: 생산 스택은 사용자가 보는 모든 토큰을 만들어내는 사용자 대면 지능이다.
   2. 기본 구조: 발표자는 생산 지능을 모델 위에 올라간 하네스(harness on top of a model)로 생각한다.
   3. 포함 요소: 모델, 프롬프트, 컨텍스트, 도구, 라우팅, 업무 로직이 조합되어 실제 제품의 응답을 만든다.

2. 개발 스택(development stack)

   1. 목적: 개발 스택은 지능을 더 좋게 만들기 위해 사용하는 도구와 벤더의 집합이다.
   2. 폐쇄형 생태계: Opus·GPT 같은 파운데이션 모델과 각 모델이 제공하는 기본 하네스만으로도 상당한 수준까지 도달할 수 있다.
   3. 가능한 작업: 자체 하네스·프롬프트를 만들고, 모델에 컨텍스트를 넣고, 자체 eval을 수행할 수 있다.

4.3. 폐쇄형 스택의 높은 바닥과 낮은 천장

1. 장점 — 높은 바닥(high floor)

   1. 단순한 API 호출: 강한 기본 모델과 기본 하네스를 곧바로 호출할 수 있다.
   2. 초기 생산성: 데이터 수집이나 자체 모델 학습을 대규모로 준비하지 않고도 제품을 만들 수 있다.

2. 한계 — 낮은 천장(low ceiling)

   1. 데이터의 통제 부족: 자체 데이터를 사용해 지능을 지속적으로 개선하는 능력이 제한된다.
   2. 생산 데이터의 미활용: 실제 고객이 만들어내는 라이브 데이터를 자기 모델의 학습·개선 루프로 연결하기 어렵다.
   3. 결론: 폐쇄형 스택은 빠르고 안정적인 출발점이지만, 특정 도메인에서 최적화된 자체 지능으로 올라갈 수 있는 상한은 낮다.

4.4. 자체 지능을 소유할 때 열리는 판도라의 상자

1. 단일 API에서 복합 시스템으로

   1. 기존 방식: 하나의 모델 API를 부르고 기본 성능을 얻으면 된다.
   2. 자체 방식: 오픈소스 베이스 모델을 선택하고, 그 위에 하네스를 위해 포스트 트레이닝을 수행해야 한다.
   3. 운영 책임: 여러 오픈 하네스 중 하나를 선택한 뒤 하네스·로직·도구·컨텍스트를 직접 구성해야 한다.

2. 컨텍스트(context)가 성능을 결정한다

   1. 벡터 데이터베이스: Turbopuffer 같은 벡터 데이터베이스를 이용해 관련 정보를 검색해 넣는다.
   2. 엔터프라이즈 지식 그래프: Glean 같은 기업 지식 그래프를 활용한다.
   3. 오픈소스 커넥터: MCP(Model Context Protocol)를 통해 외부 도구·데이터 시스템과 연결한다.
   4. 웨이트에 기억을 인코딩하는 접근: Engram의 Dan Beirerman이 연구하는 것처럼 컨텍스트 자체를 모델 웨이트에 인코딩하는 새로운 메모리 접근도 있다.
   5. 실천 권고: 메모리와 컨텍스트에 관심이 있는 참석자는 휴식 시간에 Dan과 이야기해보라는 안내가 있었다.

3. 개발 스택의 필수 구성 요소

   1. 평가와 드리프트 관찰: 지능이 어느 수준인지 측정하고, 생산 환경에서 모델 성능이 드리프트하는지 지속적으로 확인한다.
   2. 고품질 학습 데이터: 도메인에 맞는 포스트 트레이닝을 위해 전문가 궤적(expert trajectories), 합성 데이터(synthetic data), 강화학습 환경(RL environments) 등을 마련한다.
   3. 온라인 러닝: 사용자의 상호작용이 다음 개선에 반영되도록 시스템을 설계한다.

5. 행사 워크숍으로 연결되는 실행 항목

행사의 나머지 프로그램은 자체 프리트레이닝을 제외하고, 기업이 실제 AI를 소유하는 데 필요한 구성 요소를 실습하도록 설계된다.

5.1. 기술 워크숍 라인업

1. 모델 개선과 평가

   1. Fireworks의 Lynn: 포스트 트레이닝 워크숍을 이끈다.
   2. LangChain의 Harrison: 하네스와 evals를 다룬다.

2. 데이터·환경·온라인 개선

   1. Meror의 Brendan: RL 환경, 합성 데이터 등을 다룬다.
   2. Trajectory: 온라인 러닝을 다룬다.

3. 전체 전략 통합

   1. Harvey: 회사 전체 AI 스택과 전략을 어떻게 구축했는지에 관한 워크숍을 이끈다.
   2. Harvey Research: Harvey는 행사 전날 Harvey Research를 발표했으며, 행사에 참여한 여러 기술 파트너가 이날 직접 발표한다.
   3. 행사의 의도: 포트폴리오 안팎의 기술 파트너를 총동원해 구호와 실제 구현 사이를 연결한다.

주요 발언 모음

“Sovereign AI refers to companies owning their own intelligence without external dependencies down to the weights.”

“We are definitely not telling our companies to get off Opus or GPT.”

“Companies want to own their intelligence. They want to own, not rent, their weights.”

“Not your weights, not your product.”

“The product is the intelligence, and the newest battleground is for not just the product surface but for the intelligence layer itself.”

“Sovereign AI isn't binary. You're not 0% or 100% sovereign.”

“Start small. Start from scratch. Consider making it your own lab.”

“The beauty of owning your stack is that you can actually drive frontier-level performance now.”

“This is new for 2026. I think this is very, very important.”

핵심 데이터 & 수치

• 약 80명: 행사에 참석한 포트폴리오 회사 창업자와 AI 리더의 규모다.
• 절반 + 절반: 행사는 랠리와 기술적 how-to를 각각 절반씩 지향한다.
• 4가지 이동 이유: 비용, 속도·지연시간, 성능, 자기 운명에 대한 통제다.
• 4단계 로드맵: 전략, 팀, 가독성, 기술 로드맵이다.
• 4가지 소유·임대 판단 기준: 비용, 속도·지연시간, 성능, 독점 데이터다.
• 7명: Harvey가 작은 팀으로도 많은 연구를 발표한 사례로 언급된 규모다.
• 2026년: Kimi K3·GLM52 같은 최신 오픈 웨이트 모델과 포스트 트레이닝·하네스·온라인 러닝 조합이 프런티어를 추월할 수 있는 시점으로 제시된다.
• 약 17분 29초: 영상의 길이다.
• 5개 실행 워크숍 축: Fireworks의 포스트 트레이닝, LangChain의 하네스·evals, Meror의 RL 환경·합성 데이터, Trajectory의 온라인 러닝, Harvey의 전체 스택·전략 통합이다.

결론 및 시사점

1. 자체 AI를 만든다는 말은 폐쇄형 모델을 전면 거부한다는 뜻이 아니라, 제품의 비용·속도·성능·데이터·전략을 결정하는 부분을 골라 직접 소유한다는 뜻이다.
2. 첫 번째 결정은 “모든 것을 만들 것인가”가 아니라 “우리 제품에서 외부 의존성이 가장 위험한 지능 능력은 무엇인가”를 정하는 것이다.
3. 저마진·고호출 기능과 초저지연 기능은 비용과 속도 때문에 자체 모델의 투자 우선순위가 높다.
4. 독점 데이터가 성능의 핵심인 바이오·보안 같은 도메인은 웨이트를 소유할 때 데이터의 가치를 제품 지능으로 전환할 수 있다.
5. 기존 플랫폼 팀에 연구를 덧붙이기보다, 프런티어를 탐색하고 공격적으로 성능을 만드는 작은 독립 랩을 출발점으로 삼아야 한다.
6. 외부 가독성은 홍보 장식이 아니라 고객이 기술적 우위를 판단하고 AI 챔피언을 선택하게 만드는 사업 인프라다.
7. 기술적으로는 평가를 먼저 정의하고, 라우터·하네스·컨텍스트를 실험한 뒤, 필요할 때 포스트 트레이닝과 더 깊은 학습으로 내려가야 한다.
8. 오픈 웨이트 모델은 높은 기본 성능과 웨이트 수정 가능성을 함께 제공하므로, 특정 도메인에서는 폐쇄형 API의 성능 상한을 넘어설 수 있다.
9. 그 대가로 모델 선택, 포스트 트레이닝, 하네스 구성, 컨텍스트·도구 연결, 데이터 품질, 평가 드리프트, 온라인 러닝을 직접 운영해야 한다.
10. 가장 현실적인 시작점은 현재 제품을 지탱하는 지능의 비용과 병목을 측정하고, 한 가지 능력에 대해 작은 실험용 랩·평가 세트·오픈 모델을 연결하는 것이다.

핵심 요약 (20줄)

1. 이 행사는 약 80명의 창업자와 AI 리더에게 자체 지능을 소유하는 방법을 설명하는 자리다.

2. Sovereign AI는 외부 의존성 없이 기업이 제품 지능을 웨이트 수준까지 통제하는 개념이다.

3. 자체 지능을 만든다고 해서 Opus나 GPT 같은 폐쇄형 API를 모든 영역에서 버리라는 뜻은 아니다.

4. 기업은 제품의 중요도에 따라 어떤 능력은 임대하고 어떤 능력은 직접 소유해야 한다.

5. 기업이 자체 지능으로 이동하는 이유는 비용, 속도, 성능, 자기 운명에 대한 통제의 네 가지다.

6. AI 제품이 성공할수록 호출량과 AI COGS가 증가하므로 저마진 사업에서는 모델 소유가 필수가 될 수 있다.

7. 코딩 에이전트는 기본 성능 때문에 임대되는 경우가 많지만, 탭 자동완성은 속도와 호출 비용 때문에 자체 모델로 이동한다.

8. 보안과 바이오 기업은 각각 속도·성능과 독점 데이터의 가치 때문에 자체 모델을 선택할 수 있다.

9. “Not your weights, not your product”는 지능의 웨이트를 통제하지 못하면 제품의 핵심도 완전히 소유하지 못한다는 비유다.

10. AI 제품 경쟁은 UI와 시장 진입을 넘어 제품 안의 지능 계층을 누가 소유하는지로 이동하고 있다.

11. Harvey, Factory, Glean, OpenEvidence, Ramp 같은 애플리케이션 회사가 새로운 응용 AI 연구소가 되고 있다.

12. 자체 지능 구축의 로드맵은 전략, 팀, 가독성, 기술 로드맵의 네 단계로 구성된다.

13. 소유와 임대의 경계는 비용, 지연시간, 성능, 독점 데이터라는 네 기준으로 정한다.

14. 연구 조직은 기존 플랫폼 팀에 억지로 추가하기보다 작고 독립적인 de novo 랩으로 시작하는 편이 낫다.

15. Harvey의 7명 연구팀은 작은 조직도 프런티어 수준의 연구를 발표할 수 있음을 보여주는 사례다.

16. CEO는 실질적 결과뿐 아니라 외부 가독성과 기술적 서사를 함께 관리해야 한다.

17. 기술 로드맵은 평가 정의, 모델 라우터와 하네스 실험, 포스트 트레이닝, 필요 시 미드·프리트레이닝 순서로 진행된다.

18. Kimi K3와 GLM52 같은 최신 오픈 웨이트 모델은 2026년 자체 지능의 출발선을 프런티어 근처로 끌어올렸다.

19. 자체 스택은 모델뿐 아니라 컨텍스트, 도구, 데이터, 평가, 드리프트 모니터링, 온라인 러닝까지 포함한다.

20. 가장 현실적인 실행은 한 가지 핵심 능력을 골라 평가 세트와 작은 독립 팀을 만들고 오픈 웨이트 모델을 제품 피드백 루프에 연결하는 것이다.