Kavak's Playbook for Rebuilding a Company Around AI

URL: https://www.youtube.com/watch?v=n34CIw3gk1k
날짜: 2026-08-13
채널: a16z
출연: Ali Masa (Kavak Head of AI, 전 Oppy Analytics 창업자)

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

AI를 기존 회사에 보조 도구로 덧붙이는 것이 아니라, 회사 전체를 미래의 초지능 에이전트(Agent) 조직으로 다시 설계하려면 무엇을 바꿔야 하는가? Ali Masa의 답은 조직·API·데이터·평가(Eval)·성과지표를 모두 에이전트 중심으로 다시 만들고, 고객 한 명마다 장기 목표를 가진 에이전트를 배치하는 것이다.

• Kavak은 중고차 판매만 하는 회사가 아니라 차량 매입·정비·판매·금융·보험·물류까지 수직 통합한 회사이므로, 고객 여정 전체를 하나의 에이전트가 책임질 여지가 크다.
• 성공의 기준은 AI 사용량이나 통화 시간 같은 활동량이 아니라 전환(Conversion), 고객 만족, 재참여, 생애가치(Lifetime Value) 같은 사업 결과다.
• 에이전트를 실제 고객과 가장 어려운 업무 앞에 배치해 데이터를 만들고, 그 데이터를 다시 평가와 학습에 넣어야 한다.
• 기존 기업이 얕게 AI를 도입하는 동안, 처음부터 AI 네이티브하게 설계된 신생 기업이 창조적 파괴(Creative Destruction)를 일으킬 수 있다.

Kavak의 플레이북은 “미래의 회사를 지금부터 만드는” 방식이다. 에이전트는 단순한 챗봇이나 정해진 워크플로가 아니라 고객별 장기 목표를 추구하며 기억·도구·API·평가 시스템을 사용하는 지속적인 실행 주체다. 인간은 사라지는 대신 에이전트를 설계하고, 에이전트와 함께 물리 세계의 일을 수행하며, 에이전트가 막힌 지점을 해결하는 역할로 재훈련된다.

1. 출발점: 머신러닝 회사에서 AI 네이티브 Kavak으로

회사의 전환은 새 모델 하나를 붙이는 프로젝트가 아니라, 회사를 만드는 방식 자체를 바꾸는 결단에서 시작됐다.

1.1. Ali Masa의 사전 경험

1. 트랜스포머 이전부터 이어진 문제 해결의 비전

   1. 2013년의 머신러닝 창업: Ali는 ChatGPT와 트랜스포머(Transformer) 이전인 2013년에 Oppy Analytics를 공동 창업했다.
   2. 당시의 가설: 새로운 머신러닝 모델이 충분히 강력해지면 복잡한 문제를 무엇이든 해결할 수 있다는 야심 찬 비전을 세웠다.
   3. 10년 앞선 시도: 실제 시장보다 약 10년 앞선 선택이었지만, Fortune 500 기업을 대상으로 위험 분석(Risk Algorithms), 물류(Logistics), 예측(Forecasting), 마케팅을 제공하는 좋은 회사를 만들었다.

2. ChatGPT가 바꾼 회사 설계의 가능성

   1. 기술 세대의 전환: 트랜스포머와 ChatGPT가 등장하자 이전의 특수 목적 모델과 달리 일반 지능을 가진 실행 시스템을 만들 수 있다는 점이 분명해졌다.
   2. Kavak 합류: Ali는 이 가능성을 실제 기업에 적용하기 위해 Carlos와 함께 Kavak에 합류했다.

1.2. Kavak이 해결하는 문제

1. 중고차 마켓플레이스에서 시작한 수직 통합 회사

   1. 기본 사업: Kavak은 차량을 매입하고(refurbish), 재정비한 뒤 판매하며, 고객에게 금융도 제공한다.
   2. 필요한 인프라: 라틴아메리카에는 이 사업을 제대로 운영하는 데 필요한 금융기술(Fintech), 물류(Logistics), 차량 이력·검증(CarFax에 해당하는 기능) 인프라가 충분히 존재하지 않았다.
   3. 직접 구축: 고객을 제대로 서비스하려고 금융·물류·검증을 모두 수직적으로 직접 만들었다. 이 복잡한 통합 구조가 AI 에이전트 실험의 기반이 됐다.

2. 에이전트가 적용될 수 있는 고객 여정

   1. 고객의 선택 폭: 차량 구매자는 약 20,000개의 SKU 중에서 차를 고르고, 금융·보험·보장(coverage)을 선택해야 한다.
   2. 거래의 복합성: 고객이 타던 차량을 트레이드인하면 그 차량의 가격을 산정해야 한다. 과거에는 금융, 차량 자문, 매입, 보험 등 15개 분야의 전문가와 15개 팀이 순차적으로 관여했다.
   3. AI의 기회: 각 전문 영역에서 인간 전문가보다 뛰어난 능력을 가진 에이전트를 하나의 ‘메가 전문가’로 결합하면 고객은 하나의 일관된 상대와 거래할 수 있다.

2. 고객별 장기 목표 에이전트라는 아키텍처

Kavak은 “2035년에 GPT-10 수준의 지능으로 회사를 새로 만든다면 어떤 모습일까?”라는 질문에서 설계를 역산했다.

2.1. 고객 한 명에게 하나의 실행 주체를 붙인다

1. 고객 전용 가상 머신과 기억

   1. 에이전트 생성: 고객이 들어오면 그 고객을 위해 별도의 에이전트가 생성되고, 자체 가상 머신(Virtual Machine)에서 실행된다.
   2. 장기 기억: 에이전트는 고객이 과거에 본 웹페이지, 2년 전 통화, 이전 상호작용 등 Kavak과의 기록을 기억한다.
   3. 개인별 전략: 전체 이력을 바탕으로 전략을 만들고 장기 목표를 세운다.

2. 단기 업무가 아닌 고객 생애가치 최적화

   1. 하나의 목표: 에이전트는 단순히 현재 문의를 끝내는 것이 아니라 고객의 생애가치(LTV)를 최대화한다.
   2. 제품 간 연결: 차량 판매뿐 아니라 금융과 개인 대출 등 Kavak의 여러 제품을 고객이 필요로 하는 시점에 연결한다.
   3. 관계의 지속성: 고객이 행복하고 신뢰하도록 만든 뒤 시간이 지나 다시 전환하도록 장기적으로 계획하고 돌본다.

2.2. 워크플로와 장기 실행 에이전트의 차이

1. 기존 멀티 에이전트 방식의 한계

   1. 전문가 그래프: 많은 기업은 전문가 여러 명을 연결한 멀티 에이전트 시스템이나 고정된 워크플로를 만든다.
   2. 제약 효과: 더 강력한 모델이 등장하면 미리 짜 둔 그래프·함수·워크플로가 모델의 지능을 제한할 수 있다.

2. Kavak의 새로운 기본 단위

   1. 고객당 에이전트: 업무당 에이전트가 아니라 고객당 에이전트를 두고, 한 고객의 복합적인 목표를 처음부터 끝까지 수행한다.
   2. 에이전트의 구성: 가상 머신, 장기 기억, 평가(Evals), 회사의 모든 API와 도구에 접근하는 CLI, 그리고 생애가치 최대화라는 장기 목표를 묶는다.
   3. 일시적 실행과 재개: 에이전트는 3분 일할 수도 있고 8시간 또는 3일 동안 일할 수도 있다. 다음 작업을 위한 알람을 설정하고 잠들었다가 다시 깨어난다.

3. 회사 전체를 다시 만드는 세 가지 결정

Kavak의 전환은 기존 조직에 ChatGPT를 배포하는 방식으로는 불가능했다. Ali는 세 가지 핵심 결정을 설명했다.

3.1. 첫 번째 결정: 에이전트가 사용할 회사로 재설계한다

1. 도구를 추가하는 방식의 실패

   1. 일반적인 첫 반응: 기존 조직과 시스템을 그대로 두고 팀에 ChatGPT나 클라우드 도구만 제공한다.
   2. 결과의 부재: 고객의 문제는 그대로이고 효율성도 생기지 않으며, 회사에서 실제로 달라지는 것이 없다.

2. 내부 기반의 재구축

   1. API 재작성: 에이전트가 업무를 수행할 수 있도록 회사의 대부분 API를 다시 만든다.
   2. 시스템 재설계: 사람을 위한 화면과 프로세스만이 아니라, 에이전트가 호출하고 조합할 수 있는 시스템으로 바꾼다.
   3. 회사 자체의 재건축: AI를 도입하는 것이 아니라 에이전트와 미래의 능력을 중심으로 회사를 다시 설계한다.

3.2. 두 번째 결정: 실제 고객 앞에서 피드백 루프를 만든다

1. 에이전트는 가르쳐야 한다

   1. 데이터 생성: 에이전트를 세상 밖으로 내보내 고객 앞에 배치하고, 실제 행동 데이터를 얻는다.
   2. 평가 생성: 고객 반응과 사업 결과를 eval로 만들고, 그 결과로 에이전트를 훈련한다.
   3. 어려운 문제에 투입: 가장 쉬운 내부 데모가 아니라 가장 어려운 고객 문제에 에이전트를 먼저 배치한다.

2. 슈퍼휴먼 에이전트라는 베팅

   1. 평가 기준: 전환율, 생애가치, 고객 경험처럼 실제로 중요한 모든 차원에서 인간이 지금까지 고용한 최고의 사람을 넘는 것을 목표로 했다.
   2. 지식의 전파: 한 에이전트가 실수해 배우면 그 학습이 다음 날 다른 수십만 에이전트에도 적용된다.
   3. 누적 효과: 개인의 학습이 아니라 전체 에이전트 집단의 피드백 루프가 성능과 만족도를 함께 끌어올린다.

3.3. 세 번째 결정: 거래량 회사에서 관계 회사로 바꾼다

1. 기존 지표의 전환

   1. 거래 중심 지표: 과거에는 몇 대를 매입했는지, 몇 대를 판매했는지, 브레이크 패드를 얼마나 구매했는지 측정했다.
   2. 관계 중심 지표: 이제 약 1,000만 명의 고객 데이터베이스와 대부분 고객에게 배정된 에이전트를 중심으로 생애가치를 측정한다.

2. Kavak에 특히 맞는 이유

   1. 높은 객단가: 자동차와 개인 대출은 매우 고가의 제품이므로 고객 기반의 1%만 활성화해도 수억 달러 규모의 가치가 될 수 있다.
   2. 신뢰의 필요성: 중고차 구매는 고객이 회사와 신뢰를 쌓아야 하는 거래다.
   3. 수직 통합의 이점: 차량·금융·물류 데이터를 함께 보면서 고객을 이해하고, 단일 거래가 아니라 장기 관계를 설계할 수 있다.

4. 평가(Evals)와 실제 성과로 검증한 에이전트

Kavak의 속도는 안전장치가 없는 무모함이 아니라, 좋은 브레이크에 해당하는 eval을 함께 갖추는 데서 나온다.

4.1. 에이전트는 이미 고객을 상대한다

1. 자동화의 현재 범위

   1. 상호작용: 전체 고객 상호작용의 약 96%를 에이전트가 처리한다.
   2. 거래: 전체 거래의 약 95%가 에이전트로 완전히 처리된다.
   3. 물리적 예외: 고객이 차량을 픽업할 때 열쇠를 건네는 사람이 필요한 것처럼, 물리적 접점만 인간이 담당한다.

2. 빠르게 가기 위한 브레이크

   1. 속도와 통제의 관계: 자동차에서 가속 페달을 세게 밟으려면 좋은 브레이크가 필요하듯, AI의 속도도 eval의 품질에 달려 있다.
   2. 투자 원칙: 에이전트를 만드는 데 쓰는 엔지니어 시간·토큰·돈과 거의 같은 규모를 eval 구축에도 쓴다.
   3. 평가를 나중에 붙이지 않기: eval을 사후 점검으로 취급하지 않고 에이전트와 동등한 제품으로 만든다.

4.2. 피상적 KPI가 아닌 사업 결과를 측정한다

1. 가장 먼저 확인하는 것

   1. 전환: 고객이 차를 구매했는지, 차량을 Kavak에 판매했는지, 대출 승인을 받았는지 확인한다.
   2. 고객 가치: 고객에게 실제 가치가 있었는지, 시간이 지난 뒤 다시 Kavak과 관계를 맺고 싶어 하는지 확인한다.
   3. 잘못된 대체 지표: 통화 횟수, 통화 시간 같은 표면적 KPI는 정보를 주지만 에이전트가 올바른 결과를 냈는지는 말해주지 못한다.

2. 평가에서 아키텍처로 이어지는 루프

   1. 결과 연결: eval을 사업 결과와 연결하면 어떤 에이전트 구조가 실제로 효과적인지 보인다.
   2. 스킬 확장: 그 결과에 맞춰 에이전트에 스킬을 추가하고 수백만 고객에게 확장한다.

4.3. 판매·금융에서 확인한 성과

1. 고객 상담이 아닌 판매 에이전트

   1. 처음부터 높은 레버리지 업무에 투입: Kavak은 고객지원 에이전트만 만든 것이 아니라 자동차를 판매하는 에이전트를 만들었다.
   2. 메가 전문가: 금융·차량 자문·매입·보험 등 15개 전문 분야를 하나의 고객 대면 에이전트로 결합했다.
   3. 고객 경험: 에이전트 투입 후 NPS와 고객 만족도 점수가 3배가 됐다.

2. 판매 성과의 개선

   1. 초기 성과: 처음에는 인간 팀보다 전환율이 50% 높았다.
   2. 현재 성과: 이후 인간 팀 대비 2.1배 이상의 전환을 달성했다.
   3. 성공 원인: 에이전트는 무한히 인내하고, 고객의 전 이력을 알고, 장기 계획을 세우며, 피곤해하지 않는다.

3. 금융 상품의 개인화

   1. 차량 대출 승인: 멕시코와 일부 신흥시장에서 보통 두 달 이상 걸리던 자동차 대출 승인을 3분 이내에 처리한다.
   2. 수직 통합의 보호 장치: 고객이 차 값을 감당하지 못하면 차량을 돌려받고 더 저렴한 차로 바꿔 월 납입액을 낮출 수 있다.
   3. 장기 의사결정 지원: 자동차 구매와 대출은 고객이 결정을 내리는 데 보통 3~4개월이 걸리는 중요한 일이다. 그 기간 동안 고객을 이해하면 전환율과 유지율이 크게 높아진다.
   4. 위험 기반 제안: 고객 위험도와 포트폴리오 전체를 고려하면서도, 개인별 금리·대출 한도·위험 수준·다른 제안을 맞춘다.

5. CEO 에이전트와 물리 세계의 인간-에이전트 협업

AI의 범위는 고객 접점을 넘어 도시 운영과 정비 현장으로 확장되고 있다. 다만 손재주와 감각이 필요한 물리 업무는 인간을 대체하기보다 보조한다.

5.1. Cuernavaca 실험: AI CEO

1. 가장 어려운 직무를 지금 시험한다

   1. 질문: 2035년의 발전 속도라면 CEO까지 AI가 할 수 있을까? Ali의 솔직한 답은 “아마 그렇다”였다.
   2. 실험 설계: 멕시코의 한 도시인 Cuernavaca를 떼어내 Kavak의 하네스 안에 CEO 에이전트를 넣고, 실제로 학습·결정·평가하게 했다.
   3. 초기 기간: 인터뷰 시점에 실험은 약 6주간 실행 중이었다.

2. 수익과 운영 지표의 변화

   1. 목표: 첫 달에 도시의 이익을 2배로 만드는 것이 목표였다.
   2. 실제 결과: 목표에는 도달하지 못했지만 이익이 1.5배, 즉 50% 증가했다.
   3. 운영 방식: 에이전트는 모든 숫자와 고객을 살피고 정교한 예측을 만들며, 계획을 달성하기 위해 매일 실행해야 할 일을 세세하게 관리했다.
   4. 현장 루프: 물리 노동자에게 하루 계획을 메시지로 보내고, 진행 상황을 음성 메시지(Voice Note)로 회신받았다.
   5. 영향: 고객 만족도, 재고 구성, 재고 회전, 금융 침투율 등 거의 모든 KPI가 개선됐다.

5.2. 정비사와 El Mike 사이드킥

1. 물리 세계의 한계

   1. 대체가 어려운 능력: 멕시코의 약 800명 정비사에게는 손재주(Dexterity)와 감각(Senses)이 필요하며, 이를 소프트웨어만으로 대체하기 어렵다.
   2. 직무의 미래: 그래서 정비사를 없애는 대신 같은 에이전트 하네스를 정비사 옆에 배치한다.

2. Ratatouille 비유와 성과

   1. 사이드킥: 영화 Ratatouille에서 쥐가 인간 요리사를 조종·협업하듯, ‘El Mike’라는 에이전트가 정비사의 사이드킥이 된다.
   2. 지원 내용: 차량을 어떻게 검사할지 알려주고, 놓치기 쉬운 팁과 올바른 검사 방법을 보여준다.
   3. 운영 개선: 검사와 수리가 빨라지고 비용은 낮아졌으며, 고객에게 인도하는 차량의 품질은 높아졌다.
   4. 보증 지표: 출시 이후 보증(Warranty) 관련 지표가 약 20~26% 감소했고, 고객 만족도는 다시 상승했다.

6. 인간의 역할과 조직 구조의 재설계

“모든 사람의 직무가 바뀐다”는 전제를 받아들이고, 사람을 새로운 기술의 사용자로 재훈련하는 것이 Kavak의 조직 전략이다.

6.1. Jedi Academy로 전 직원 재훈련

1. 전사적 교육의 이유

   1. 직무 변화의 전제: 지금 인간이 하는 많은 일은 몇 년 뒤 AI 에이전트가 더 잘 수행할 수 있다.
   2. 외부 교육의 한계: 이 기술은 너무 새롭고 빠르게 변하므로 사람을 Stanford 같은 외부 학교에 보내는 것으로는 충분하지 않다.
   3. 내부 프로그램: Kavak은 ‘Jedi Academy’를 만들고 Ali가 직접 프로그램을 설계하고 계속 업데이트했다.

2. 교육 대상과 결과

   1. 모든 직군: CEO, AI 엔지니어, 금융 담당자, 일반 엔지니어, 정비사까지 누구나 참여한다.
   2. 6주 후의 산출물: 참가자는 6주 뒤 state-of-the-art AI 에이전트를 실제 프로덕션에 배포한다.
   3. 역할의 변화: 모두가 AI 엔지니어가 될 필요는 없지만, 새로운 기술과 협업하는 법과 에이전트 시스템을 만드는 법을 알게 된다.
   4. 선택의 명확성: 회사가 AI 네이티브로 가는 길은 되돌릴 수 없다는 점을 공개하고, 그 현실에 맞는 기술을 익히거나 회사가 가는 방향이 맞지 않으면 떠날 수 있게 했다.

6.2. 에이전트와 인간이 함께 일하는 평평한 조직

1. 새로운 조직의 모양

   1. 문화 강화: 교육은 불안을 키우기보다 문화를 강화하고 구성원의 기대와 흥분을 높였다.
   2. 협업의 일상화: Kavak의 각 프로세스는 에이전트와 인간의 협업이 됐다.
   3. 역할의 양방향성: 어떤 때는 에이전트가 인간의 보스이고, 어떤 때는 인간이 에이전트를 설계한다.

2. 중간관리의 축소

   1. 평평하고 시니어한 팀: 조직은 매우 평평하고, 각 팀은 시니어하며, 강하게 권한을 위임받는다.
   2. 팀 구성: 엔지니어링·AI·운영 등 필요한 역량이 한 팀에 함께 있다.
   3. 업무 위치: 구성원은 에이전트를 만들거나, 에이전트를 위해 일하거나, 고객 앞의 물리 세계에서 일한다.
   4. 재훈련의 필수성: 2022~2023년에는 에이전트를 만들거나 돕거나 에이전트의 지시를 받는 사람이 없었으므로, 불과 2년 전과 완전히 다른 조직 구조가 됐다.

6.3. ‘Human in the Loop’를 학습 루프로 바꾸기

1. 기존의 실패하는 핸드오프

   1. Tier 2로 떠넘기기: 에이전트가 막히면 고객 사례를 Tier 2 지원팀으로 보내고 시스템은 그 일에서 끝난다.
   2. 학습의 단절: 인간이 해결해도 에이전트가 왜 막혔는지, 다음에는 어떻게 해야 하는지 데이터가 남지 않는다.

2. Kavak의 폐쇄 루프

   1. 고객별 에이전트 유지: 수백만 고객 각각에 집착하는 전담 에이전트를 두고, 회사의 모든 API와 스킬에 접근하게 한다.
   2. 인간 호출 API: 에이전트가 막히거나 어떤 일을 취소해야 하면 “도움이 필요하다”고 API를 호출한다.
   3. 반대편의 사람: 그 호출을 받는 것은 다른 소프트웨어가 아니라 인간이다. 인간은 그 순간 에이전트와 고객을 도와준다.
   4. 조직도상의 형태: 조직도를 그리면 ‘에이전트를 가진 인간 팀’이 된다. 인간의 판단과 에이전트의 실행이 결합되고, 해결 결과가 다시 에이전트 개선으로 이어진다.

7. 기업 리더를 위한 도입 원칙: 위에서 정하고, 가치 있는 토큰을 측정하라

모델의 성능보다 도입이 어려운 이유는 조직의 심리와 방향성에 있다. Ali는 리더가 두 가지를 먼저 해결해야 한다고 말한다.

7.1. 하향식 변환과 명확한 미래상

1. 왜 상향식 실험만으로 부족한가

   1. 사용량의 한계: 구성원에게 도구를 나눠주는 것만으로는 회사 전체가 어디로 가야 하는지 정해지지 않는다.
   2. 해커톤의 한계: 해커톤에서 나온 수많은 유스케이스를 일부 후원하는 방식은 조직 변환으로 이어지지 않는다.
   3. 선택의 문제: 무엇을 만들고 무엇을 만들지 말아야 할지에 대한 전략적 취향과 판단을 현장에 맡길 수 없다.

2. 리더가 해야 할 일

   1. 3~5년 뒤 회사 정의: 회사가 3년 또는 5년 뒤 어떤 모습이어야 하는지 먼저 명확히 한다.
   2. 수직적 안내: 군대가 모두 각자 전략과 전술을 정해 전장으로 가면 작동하지 않듯, 리더가 명확한 전략으로 조직을 이끈다.
   3. 전사적 채택: 변화는 아래에서 채택되기를 기다리는 것이 아니라 CEO와 리더가 먼저 채택하고 방향을 제시해야 한다.

7.2. 토큰 사용량이 아니라 토큰의 질을 측정한다

1. 세 단계 토큰 가치 프레임워크

   1. Tier 3 — 직접 ROI가 보이는 토큰: 조직의 실제 직무를 수행하는 에이전트에 사용된 토큰이다. 해당 토큰 하나가 어떤 ROI를 냈는지 직접 계산할 수 있어 가장 가치가 높다.
   2. Tier 2 — 간접적으로 측정되는 토큰: 개발자가 코드베이스에 남긴 결과처럼, 토큰이 만든 산출물의 가치를 간접적으로 평가할 수 있는 사용이다. 충분히 가치가 있으면 프로덕션으로 확장한다.
   3. Tier 1 — 측정할 수 없는 도구 사용: 단순히 Claude Code, ChatGPT, Codex/‘Cowork’ 등 플러그형 도구를 사용한 토큰이다. 조직에 어떤 가치가 생겼는지 알 수 없다.

2. 리더의 점검 질문

   1. 채택률의 함정: 수억 달러를 토큰에 쓰고 “도입률이 높아졌다”고 말하는 것만으로는 충분하지 않다.
   2. 가치 연결: 각 토큰이 회사의 명확한 목표에 어떻게 기여했는지 측정해야 한다.
   3. 반복 개선: 전략·eval·토큰 가치 측정을 연결한 뒤 계속 반복하고 개선한다.

8. 새로운 회사가 기존 회사를 이기는 이유

기존 회사가 AI를 깊게 도입하기 어려운 구조 자체가 창업자에게 기회가 된다.

8.1. 창조적 파괴의 재등장

1. Schumpeter의 관점

   1. 기술 채택의 방식: Joseph Schumpeter의 창조적 파괴 이론에 따르면 혁신은 기존 회사가 새 기술을 조금씩 채택해서만 경제에 들어오지 않는다.
   2. 신규 기업의 역할: 기존 기업이 예전 방식에 머무는 사이 새 기술을 중심에 둔 기업이 기존 회사를 파괴한다.
   3. 단기와 장기: 단기적으로는 경제의 가치가 파괴되지만, 장기적으로는 더 효율적이고 효과적인 제품·서비스가 모두에게 제공된다.

2. 대기업이 급진적으로 바꾸기 어려운 이유

   1. CEO의 부담: 특히 규모가 큰 상장기업 CEO가 “AI에 모든 것을 걸고 40년 동안 만든 회사를 허물어 AI 네이티브로 다시 짓겠다”고 말하기는 어렵다.
   2. 점진적 도입의 한계: 기존 매출·조직·시스템을 보호하면서 AI를 덧붙이면 구조적인 10배 개선 대신 6~10% 개선에 그친다.

8.2. 전기와 컴퓨터가 준 역사적 교훈

1. 전기 도입의 6% 함정

   1. 기술은 먼저 존재했다: Ford의 생산라인에 필요한 기술은 1879~1881년에 개발됐고, Edison은 뉴욕과 런던에서 전기를 상업화하기 시작했다. 효율적인 발전기(Dynamo)도 있었다.
   2. 피상적 도입: 공장주들은 4층짜리 공장, 축·벨트 구조를 그대로 두고 석탄 엔진만 전기 엔진으로 교체했다.
   3. 작은 이익: 이런 방식은 이익을 주지만 생산성 향상은 약 6%에 불과했다.

2. 공장 자체를 다시 설계한 3배 개선

   1. 필요한 재설계: 공장을 허물고 평평한 공간에, 뉴욕 중심지가 아니라 Connecticut나 New Jersey 같은 곳에, 작은 발전기와 전기를 중심으로 다시 지어야 했다.
   2. 결과: 공장 구조를 전기 중심으로 바꾸자 생산성이 약 3배로 높아져 20세기 미국의 성장을 이끌었다.
   3. 반복되는 패턴: 컴퓨터에서도 같은 일이 일어났고, 오늘날 AI에서도 같은 패턴이 반복되고 있다.

3. AI에 적용한 결론

   1. 얕은 도입: 기존 회사를 그대로 두고 AI만 덧붙이면 6~10% 개선에 머문다.
   2. 깊은 도입: 조직·API·지표·직무를 AI의 강점에 맞게 다시 만들면 10배에 가까운 변화를 노릴 수 있다.
   3. 산업 규모의 Innovator’s Dilemma: 이것은 한 제품의 혁신이 아니라 산업 전체 규모로 반복되는 혁신가의 딜레마( Innovator’s Dilemma)다.

9. 자기개선 조직(Self-improving Organization)이라는 최종 목표

Kavak이 겨냥하는 것은 단순히 더 똑똑한 모델을 쓰는 것이 아니라, 새 모델이 나올 때마다 스스로 더 많은 경제적 가치를 내는 조직의 루프다.

9.1. 모델보다 조직을 자기개선 대상으로 삼기

1. 기존 RSI 논의의 확장

   1. 모델 중심 관점: 사람들은 재귀적 자기개선(Recursive Self-Improvement, RSI)이 모델을 개선할 것이라는 점에 주목한다.
   2. 조직 중심 관점: 지난 4,000년 동안 인류의 경제적 가치는 개인이 아니라 조직이 전달했다.
   3. 새로운 루프: 그러므로 자기개선해야 할 것은 모델만이 아니라, 더 큰 경제적 가치를 배달하는 조직이다.

2. Kavak의 에이전트 루프

   1. 고객별 에이전트가 기억·도구·평가와 장기 목표를 가진다.
   2. 에이전트가 고객과 실제 업무를 수행하고, 결과를 eval에 남긴다.
   3. 인간과 다른 에이전트가 스킬과 API를 개선한다.
   4. 더 나은 모델이 출시되면 수십만 에이전트가 새 지능을 활용한다.
   5. 조직 전체가 개선돼 지능의 증가가 회사가 만드는 가치의 증가로 연결된다.

주요 발언 모음

“오늘 나는 지식 노동자보다 토큰에 더 많이 투자하고 있다.”

“슈퍼휴먼 에이전트를 만들 수 있다. 중요한 모든 차원에서, 우리가 고용했던 최고의 인간보다 에이전트가 뛰어나게 만들 수 있다.”

“AI를 빠르게 움직이려면 브레이크가 필요하다. 우리는 에이전트를 만드는 데 쓰는 시간·토큰·돈만큼 eval에도 투자한다.”

“고객마다 에이전트 하나를 두고, 그 에이전트가 고객의 생애가치를 최대화하도록 하는 것이 우리가 선택한 아키텍처다.”

“실패한 에이전트를 Tier 2에 보내고 잊어버리면 루프가 닫히지 않는다. 지금 작동하는 방식은 에이전트가 도움을 요청하고 인간이 그 에이전트를 도와주는 것이다.”

“2035년의 능력으로 회사를 다시 만든다면 회사는 지금과 매우 다르게 보일 것이다.”

“새 회사는 AI의 강점을 중심으로 만들어질 수 있고, 기존 회사가 얕게 도입하는 동안 시장을 가져갈 수 있다.”

“창업하기에 역사상 가장 흥미로운 시기다. 거의 무료이거나 월 20달러로 누구나 세상에서 가장 강력한 도구와 지능을 쓸 수 있기 때문이다.”

핵심 데이터 & 수치

• 2013년: Ali가 트랜스포머 이전 머신러닝 회사 Oppy Analytics를 시작한 시점이다.
• 약 20,000개 SKU: 고객이 자동차를 고를 때 마주하는 선택 규모다.
• 약 1,000만 명 고객: Kavak이 관계 중심으로 관리하는 고객 데이터베이스 규모다.
• 약 96%: 에이전트가 처리하는 전체 고객 상호작용 비율이다.
• 약 95%: 에이전트가 완전히 처리하는 전체 거래 비율이다.
• 하루 10만~20만 개: 하루에 고객별로 새로 생성되는 에이전트의 규모다.
• 3분~8시간~3일: 한 에이전트가 한 번 깨어서 일하는 실행 시간의 범위다.
• 15개 전문 영역/팀: 과거 자동차 판매 과정에서 금융·자문·매입·보험 등에 필요했던 전문가 구조다.
• 3배: 판매 에이전트 도입 후 NPS와 고객 만족도 점수가 개선된 배수다.
• 50% 증가 → 2.1배 이상: 인간 팀 대비 에이전트의 초기 전환율 우위와 현재 전환 성과다.
• 두 달 이상 → 3분 이내: 일부 시장의 자동차 대출 승인 시간을 줄인 변화다.
• 6주: AI CEO 실험이 진행된 인터뷰 시점과 Jedi Academy의 교육 후 에이전트 배포 기간이다.
• 목표 2배, 실제 1.5배: Cuernavaca 운영을 맡은 AI CEO의 첫 달 이익 목표와 실제 결과다.
• 약 800명: 멕시코에서 Kavak이 고용한 정비사 규모다.
• 약 20~26% 감소: El Mike 출시 후 보증 관련 지표가 줄어든 정도다.
• 3~5년: 기업 리더가 AI 네이티브 회사의 미래상을 먼저 정의해야 하는 시간 지평이다.
• 6%·10% 대 3배: 기존 공장에 전기만 붙이는 얕은 도입의 개선폭과 공장 재설계의 생산성 개선을 대비한 역사적 비유다.
• 약 20달러/월: 창업자가 강력한 AI 도구와 지능에 접근하는 비용으로 Ali가 제시한 예시다.

결론 및 시사점

1. AI 도입은 도구 배포가 아니라 회사 재건축이다: 기존 조직에 챗봇을 배포하는 것만으로는 고객 문제와 비용 구조가 바뀌지 않는다. 에이전트가 업무를 할 수 있도록 API·권한·데이터·프로세스를 다시 만든다.
2. 고객별 장기 목표가 업무별 워크플로보다 강력할 수 있다: 모델이 더 똑똑해질수록 고정된 그래프가 지능을 제한할 수 있으므로, 기억·도구·eval·장기 목표를 가진 실행 주체를 중심에 둔다.
3. 가장 큰 성과는 고객지원 자동화가 아니라 핵심 매출 업무에서 난다: Kavak은 판매·금융·재고·정비처럼 결과를 측정할 수 있고 회사의 가치와 직접 연결된 업무에 에이전트를 투입했다.
4. eval은 안전장치이자 속도 장치다: 좋은 평가가 있으면 더 빠르게 실험할 수 있다. 엔지니어링·토큰·비용을 에이전트와 eval에 균형 있게 투자한다.
5. 활동량을 성과로 착각하지 않는다: 토큰 사용량, 통화 시간, 도구 채택률보다 전환·만족·재참여·생애가치·직접 ROI를 측정한다.
6. Human in the Loop는 예외 처리 큐가 아니어야 한다: 인간이 에이전트의 실패를 일회성으로 처리하고 끝내지 말고, 에이전트가 도움을 요청하고 해결 결과를 학습하는 닫힌 루프를 만든다.
7. 인간의 역할은 재훈련으로 이동한다: 물리적 세계의 손재주와 감각은 당분간 인간의 강점으로 남지만, 인간은 에이전트를 설계·감독·보조하고 에이전트와 함께 일할 수 있어야 한다.
8. 전환은 하향식으로 시작한다: CEO가 3~5년 뒤 회사의 모습을 정하고, 그 모습에 필요한 에이전트와 조직을 일관되게 구축해야 한다. 산발적인 해커톤 유스케이스만으로는 부족하다.
9. 기존 기업에는 혁신가의 딜레마가 있다: 전기와 컴퓨터의 사례처럼 기존 구조에 AI를 끼워 넣으면 작은 효율만 얻는다. 10배의 기회를 얻으려면 공장과 조직을 다시 설계해야 한다.
10. 창업자에게는 지금이 구조적 기회의 시기다: 강력한 모델과 도구가 저렴해졌고 해결되지 않은 문제가 많다. 선형적인 AI 성능 향상만 가정해도 미래를 역산해 AI 네이티브 회사를 만들 수 있다.

메타데이터

• source: a16z
• video_id: n34CIw3gk1k
• category: ai-llm
• processed_at: 2026-08-13 (Asia/Seoul)