title: "AI를 현실 세계에 확산시키는 방법 — Varun Shenoy, Long Lake" title_original: "How do you diffuse AI into the real world? — Varun Shenoy, Long Lake" source: aiDotEngineer channel: aiDotEngineer video_id: B0fjR3yaZFU video_url: https://www.youtube.com/watch?v=B0fjR3yaZFU date: 2026-08-29 drop_date: 2026-08-29 category: ai-llm

AI를 현실 세계에 확산시키는 방법 — Varun Shenoy, Long Lake

원문 제목: How do you diffuse AI into the real world? — Varun Shenoy, Long Lake
URL: https://www.youtube.com/watch?v=B0fjR3yaZFU
날짜: 2026-08-29
채널: aiDotEngineer

---

📌 핵심 질문 / 이 발표가 다루는 핵심 논점

==모델 성능이 계속 좋아지는 것만으로는 충분하지 않으며, AI가 실제 서비스 기업의 경제적으로 의미 있는 업무를 완수하도록 만드는 ‘확산(diffusion)’이 향후 20년의 핵심 과제다.==

• 데모 환경의 에이전트는 항공편 예약, 고객 서비스 티켓 처리, 커밋 가능한 코드 작성까지 해내지만, 200명 규모의 실제 부동산 관리 회사에서는 업무 방식이 아직 달라지지 않았다.
• 전기처럼 범용 기술은 발명과 시연에서 실제 산업의 설비·업무 방식·교육을 바꾸는 단계까지 한 세대가 걸릴 수 있다.
• 실제 기업을 소유하고 운영하는 Long Lake는 에이전트를 코파일럿에서 동료 직원으로 단계적으로 끌어올리고, 현장 데이터와 기업 내 학습 루프를 축적하며, 소프트웨어와 서비스 운영을 함께 설계한다.

AI의 가치는 모델이 무엇을 생성할 수 있는지에만 있지 않다. 실제 사람이 실제 고객과 실제 자산을 다루는 과정에 모델을 끼워 넣고, 업무의 예외와 마찰까지 데이터로 남기며, 사용량과 개선이 서로를 강화하는 구조를 만들어야 사람의 효율과 행복, 서비스 품질이 함께 올라간다.

1. 데모와 현실 사이에 놓인 AI 확산의 문제

AI 확산의 병목은 모델의 능력 자체보다 모델을 현실의 업무 체계 안에 정착시키는 데 있다.

1.1. 마법처럼 보이는 에이전트 데모

1. 이미 현실이 된 능력

   1. 자동 항공편 예약: 에이전트가 사용자를 대신해 항공편을 찾아 예약하는 장면은 이제 익숙한 데모가 되었다.
   2. 고객 서비스 티켓 처리: 고객 서비스 포털에서 티켓을 자동으로 완료하는 작업도 에이전트가 수행할 수 있다.
   3. 커밋 가능한 코드 작성: 에이전트가 코드 한 블록을 완성하고 바로 커밋할 수 있는 상태로 만드는 장면도 일반적인 시연 대상이다.

2. 능력의 급격한 발전

   1. 2년 전과의 대비: 불과 2년 전만 해도 이런 능력은 완전한 공상과학처럼 보였지만, 이제는 실제로 작동하는 능력이 되었다.
   2. 데모의 설득력: 화면 속 결과만 보면 AI가 이미 업무를 끝까지 맡을 수 있다는 인상을 주며, 마법 같은 느낌을 만든다.

1.2. 200명 규모 부동산 관리 회사의 현실

1. 경제적 이해관계가 걸린 현장

   1. 실제 사람: 미국 전역의 고객을 상대하는 직원들이 존재한다.
   2. 실제 자산과 돈: 관리해야 할 부동산과 실제 거래 금액이 있으며, 결과가 곧 사업의 성과로 연결된다.
   3. AI 도입의 정체: 이런 환경이라면 AI가 이미 업무에 나타났어야 할 것 같지만, 실제로는 업무 방식이 전혀 달라지지 않았다.

2. 정체가 비정상이 아닌 이유

   1. 범용 기술의 공통 패턴: 새 기술은 데모가 가능해진 순간 곧바로 산업 전체에 퍼지지 않는다.
   2. 조직 변화의 지연: 사람, 장비, 소프트웨어, 절차, 교육이 모두 연결되어 있어 하나의 모델을 추가하는 것만으로는 운영 체계가 변하지 않는다.

1.3. 전기 보급이 보여주는 세대 단위의 시간

1. 전기의 마법 같은 시연

   1. 초기 발명과 시연: 전기는 1880년대에 발명되었고, 맨해튼에 있는 에디슨의 Pearl Street Station Dynamo Room에서 처음 시연되었다.
   2. 당대의 데모: 그 발전기실의 시연은 당시 사람들에게 오늘날의 AI 데모처럼 마법적인 장면이었을 것이다.

2. 포드 공장이 치러야 했던 전환 비용

   1. 전기만 공급해서는 부족함: 공장에 전선을 연결하는 것만으로 생산성이 자동으로 높아지지 않는다.
   2. 기존 설비 철거: 기존 모터와 장비를 뜯어내고 새로운 장비를 들여와야 한다.
   3. 사람의 재교육: 모든 직원에게 새 장비 사용법을 다시 가르쳐야 한다.
   4. 1924년의 전동식 조립: 1924년 포드의 전동식 이동 조립 설비 사진은 기술이 산업의 작업 방식으로 바뀌는 데 걸리는 시간을 보여주는 사례다.

3. AI에 적용되는 결론

   1. 한 세대의 확산: 어떤 기술이든 완전한 확산에는 한 세대가 걸릴 수 있다.
   2. 향후 20년의 과제: 모델은 계속 좋아질 것이므로, 핵심 문제는 모델을 현실 세계에 넣어 실제 작업을 완수하게 하는 일이다.
   3. 최종 목적: AI 확산은 사람을 더 효율적이고 행복하게 만들며, 고객에게 더 나은 서비스를 제공해야 한다.

2. Long Lake의 운영자 관점

Long Lake는 소프트웨어를 외부에 판매하는 회사가 아니라, 실제 서비스 사업을 소유하고 그 안에서 기술을 작동시키는 운영자다.

2.1. 소프트웨어 회사가 아닌 서비스 기업 인수자

1. 자본과 사업 규모

   1. 투자 유치: 창립 후 지난 2년 동안 Elad Gil, General Catalyst, AlphaWave로부터 30억 달러 이상을 조달했다.
   2. 35개 사업체 인수: HOA(Homeowners Association, 주택소유자협회)와 부동산 관리, 건축, HR 서비스 등 여러 분야에서 35개 사업체를 인수했다.
   3. American Express GBT 거래: 세계 최대 기업 출장 플랫폼인 American Express Global Business Travel을 63억 달러에 비상장화(take-private)한다고 발표했다.

2. 외부 벤더와 내부 운영자의 차이

   1. 제품 판매가 아님: Long Lake는 외부에서 소프트웨어를 팔고 고객이 알아서 도입하기를 기다리지 않는다.
   2. 직접 배포: 소유한 기업 안에 제품과 기술을 배치하고, 현장 업무에 맞게 작동시키는 방법을 찾아낸다.
   3. 실패의 귀속: AI가 제대로 작동하지 않으면 고객사나 벤더의 문제가 아니라 소유자인 Long Lake의 문제다.
   4. 실제 성과 책임: 운영사 소유자로서 사업부 팀과 긴밀하게 협력하며 실제 결과를 만들어야 한다.

2.2. 기술·재무·운영을 함께 가진 조직

1. 팀 구성

   1. 약 40명 규모의 팀: 팀은 기술, 재무, 운영 부문으로 나뉘어 있다.
   2. 기술 조직의 비중: 전체 팀의 절반 이상이 기술 팀에 속하며, 제품 개발과 데이터 구축, 핵심 제품의 현장 배포를 맡는다.
   3. 다양한 배경: 전직 창업자와 군 복무 경험자, Palantir·Ramp·Glean 출신 인력, Blackstone·H.I.G. 등 금융 업계 출신 인력이 함께한다.

2. 현장에 붙어 있는 기술 조직

   1. 현실 문제의 관찰: 어떤 서비스 기업에서 어떤 일이 벌어지는지 내부에서 직접 볼 수 있다.
   2. 빠른 반복: 아이디어를 외부 고객에게 제안하는 데서 끝내지 않고, 현장에 배포한 뒤 작동 여부와 문제를 다시 제품에 반영한다.
   3. 소유권의 의미: 기술팀·재무팀·운영팀이 같은 사업 결과를 바라보므로 AI 도입을 연구 과제나 판매 과제가 아니라 운영 과제로 다룬다.

3. 에이전트를 코파일럿에서 동료 직원으로 올리는 사다리

에이전트의 자율성은 한 번에 최고 단계로 점프하는 것이 아니라, 사용자가 감당할 수 있는 신뢰와 업무 범위를 단계별로 넓히는 스펙트럼이다.

3.1. 다섯 단계의 자율성

1. 코파일럿(Co-pilot)

   1. 기본 RAG 챗봇: 2년 전 흔했던 단순 검색증강생성(RAG) 챗봇처럼 질문을 받으면 빠르게 답한다.
   2. 제한된 통합: 일부 시스템과 연결되어 있을 수 있지만, 주로 사용자가 질문하고 정보를 받는 구조다.

2. 동기식 에이전트(Synchronous Agent)

   1. 실시간 양방향 상호작용: Claude Code, Codex, Claude Cowork처럼 사용자가 에이전트와 실시간으로 대화하며 작업한다.
   2. 도구와 스킬 사용: 에이전트가 도구를 호출하거나 보유한 스킬을 사용하며, 1~5분 동안 작업을 계속할 수 있다.
   3. 사용자 트리거: 더 정교해졌지만 여전히 사용자가 질문을 던지고 작업을 시작해야 하므로 동기식이다.

3. 비동기 에이전트(Asynchronous Agent)

   1. 백그라운드 실행: 사용자가 질문을 던진 뒤 에이전트가 백그라운드에서 작업하고 나중에 결과를 돌려준다.
   2. 외부 트리거: 사용자가 직접 실행하지 않아도 특정 업무 완료 같은 사건이 에이전트를 호출할 수 있다.
   3. 선제적 조언: 외부 트리거가 비동기 작업 큐에 작업을 넣고, 에이전트가 최종 사용자에게 먼저 조언을 제공할 수 있다.

4. 장기 실행 에이전트(Long-running Agent)

   1. 시간 범위의 확장: 에이전트가 몇 시간, 며칠, 몇 주, 몇 달 동안 지속적으로 일하게 만드는 단계다.
   2. 현재의 핵심 연구 과제: 많은 AI 연구소와 Long Lake가 집중하는 중심 문제이며, 장기 상태 유지와 지속적 작업 관리가 필요하다.

5. AI 동료 직원(AI Co-worker)

   1. 능동적 업무 파트너: 사용자는 옆에서 함께 업무를 처리하는 선제적 파트너를 원한다.
   2. 가장 많이 팔리는 약속: 시장은 이 최종 형태를 곧바로 제공할 것처럼 말하지만, 현실의 운영 결과는 더 신중한 접근을 요구한다.
   3. 권리를 단계적으로 획득: 더 많은 자율성을 행사할 권리는 처음부터 주어지는 것이 아니라 실제 업무 성과와 현장 신뢰를 통해 얻어야 한다.
   4. 점진적 승격의 이유: 어떤 업무에서는 모델이 아직 충분히 정확하지 않으며, 기업 구성원과 현장에서 상호작용하고 반복 개선해야 조직이 AI의 초기 단계와 발전 경로를 이해할 수 있다.

3.2. ‘험준한 경계(Jagged Frontier)’로 보는 도입 순서

1. 코드 영역은 앞서 나간 경계

   1. 동기식 코드 에이전트: Codex나 Claude Code가 데스크톱에서 실행되고 파일 시스템에 접근하며, 엔지니어와 실시간으로 협업한다.
   2. 즉각적 피드백: 엔지니어는 결과를 곧바로 확인하고 수정하는 반복 루프를 돌릴 수 있다.
   3. 비동기 코드 에이전트: 같은 코딩 에이전트를 샌드박스로 감싸서 자율 실행시키면 빌드와 테스트를 수행한 뒤 Pull Request(PR) 형태로 결과를 제출한다.

2. 엔지니어가 비동기 작업에 익숙한 이유

   1. 작업 병렬화: 엔지니어는 이미 여러 작업을 동시에 시작하는 방식에 익숙하다.
   2. 완료 순서의 유연성: 10개의 작업을 실행했을 때 7번 작업이 3번 작업보다 먼저 끝나도 자연스럽게 받아들인다.
   3. 에이전트와의 적합성: 이런 작업 습관 때문에 엔지니어는 비동기 에이전트를 사용하기 쉽다.

3. 서비스 산업의 미개척 영역

   1. 협업 에이전트(Co-working Agent): 서비스 기업에서 동기식 에이전트에 해당하는 형태로, 기업의 깊은 맥락을 이해하고 MCP(Model Context Protocol), 맞춤형 도구, 맞춤형 통합과 상호작용하며 실시간으로 대화한다.
   2. 오른쪽 아래의 개척지: 서비스 업무를 비동기 에이전트로 처리하는 문제는 아직 가장 어려운 영역이다.
   3. 순차 업무의 병렬화: 전통적으로 매우 순차적인 방식으로 수행되는 서비스 업무를 어떻게 여러 갈래로 나눌지가 핵심이다.
   4. 코드 밖의 포크 메커니즘: 코드에서는 샌드박스를 여러 개 띄워 작업을 포크하면 되지만, 나머지 세계에서 같은 메커니즘이 어떤 모습이어야 하는지는 아직 풀어야 한다.

3.3. 서비스 업무를 에이전트에 맞추는 세 가지 질문

1. 코딩 에이전트로 지식 업무를 표현하기

   1. 모델의 강점 활용: 현재 모델은 코드로 훈련되었고 코드를 작성하는 데 매우 능숙하다.
   2. 기다리지 않는 전략: 모델이 서비스 지식 업무를 자연스럽게 잘하게 될 때까지 기다리는 대신, 지식 업무를 코드로 표현하여 코딩 에이전트가 처리하게 할 수 있다.

2. 순차 업무 병렬화

   1. 현재의 습관: 사람은 받은 편지함을 한 번에 이메일 하나씩 정리한다.
   2. 새로운 가능성: 10개의 이메일을 동시에 처리하는 것처럼, 본질적으로 순차적인 서비스 업무를 여러 단위로 쪼개 병렬 처리할 방법을 찾아야 한다.

3. 제품 형태와 사용자 역량 강화

   1. 사다리 오르기: 제품이 더 높은 자율성 단계로 올라가는 것과 사용자가 그 단계를 활용할 수 있게 되는 일이 함께 진행되어야 한다.
   2. 산업별 폼 팩터: 코드 에이전트를 실행하는 한 가지 방식이 건축이나 부동산 관리에도 그대로 맞는다는 보장은 없다.
   3. 업무 구조의 차이: 산업마다 입력 데이터, 승인 절차, 위험, 결과물, 고객과의 상호작용이 다르므로 적합한 에이전트 형태도 크게 달라진다.

4. 인터넷 밖에 있는 실제 데이터의 가치

최첨단 모델이 인류가 기록한 지식을 폭넓게 학습했더라도, 가장 가치 있는 업무는 공개 인터넷에 기록되어 있지 않다.

4.1. 웹에 없는 업무 지식

1. 서비스 기업의 구체적 질문

   1. 영수증이 없는 장부 마감: 영수증이 누락된 상황에서 장부를 어떻게 마감하는지는 일반적인 웹 문서만으로 해결하기 어렵다.
   2. 설계도의 시공 범위 산정: 건축 설계도에서 실제 시공 범위를 정하는 일은 전문적 판단과 협업을 요구한다.
   3. 지붕 수리 업체 조율: 고장 난 지붕을 고치기 위해 어떤 업체를 언제 어떻게 조율할지는 현장의 제약과 관계를 함께 다뤄야 한다.

2. 암묵지의 저장 위치

   1. 사람의 머릿속: 한 선임자가 20년 동안 쌓은 판단 방식이 문서화되지 않은 채 머릿속에 남아 있다.
   2. 낡은 소프트웨어: 20년 된 업무용 소프트웨어와 그 안의 예외적인 절차에 지식이 묻혀 있다.
   3. 팀의 관행: 같은 팀에서만 통하는 처리 순서와 고객 대응법이 문서 대신 관행으로 전승된다.

3. 학습 가능한 업무로의 전환

   1. 정보의 명시화: 머릿속 지식과 관행을 명시적인 정보로 바꿔야 한다.
   2. 과제 설계: 에이전트가 수행하고 결과를 비교할 수 있는 작업 단위로 업무를 만들어야 한다.
   3. 학습 기반 확보: 실제 업무 결과가 남아야 에이전트의 성능을 측정하고 개선할 수 있다.

4.2. 현장 협업에서 학습 데이터로 이어지는 플라이휠

1. 실제 업무에서 트레이스 생성

   1. 직원과 에이전트의 협업: 에이전트가 직원과 함께 실제 업무를 수행하도록 한다.
   2. 풍부한 흔적: 도구 호출, 작업 중 발생한 막힘, 사소한 불편(papercut), 실패와 예외 등 실제 업무에서 발생하는 모든 과정이 데이터 트레이스가 된다.
   3. 데모가 아닌 운영 데이터: 잘 정리된 성공 사례만 모으지 않고 현실에서 일이 잘못되는 방식까지 기록한다.

2. 명확한 정답을 가진 평가

   1. 지붕 수리의 정답: 핵심은 에이전트의 문장이 그럴듯했는지가 아니라 실제로 지붕이 수리되었는지다.
   2. 장부 마감의 정답: 장부가 실제로 마감되었는지가 업무 결과의 ground truth가 된다.
   3. 현실 결과 기반 평가: 이런 결과를 사용하면 실제 영향으로 에이전트를 평가할 수 있다.

3. 힐 클라이밍과 회귀 테스트

   1. 개선 방향 탐색: 실제 트레이스와 정답을 사용해 더 나은 에이전트를 향해 hill climbing을 수행한다.
   2. 영향의 확대: 에이전트가 좋아질수록 더 큰 운영 효과를 만들고, 더 많은 실제 데이터를 다시 생성한다.
   3. 주간 회귀 방지: 매주 개선용 벤치마크를 만들고, 다음 주부터는 그 벤치마크를 회귀 테스트로 사용한다.
   4. 누적되는 성능: 시간이 지날수록 에이전트가 같은 실수를 되풀이하지 않으며 성능이 래칫처럼 한 방향으로 올라간다.

4.3. 풍부한 트레이스가 만드는 세 가지 자산

1. 자동 평가와 피드백

   1. 자동 생성·채점 평가: 현장 트레이스에서 훌륭한 평가 세트를 만들고 자동으로 점수를 매길 수 있다.
   2. 명시적 피드백: 사용자의 좋아요·싫어요, 응답이 좋았는지 아닌지를 설명하는 메모가 직접적인 신호가 된다.
   3. 암묵적 피드백: AI가 만든 데이터와 최종 제출된 데이터 사이의 실제 차이를 비교하면, 사용자가 말로 설명하지 않은 수정 의도를 파악할 수 있다.
   4. 독점적인 ground truth: 최종 결과가 존재하므로 AI 출력과 실제 제출물의 차이라는 귀중한 정보를 확보할 수 있다.

2. 기업 데이터에 대한 내부 사후 학습

   1. 운영 데이터 활용: 소유한 기업이 운영하고 생산하는 데이터 전반을 사용해 내부적으로 모델 post-training을 시작했다.
   2. 분포 밖의 데이터: 이런 데이터는 대부분의 최첨단 AI 연구소가 접하지 못하는 out-of-distribution 데이터다.
   3. 아직 못 하는 업무를 학습: 현재 많은 frontier 모델이 부동산·건축·서비스 업무를 수행하지 못하므로, 보유한 풍부한 데이터로 자체 모델을 학습시키려 한다.

3. 다층적 에이전트 맞춤화

   1. 회사별 맞춤화: 현실은 복잡하고 지저분하며 회사마다 업무 방식이 다르므로 기업별 구성이 필요하다.
   2. 사용자별 맞춤화: 같은 회사 안에서도 각 사용자가 업무를 처리하는 방식이 고유하다.
   3. 고객별 맞춤화: 서비스 기업은 고객마다 협업 방식이 다르고, 각 고객에게 약속한 기준을 유지해야 한다.

4.4. ‘언덕과 계곡’이 실제 업무의 본질인 이유

1. LLM 작업에 대한 단순한 이미지

   1. 완만한 경사와 자전거: 일반적으로 LLM 업무는 자전거를 타고 올라가는 경사면처럼 묘사되며, 성공 지점이 선명하게 보인다.
   2. 데모의 구조: 입력과 출력 사이의 경로가 매끄럽고, 에이전트가 성공하기까지의 예외가 화면 밖으로 사라진다.

2. 현실 업무의 지형

   1. 언덕과 계곡: 실제 업무에는 예상치 못한 언덕과 계곡이 반복된다.
   2. 수천 번의 작은 상처: 도구의 사소한 불편과 누락, 예외가 ‘수천 번의 종이 베임(death by a thousand paper cuts)’처럼 누적된다.
   3. 예외가 곧 직무: 정상 경로를 처리하는 것보다 예외를 해결하는 일이 서비스 업무의 대부분을 이룬다.
   4. 데모와 실제의 간극: 매끄러운 경사면은 데모이고, 언덕·계곡·예외의 총합이 실제 직무다.

5. 기업 안에서 사용량과 학습을 순환시키기

AI 도입은 지속적인 학습(continual learning)과 사용자 역량 강화(enablement)를 하나의 순환 고리로 묶을 때 비로소 가속된다.

5.1. 2026년의 두 흐름을 하나로 묶기

1. 지속적인 학습

   1. 피드백 기반 개선: 프롬프트를 바꾸든 모델 가중치를 바꾸든, 사용하면서 얻은 피드백으로 에이전트를 시간이 지날수록 개선한다.
   2. 연구·플랫폼의 책임: 전통적으로 continual learning은 연구팀이나 플랫폼 엔지니어링 팀이 소유한다.

2. 역량 강화(Enablement)

   1. 실제 사용 유도: 기업 안으로 들어가 사람들이 AI를 도입하고 실제 업무에 쓰도록 만드는 활동이다.
   2. 배포·성장·고객 경험의 책임: 보통 성장, 배포, 고객 경험 팀이 담당하며, 연구·플랫폼 팀과 분리되어 있다.

3. 분리된 조직이 놓치는 연결

   1. 낮은 상호작용: 두 활동이 서로 다른 팀에 속하면 지속적인 학습과 사용 촉진 사이의 상호작용이 거의 일어나지 않는다.
   2. 동일한 루프: 에이전트는 사람들이 실제로 사용해야 개선되고, 사람들은 에이전트가 도입할 가치가 있을 때만 사용한다.

5.2. 눈덩이 효과와 초기 사용량의 벽

1. 사용량이 만드는 눈덩이

   1. 첫 번째 연결: 더 많은 사용량은 더 많은 피드백과 실제 트레이스를 만든다.
   2. 두 번째 연결: 데이터와 피드백은 continual learning을 촉진하고 더 나은 에이전트를 만든다.
   3. 세 번째 연결: 더 나은 에이전트는 다시 더 많은 사용량을 만든다.

2. 사용량은 자동으로 나타나지 않음

   1. 배포의 착각: Claude Code 같은 도구를 기업 전체에 제공하면 사람들이 알아서 쓰기 시작할 것이라고 기대하기 쉽다.
   2. 실제 결과: 사용량은 그냥 생기지 않으며, 아무리 좋은 AI 동료도 도입 활동 없이 조직에 스며들지 않는다.
   3. 오래된 프로세스의 관성: 100년 된 회사의 업무 방식을 바꾸는 일은 특히 어렵다.

3. 20년 동안 장부를 닫아온 사람의 사례

   1. 기존 방식의 지속: 20년 동안 같은 방식으로 장부를 마감해 온 사람이 계속 같은 절차를 고수하면 된다.
   2. 아무것도 변하지 않음: 지구상 최고의 AI 동료가 있어도 실제 사용 방식이 바뀌지 않으면 업무와 결과는 그대로다.
   3. 초기 사용량의 중요성: 첫 사용을 만들어내는 조직적·현장적 노력이 학습 루프 전체를 시작시키는 전제다.

6. 소프트웨어와 서비스의 공동 설계

AI 확산을 가능하게 하는 운영 원리는 하드웨어와 소프트웨어를 함께 설계해 시장을 장악한 Jensen의 사례에서 힌트를 얻을 수 있다.

6.1. 하드웨어·소프트웨어 공동 설계에서 서비스 공동 설계로

1. Jensen의 극단적 공동 설계

   1. 하나의 시스템으로 보기: 칩과 소프트웨어를 따로 만들지 않고 하나의 시스템으로 함께 설계한다.
   2. 시장 지배의 방식: 이런 extreme hardware-software co-design이 Jensen이 시장을 지배한 핵심 방식으로 제시된다.

2. 소프트웨어·서비스 공동 설계

   1. 사람과 프로세스의 결합: 제품을 서비스 사업장의 사람과 업무 프로세스에 맞춰 함께 설계한다.
   2. 같은 지붕 아래의 조건: 소프트웨어와 서비스 운영의 공동 설계는 같은 조직 안에 있을 때 가능하다.
   3. 벤더 모델의 한계: 외부 벤더가 줌과 지원 티켓으로 제품을 전달하는 방식만으로는 업무의 미세한 맥락을 포착하기 어렵다.

6.2. 은유적으로, 물리적으로 현장에 들어가기

1. 은유적인 동행

   1. 기존 시스템 안에 제품 배치: 사용자가 별도의 장소로 이동하거나 새로운 복잡한 도구를 배워야 하는 비용을 줄이도록 기존 업무 시스템 안에 제품을 넣는다.
   2. 낮은 활성화 에너지: 현장 도입에 필요한 에너지를 낮추면 초기 사용량을 만들기 쉬워진다.
   3. 네이티브 통합의 예: Excel, ERP 시스템, 3D 설계 소프트웨어, Outlook, Gmail 같은 업무 도구에 제품을 기본적으로 녹여 넣을 수 있다.

2. 물리적인 동행

   1. 비행기를 타고 찾아가기: 실제 현장으로 이동해 인사하고 사람들이 실제로 어떤 일을 하는지 직접 배운다.
   2. 점심 학습: 여러 회사 직원과 lunch and learn을 진행하며 도구를 설명하고 업무 맥락을 듣는다.
   3. 업계 행사 참여: 고객의 컨퍼런스에 참석해 솜사탕을 만들고 부스를 운영하는 식으로 자연스럽게 현장에 섞인다.
   4. 비공식 대화: 함께 산악자전거를 타며 일상 업무의 어려움을 묻고, 정식 피드백 세션에서 나오지 않는 문제를 듣는다.
   5. 소규모 실습: 일대일 또는 경우에 따라 이대일로 만나 도구 사용법을 보여주고 피드백을 즉시 받는다.

3. 현실 세계와 샌프란시스코의 차이

   1. 현장 사용자의 모습: AI 업계 행사장이나 샌프란시스코의 기술자만 바라보면 실제 서비스 산업 종사자의 업무 모습을 놓치기 쉽다.
   2. 업무의 구체성: 실제 세계는 각자의 시스템, 습관, 고객, 예외가 얽힌 훨씬 복잡한 모습이다.
   3. 직접 있어야 하는 이유: 그곳에 직접 가야만 사람들이 무엇을 하는지, 어디에서 막히는지, 어떤 표현과 절차를 사용하는지 이해할 수 있다.

6.3. AI 확산의 운영 원칙

1. 공동 설계는 원격 지원만으로 부족함

   1. 줌의 한계: 화상회의만으로 서비스 사업의 소프트웨어를 공동 설계할 수 없다.
   2. 지원 티켓의 한계: 지원 티켓은 문제를 표면적으로 처리할 수는 있지만, 업무 전체의 맥락과 반복되는 예외를 보여주지 못한다.
   3. 현장 체류: 사람들과 같은 공간에 머물며 업무를 함께 보고 제품을 조정해야 한다.

2. ‘잔디를 밟아라’는 결론

   1. 현장성의 우선순위: AI 확산을 작동시키는 핵심은 모델의 데모를 더 화려하게 만드는 일이 아니라 현장에 실제로 들어가는 것이다.
   2. 운영자의 태도: 제품을 만들고 전달하는 사람은 직접 이동하고, 만나고, 관찰하고, 가르치고, 피드백을 반영해야 한다.
   3. 핵심 문장: “AI 확산이 작동하려면, 직접 잔디를 밟아야 한다(you have to touch some grass).”

주요 발언 모음

“모델은 점점 좋아지고 있지만, 진짜 질문은 AI를 실제로 현실 세계에 어떻게 배치하느냐입니다.”

“AI 확산은 향후 20년 동안 가장 중요한 문제일지도 모릅니다.”

“더 많은 일을 맡길 권리는 스스로 얻어야 합니다.”

“예외가 곧 직무입니다. 그것이 실제 업무입니다.”

“사람들이 실제로 사용해야 에이전트가 개선되고, 도입할 가치가 있어야 사람들이 사용합니다.”

“서비스 사업과 소프트웨어를 줌이나 지원 티켓만으로 공동 설계할 수는 없습니다. 그곳에 직접 있어야 합니다.”

“AI 확산이 작동하려면, 직접 잔디를 밟아야 합니다.”

핵심 데이터 & 수치

• 1880년대: 전기가 발명되고 에디슨의 맨해튼 Pearl Street Station Dynamo Room에서 시연된 시기다.
• 1924년: 포드의 전동식 이동 조립 설비가 등장한 시점으로, 전기 기술이 공장 운영에 정착하는 데 시간이 필요했음을 보여준다.
• 향후 20년: AI 확산이 가장 중요한 과제가 될 것으로 제시된 기간이다.
• 2년: Varun Shenoy가 Long Lake의 최근 활동을 설명하며 돌아본 기간이며, 그동안 30억 달러 이상을 조달했다.
• 30억 달러 이상: Elad Gil, General Catalyst, AlphaWave로부터 창립 후 유치한 자금이다.
• 35개: HOA·부동산 관리·건축·HR 서비스 등에서 인수한 사업체 수다.
• 63억 달러: American Express Global Business Travel을 비상장화한다고 발표한 거래 규모다.
• 약 40명: 기술·재무·운영으로 구성된 Long Lake 팀의 규모로 제시된 수치다.
• 1~5분: 동기식 코딩 에이전트가 사용자의 개입을 받으며 실행될 수 있는 시간 범위다.
• 수 시간에서 수개월: 장기 실행 에이전트가 다뤄야 할 작업 지속 시간의 범위다.
• 20년 된 소프트웨어: 서비스 기업의 핵심 업무 지식이 남아 있을 수 있는 낡은 시스템의 예다.
• 20년간 같은 방식으로 장부를 마감한 사람: 조직의 프로세스 관성이 AI 도입을 막는 사례다.

결론 및 시사점

1. AI 확산의 병목은 모델 데모의 품질이 아니라 실제 기업의 사람·프로세스·시스템을 바꾸는 실행력이다.
2. 에이전트는 코파일럿에서 동기식·비동기식·장기 실행 단계를 거쳐 동료 직원으로 올라가야 하며, 각 단계의 신뢰를 현장 성과로 획득해야 한다.
3. 코드에서 해결된 비동기·포크 패턴을 서비스 산업의 순차적인 지식 업무에 어떻게 옮길지가 가장 중요한 제품 과제 중 하나다.
4. 가장 가치 있는 업무 데이터는 인터넷에 없으므로, 에이전트가 직원과 실제 일을 하게 하면서 도구 호출·실패·예외·수정 흔적을 수집해야 한다.
5. 지붕 수리 여부나 장부 마감 여부처럼 현실의 결과를 ground truth로 삼으면 평가와 회귀 테스트가 자동으로 강해진다.
6. 사용량을 늘리는 enablement와 모델을 개선하는 continual learning은 분리된 조직 과제가 아니라 하나의 눈덩이 루프다.
7. 초기 사용량은 자동으로 생기지 않으므로, 현장 교육·소규모 실습·업무 도구 통합으로 첫 사용의 마찰을 낮춰야 한다.
8. 제품은 기업별·사용자별·고객별로 맞춤화되어야 하며, 산업마다 다른 폼 팩터를 설계해야 한다.
9. 하드웨어와 소프트웨어를 공동 설계하듯 소프트웨어와 서비스 운영을 공동 설계하려면 운영 조직과 같은 지붕 아래 있어야 한다.
10. AI를 현실에 확산시키려는 팀은 줌과 지원 티켓에 머물지 말고 현장을 직접 찾아가 관찰하고, 가르치고, 듣고, 제품을 다시 만들어야 한다.

핵심 요약 (20줄)

모델 성능의 발전만으로는 AI가 실제 서비스 기업의 업무를 바꾸지 못한다.

AI 확산은 향후 20년 동안 가장 중요한 문제 중 하나로 남을 수 있다.

범용 기술은 마법 같은 시연 이후에도 설비와 프로세스와 사람을 바꾸는 데 한 세대가 걸릴 수 있다.

전기 보급과 포드 공장의 전환은 기술 도입에 철거와 재설계와 재교육이 필요하다는 사실을 보여준다.

Long Lake는 소프트웨어를 외부에 판매하는 대신 실제 서비스 사업을 소유하고 기술을 내부에 배포한다.

Long Lake는 35개 사업체를 인수했고 창립 후 30억 달러 이상을 조달했다.

운영자 소유 구조에서는 AI가 실패했을 때 책임이 벤더가 아니라 Long Lake에 돌아온다.

에이전트의 자율성은 코파일럿에서 동기식과 비동기식과 장기 실행 단계를 거쳐 동료 직원으로 확장된다.

동료 직원 수준의 자율성은 모델의 한계와 현장 신뢰를 고려해 단계적으로 획득해야 한다.

코딩 에이전트는 샌드박스에서 빌드와 테스트를 수행하고 PR을 제출하는 비동기 업무에 이미 잘 맞는다.

서비스 산업의 가장 어려운 문제는 순차적으로 진행되는 지식 업무를 병렬화하는 일이다.

산업마다 업무 절차와 위험과 결과물이 달라서 에이전트의 폼 팩터도 달라져야 한다.

가장 가치 있는 업무 지식은 인터넷이 아니라 사람의 머릿속과 낡은 소프트웨어와 관행에 있다.

직원과 에이전트가 실제 일을 함께하면 도구 호출과 실패와 예외를 포함한 풍부한 트레이스가 쌓인다.

지붕 수리와 장부 마감 같은 실제 결과는 에이전트 평가의 명확한 ground truth가 된다.

현장 트레이스는 자동 평가와 명시적 피드백과 암묵적 수정 신호를 제공한다.

기업 데이터에 대한 내부 post-training은 frontier 연구소가 갖지 못한 분포 밖의 업무 능력을 만든다.

사용량은 continual learning을 만들고 더 나은 에이전트는 다시 사용량을 늘리는 눈덩이 루프를 형성한다.

제품을 기업 시스템에 통합하고 현장에서 직접 교육해야 100년 된 조직의 초기 사용량을 만들 수 있다.

AI 확산의 마지막 원칙은 줌과 지원 티켓을 넘어 현장에 직접 가서 소프트웨어와 서비스를 공동 설계하는 것이다.