원제: Daniel Dines on Why Work Processes Not Models Will Be The Most Valuable Asset in AI
출처: 20VC with Harry Stebbings
발행일: 2026-09-21
핵심 요약
AI 모델의 추론 능력이 아무리 좋아져도 기업 업무를 실제로 수행하려면 조직 안에서 축적된 예외 처리, 판단 기준, 관계 맥락, 시스템 사용법을 담은 ‘업무 지도(Map of Work)’가 필요하다. 모델은 빠르게 교체될 수 있지만 업무 지도와 그 지도를 실행하는 자동화·오케스트레이션 레일은 기업 고유의 지식재산이 된다. 따라서 기업의 AI 전환은 사람을 일괄 감축하는 프로젝트가 아니라, 업무를 관찰하고 문서화한 뒤 정확하고 감사 가능한 소프트웨어로 바꾸며 사람의 역할까지 재설계하는 과정이어야 한다.
1층: 핵심 주장과 결론
1. 모델보다 업무 지도가 오래 남는 자산이다
모델은 상호 교환 가능해질 수 있지만, 특정 기업이 실제로 어떻게 일하는지에 대한 지도와 그 지도 주변의 워크플로는 쉽게 복제되지 않는다. 업무 지도는 단순한 업무 매뉴얼이 아니다. 목표를 달성하기 위해 거치는 모든 절차, 예외, 시스템, 판단 기준, 고객별 관행, 조직 안의 암묵지를 함께 담는 운영 모델이다.
기업이 특정 모델에 모든 것을 의존하면 모델 제공자가 바뀌거나 가격·성능이 변할 때 운영 지식까지 함께 흔들린다. 반대로 업무 지도를 명시적으로 보유하면 더 나은 폐쇄형 모델, 비용 효율적인 모델, 자체 모델, 오픈소스 모델을 상황에 맞게 갈아 끼울 수 있다. 업무 지도는 모델을 학습시키는 데이터이자 에이전트가 현실을 오해하지 않도록 제한하는 맥락이다.
2. 현재 AI의 근본적 한계는 추론 능력보다 ‘경험에 의한 변형’의 부재다
현재 모델은 대화 기록과 메모리를 저장할 수 있지만, 경험을 통해 내부 가중치와 판단 습관 자체가 변하는 인간의 학습과는 다르다. 사람은 일을 하며 미묘한 패턴, 고객의 성향, 예외가 발생하는 조건, 무엇을 먼저 의심해야 하는지를 체화한다. 그 지식은 매번 검색해야 하는 메모가 아니라 사람의 행동 방식 자체가 된다.
일본 요리만 20년 한 요리사와 이탈리아 요리만 20년 한 요리사는 같은 레시피를 받아도 서로 다른 결과를 낸다. 체스 책을 전부 읽거나 스키 영상을 모두 본다고 실제 경기와 슬로프에서 패배하고 수정하는 경험까지 얻는 것은 아니다. 업무 경험은 단순한 정보의 추가가 아니라 모델을 구성하는 방식의 변화다.
3. 정확성이 필요한 실행은 확률적 모델이 아니라 결정적 소프트웨어가 맡아야 한다
모델이 한 단계마다 99% 확률로 올바른 답을 내더라도 수백 단계가 이어지면 전체 작업을 정확히 끝낼 확률은 크게 낮아진다. 대규모 곱셈처럼 정답이 반드시 같아야 하는 작업을 언어 모델에 맡길 이유가 없고, 모델은 계산기를 호출해 정확성을 확보해야 한다.
이 원칙은 엔터프라이즈 전체에도 적용된다. 코딩 에이전트는 설계·개발 시점에 AI를 활용해 자동화를 만들 수 있지만, 실행 시점에는 테스트되고 감사 가능하며 동일한 입력에 동일하게 반응하는 소프트웨어가 업무를 수행해야 한다. 자동화가 상류 시스템의 변경으로 깨지면 AI가 원인을 찾아 다시 고칠 수 있지만, 운영 중인 자동화가 즉흥적으로 행동하도록 내버려 두어서는 안 된다.
4. AI 전환은 인력의 단순 감축이 아니라 업무와 인력의 동시 재설계다
사람의 역할에는 숫자로 측정되는 산출물 외에도 고객과의 신뢰, 조직 문화, 신규 직원의 멘토링, 예외 상황에서의 주도성 같은 제도적 가치가 포함된다. AI가 이메일을 쓰고 고객에게 전화를 걸 수 있어도 인간관계와 신뢰를 그대로 대체한다고 볼 수는 없다.
따라서 기업은 먼저 구성원이 실제로 무엇을 하는지에 대한 장부를 만들어야 한다. 전문 자격과 도메인 지식만으로 사람을 분류하면 AI가 보완할 수 있는 ‘자격을 갖춘 중간층’을 먼저 줄이고, 정작 AI 도입에 필요한 주도성·관계 형성·문화 전달 능력을 잃을 수 있다. 사람을 줄여야 한다면 누가 반복 업무를 잘 수행하는지보다 누가 AI를 이해하고 새로운 문제를 발견하며 관계를 지키는지를 함께 평가해야 한다.
2층: 논리 전개와 개념 구조
‘수백만 명의 아인슈타인’ 가설에 대한 반론
저비용의 강력한 모델이 데이터센터에 수백만 개 존재하면 인간이 더 이상 일하지 않아도 된다는 전망은 현재의 모델을 사람처럼 가정한다. 진짜 대체 가능한 지능은 추론 능력뿐 아니라 일을 배운 뒤 내부적으로 변화하는 능력, 의지와 주도성, 맥락을 이어가는 능력, 현실 세계에서 책임 있게 행동하는 능력을 포함해야 한다.
자기개선 루프를 무한히 돌린다고 의지가 자동으로 생긴다는 보장도 없다. 추론과 의식에서 ‘무언가를 하려는 의지’가 어떻게 생기는지는 아직 설명되지 않았고, 거대한 모델을 반복 개선하는 것만으로 인간의 의지가 출현한다고 믿는 것은 가설에 가깝다. 이런 한계가 사라지기 전까지 AI 확산은 기술 데모보다 느리고, 기업별 프로세스의 문서화 속도에 좌우된다.
프런티어를 늦출 것인가
프런티어 AI가 통제 불가능해 실제로 인터넷이나 다른 시스템에 중대한 피해를 줄 수 있다고 믿는 연구소라면 스스로 개발 속도를 늦추는 것이 맞다. 외부 압력보다 법적 책임과 시민적 의무가 먼저 작동해야 한다. 다만 프런티어를 멈추자는 요구에는 오픈소스가 악의적 행위자에게 넘어갈 수 있다는 우려가 섞여 있을 수 있다.
이 구도에서 오픈소스는 위험이면서 동시에 균형 장치다. 소수의 폐쇄형 연구소만 지능과 표준을 독점하면 기업과 사회가 특정 공급자에 종속된다. 오픈소스 생태계가 살아 있어야 기업이 모델을 전환할 수 있고, Nvidia 같은 인프라 사업자도 하나의 폐쇄형 모델 공급자에게만 매출을 의존하지 않을 수 있다. 중국의 AI 연구소처럼 경쟁 관계에 있는 조직도 공개 연구와 안전한 사용을 전제로 한다면 ‘좋은 행위자’ 범주에 들어갈 수 있다는 판단이 제시된다.
정확한 프레임이 자동화 가능성을 결정한다
업무가 다른 사람이 정해 놓은 명확한 프레임 안에서 반복된다면 AI가 처리하기 쉽다. 법률 문서처럼 규칙과 언어가 풍부하고 작업의 프레임이 충분히 정의된 영역에서는 프런티어 모델이 높은 효과를 낼 수 있다. 그러나 기업의 실제 업무는 고객별 특별 조건, 승인 순서, 과거의 약속, 시스템별 예외처럼 문서에 빠진 맥락으로 가득하다.
재무·회계도 겉보기만큼 단순하지 않다. 같은 청구서나 주문이라도 고객 중요도, 공급 우선순위, 계약 관행에 따라 다르게 처리될 수 있다. 이런 규칙이 프레임에 담겨 있지 않으면 AI가 파일과 기록을 아무리 많이 읽어도 올바른 판단을 재현하기 어렵다. 핵심 질문은 작업이 검증 가능한가보다, 올바른 판단의 프레임이 명시되어 있는가에 가깝다.
‘지도와 레일’ 구조
업무 지도는 기업의 현실과 예외를 설명하는 맥락이고, 레일은 그 맥락 안에서 소프트웨어와 자동화가 안전하게 움직이는 실행 경로다. 에이전트에게 목표만 주는 대신 현재의 업무 현실, 사용할 수 있는 시스템과 도구, 도구를 사용하는 방법, 허용된 레일, 성공 조건을 함께 제공해야 한다.
지도와 레일이 결합하면 에이전트는 무제한적인 자율성을 얻는 대신 통제된 범위 안에서 일을 수행한다. 기업이 금융 업무를 에이전트 군집에 통째로 맡기고 결과를 기다리는 방식은 위험하다. 잘못된 청구서나 사기성 거래에 거액을 송금할 수 있기 때문이다. 오케스트레이션과 자동화 계층이 에이전트의 행동을 제한하고, 업무 지도가 맥락을 제공해야 한다.
3층: 근거와 사례
UiPath 내부의 전환
UiPath는 약 4,000명 규모의 조직과 1,000명 이상의 엔지니어를 운영하며, AI 도입과 인력 전환을 함께 추진하고 있다. AI를 비용 절감의 구실로 삼아 일부 인원을 즉시 제거하는 방식은 거부하고, 업무 변화가 일어나는 만큼 구성원이 AI를 익히고 새로운 역할로 이동할 기회를 제공하는 접근을 취한다.
업무를 파악하기 위해 사람의 화면 행동만 감시하는 방식으로는 충분하지 않다. 고객 통화의 어조, 통화 뒤에 보낸 따뜻한 메시지, 특정 고객에게 예외를 허용한 이유처럼 화면 로그에 나타나지 않는 지식이 있기 때문이다. UiPath가 설명한 ‘업무 카토그래피(work cartography)’는 실제 업무 전문가를 인터뷰하는 에이전트가 왜 특정 송장 경로를 선택했는지, 우편번호가 다른데 왜 예외 처리했는지 질문하고, 여러 사람의 답을 합쳐 프로세스 지도를 만드는 방식이다.
현재 상태의 프로세스 지도가 만들어지면 코딩 에이전트가 목표 상태의 소프트웨어를 만들 수 있다. 사람은 시스템을 직접 조작하는 비중을 줄이고, 자동화와 에이전트는 시스템 오브 레코드와 업무 애플리케이션을 정해진 절차로 조작한다. 도입은 한 번에 조직 전체를 바꾸는 방식보다 한 프로세스씩 진행되며, 구성원이 자신의 업무가 관찰되는 이유와 전환의 원칙을 이해할 때 저항이 줄어든다.
바이브 코딩의 현실
AI만으로 조달 도구의 초기 버전을 만드는 일은 성공했지만, 프로덕션 전환 단계에서 커넥터, 권한, 감사, 보안, 테스트, 유지보수 문제가 드러났다. 생성된 데이터베이스 스키마가 잘못되어 사람이 구조를 다시 설계해야 했고, 충분한 테스트와 신뢰가 없으므로 AI가 만든 도구를 그대로 운영할 수 없었다.
프로토타입의 제작 비용이 낮아진 것과 운영 가능한 제품의 비용이 낮아진 것은 다르다. 비즈니스 사용자가 문제를 이해하고 바이브 코딩만으로 도구를 운영하는 단계는 아직 오지 않았으며, 엔지니어와 운영 인력이 계속 필요하다. 코드 작성 자체보다 운영 환경에 연결하고 예외를 관리하며 품질을 보증하는 일이 더 큰 차이를 만든다.
비용보다 품질과 대체 가능성이 중요하다
사람보다 기계가 같은 품질로 일을 할 수 있다면 기계의 추론 비용이 더 높더라도 채용할 수 있다는 판단이 제시된다. 사람의 비용은 임금, 오류, 관리 부담과 함께 계속 변하지만, 기계 비용은 규모와 하드웨어 발전으로 낮아질 수 있다. 다만 현재는 사람 한 명을 대체할 만큼 학습하고 주도적으로 일하는 ‘아인슈타인’이 존재하지 않는다.
일부 기업이 인력을 대규모로 줄인 사례만으로 산업 전체의 대체를 결론 내릴 수는 없다. 지원 인력을 줄였다가 다시 채용한 사례처럼, 특정 회사나 특정 업무의 성과는 규모와 분야가 다른 조직에 그대로 일반화되지 않는다. 대체 가능성은 토큰 가격보다 업무 프레임, 오류 비용, 예외의 밀도, 관계 자산을 함께 평가해야 한다.
모델·데이터·워크플로의 투자 논리
엔터프라이즈 업무의 약 90%는 최첨단 모델보다 비용 효율적인 모델로 처리될 가능성이 높다. 책임 있는 기업은 Anthropic이나 OpenAI의 저비용 모델을 쓰더라도 오픈소스 모델을 검증 가능한 백업으로 확보해 공급자 종속을 피해야 한다. 프런티어 모델이 항상 필요한 것은 아니며, 운영 업무에서 중요한 것은 품질·비용·전환 가능성의 균형이다.
기업 자체 모델을 만들려면 먼저 무엇을 누가 어떻게 판단하는지에 대한 업무 지도가 필요하다. 두 달 뒤 더 좋은 기반 모델이 나왔을 때 기존 모델에서 새 모델로 지식을 옮기려면 학습 데이터와 정확한 업무 메뉴얼이 있어야 한다. 이 문서화가 없으면 기업의 핵심 지식을 새 모델에 재학습시키거나 이전할 수 없다.
데이터도 단순한 저장 용량과 다르다. 모델이 필요로 하는 정보를 적절한 시점에 꺼내 정확한 맥락으로 구성하는 능력이 데이터의 가치다. 넓은 데이터 보유량만으로는 부족하고, 질문에 맞는 데이터를 선별하고 컨텍스트로 조립하는 지능이 모델 품질을 좌우한다.
UiPath의 기회와 위험
UiPath가 RPA 기업에서 오케스트레이션·자동화 기업으로 이동한 이유는 AI 에이전트만으로 기업 전체 프로세스를 마법처럼 운영하기 어렵기 때문이다. 업무 지도라는 맥락과 오케스트레이션·자동화라는 레일을 하나의 플랫폼에 결합하면, 에이전트가 현실·도구·절차·목표를 함께 이해하며 통제된 방식으로 일을 수행할 수 있다.
낙관적 시나리오는 토큰 비용이 거의 0에 가까워지고, 진짜로 사람 한 명을 대체할 수 있는 수백만 개의 지능이 등장하는 경우다. 그때는 기존 자동화 레일의 가치가 낮아질 수 있다. 반대로 모델이 계속 확률적이고, 업무 경험으로 내부가 변하지 않으며, 기업의 예외와 관계를 일일이 문서화해야 한다면 업무 지도와 레일을 제공하는 계층의 가치는 커진다.
4층: 실행 시사점
기업이 지금 구축해야 할 것
- 업무 지식 장부를 만든다. 직무 기술서가 아니라 목표, 절차, 예외, 시스템, 승인, 고객별 약속, 관계 자산, 암묵적 판단을 기록한다.
- 업무 전문가를 인터뷰한다. 화면 로그만 수집하지 말고 왜 그 경로를 택했는지, 어떤 신호를 보고 예외를 허용했는지, 어떤 위험을 피했는지 묻는다.
- 확률적 판단과 결정적 실행을 분리한다. 모델은 분류·추론·자연어 인터페이스를 맡기고, 계산·송금·권한·감사·반복 실행은 검증 가능한 도구와 자동화에 맡긴다.
- 지도와 레일을 모델에서 분리한다. 새 모델이 나와도 같은 업무 맥락과 실행 제약을 재사용할 수 있도록 기업의 핵심 IP를 모델 제공자 밖에 보관한다.
- 한 프로세스씩 검증한다. 프로토타입 성공을 운영 성공으로 간주하지 말고 커넥터, 권한, 보안, 테스트, 장애 복구, 유지보수를 함께 검증한다.
- 인력 평가 기준을 확장한다. 반복 산출물과 자격증뿐 아니라 주도성, 고객 신뢰, 예외 판단, 멘토링, 문화 기여, AI 활용 능력을 함께 평가한다.
- 모델 선택권을 확보한다. 비용 효율적인 폐쇄형 모델을 기본으로 쓰더라도 오픈 모델과 자체 모델을 백업으로 검증해 공급자 종속과 가격 변동에 대비한다.
개인과 리더가 가져갈 질문
- 내 업무에서 문서화된 프레임과 문서화되지 않은 예외는 각각 무엇인가?
- AI가 대체할 수 있는 반복 작업과 내가 가진 관계·판단·주도성 자산은 어떻게 구분되는가?
- AI가 만든 결과가 틀렸을 때 누가 무엇을 근거로 발견하고 되돌릴 수 있는가?
- 새 모델로 바꿔도 남는 나만의 업무 지도와 재사용 가능한 맥락은 무엇인가?
- 오늘의 AI 도입이 단순히 사람을 줄이는지, 아니면 더 높은 가치의 일을 할 수 있도록 레일을 바꾸는지 어떻게 측정할 것인가?
핵심 요약 (20줄)
AI 모델은 빠르게 교체될 수 있지만 기업의 고유한 업무 지도와 실행 레일은 장기 경쟁력이 된다.
현재 모델은 추론 능력을 보여도 업무 경험을 통해 내부 가중치와 판단 습관 자체가 변하지 않는다.
기억을 저장하는 기능은 경험에 의해 사람이 변하는 학습과 같지 않다.
업무를 진정으로 대체하려면 추론뿐 아니라 주도성, 맥락 이해, 예외 처리, 책임 있는 실행이 필요하다.
자기개선 루프를 무한히 돌린다고 의지나 목적이 자동으로 생긴다는 보장은 없다.
프런티어 AI의 위험이 실제로 통제 불능 수준이라면 연구소는 법적 책임을 고려해 개발 속도를 늦춰야 한다.
오픈소스 AI는 악용 위험을 만들지만 소수의 폐쇄형 공급자에 대한 종속을 줄이는 균형 장치이기도 하다.
AI의 정확성은 한 단계의 성공률보다 수백 단계가 이어지는 전체 실행의 신뢰성에서 크게 떨어질 수 있다.
계산과 송금처럼 정확성이 필요한 작업은 확률적 모델보다 결정적 소프트웨어가 맡아야 한다.
코딩 에이전트는 실행 중인 에이전트보다 자동화 소프트웨어를 만드는 단계에서 더 큰 생산성 향상을 만든다.
바이브 코딩으로 프로토타입을 만들기 쉬워져도 운영에는 권한, 보안, 테스트, 커넥터, 유지보수가 필요하다.
사람의 업무에는 측정 가능한 산출물 외에도 고객 신뢰, 문화, 멘토링, 예외 판단이라는 숨은 가치가 있다.
기업은 인력 감축 전에 구성원이 실제로 만드는 여러 종류의 결과를 기록하는 장부를 만들어야 한다.
업무 카토그래피는 전문가 인터뷰와 행동 분석으로 예외와 암묵지를 업무 지도로 바꾸는 접근이다.
업무 지도는 절차, 예외, 시스템, 승인 규칙, 고객별 관행을 함께 설명하는 기업 고유의 운영 맥락이다.
업무가 명확한 프레임 안에서 실행될수록 AI 자동화가 쉬워지고 문서 밖의 예외가 많을수록 사람의 역할이 커진다.
엔터프라이즈 업무의 대부분은 최첨단 모델보다 비용 효율적인 모델로 처리될 가능성이 높다.
기업 자체 모델이나 오픈 모델을 활용하려면 모델보다 먼저 업무 데이터와 정확한 업무 매뉴얼을 확보해야 한다.
데이터의 가치는 저장량보다 필요한 정보를 적절한 맥락으로 조립해 모델에 제공하는 능력에서 나온다.
업무 지도와 자동화 레일이 결합될 때 기업은 AI 에이전트의 자율성을 통제하면서 모델 선택권을 유지할 수 있다.