규제 금융·자산관리·보험을 위한 신뢰 가능한 지능형 워크플로우

URL: https://www.youtube.com/watch?v=8g0g1ncwzG0 날짜: 2026-10-13 채널: aiDotEngineer 원문 제목: Reliable, Smart Workflows for Finance, Wealth and Insurance — Karthic Rao, Perpetual 원본 업로드일: 2026-10-12

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

금융·자산관리·보험처럼 규제가 강한 분야에서 AI 워크플로우의 신뢰성을 높이는 방법은 자율성을 무조건 늘리거나 줄이는 것이 아니라, 결정론(determinism)이 통제 흐름·증거·부수 효과를 관리하고 지능(intelligence)이 해석·판단만 담당하도록 경계를 설계하는 것이다.

• 규제 업무는 현실의 복잡성과 모호함을 처리할 지능이 필요하지만, 정책 위반과 외부 시스템 변경은 심각한 결과를 낳으므로 실행이 안정적이고 결정론적이어야 한다.
• LLM은 요청을 유형화된 의미 그래프로 번역하고 제한된 판단을 수행하지만, 컴파일러와 상태 머신이 허용된 작업·승인·기록·외부 효과를 통제한다.
• 42개 작업 계약, 11단계 결정론적 컴파일, fail-closed 검증, 고유 게이트, 불변 해시, 유형화된 모델 호출을 결합하면 민감한 데이터를 사설 호스팅 모델로 옮기기 쉬워지고 최첨단 모델 의존도도 줄어든다.

규제 환경의 좋은 자동화는 사람을 제거하는 자동화가 아니다. 사람이 승인해야 할 경계와 모델이 해석해도 되는 경계를 명확히 하고, 판단을 기록·평가해 반복적으로 결정론 영역을 넓히는 자동화다.

1. 규제 워크플로우가 요구하는 아키텍처

금융·자산관리·보험 업무는 단순한 순차 자동화가 아니라 복잡한 런타임 판단과 엄격한 통제를 동시에 요구한다.

1.1. 신뢰성과 지능은 양자택일이 아니다

1. 두 가지 요구

   1. 금융·자산관리의 예외와 모호함을 다루려면 현실을 처리할 지능이 필요하다.
   2. 규제 표준을 충족하려면 같은 업무가 정책에 맞게 수행되고 결과와 근거가 남아야 한다.
   3. 신뢰성과 지능은 반대 개념이 아니며, 모델 판단과 결정론 시스템의 경계를 어디에 둘지가 핵심이다.

2. Perpetual의 배경

   1. Perpetual은 전통적인 자산관리 회사를 인수하고 AI로 처리량과 수익을 극대화하는 자산관리 통합 기업이다.
   2. 자산관리는 규제 산업이므로 설계 전체가 실제 AI 도입 제약을 전제로 한다.

1.2. 네 가지 설계 전제

1. 복잡성: 프로세스 중 런타임 전략이 필요하고 모든 경로를 미리 스크립트로 작성할 수 없다.
2. 민감한 정보: 고객·세금·자산 데이터를 완전한 비공개 호스팅(private hosted) 모델로 옮길 경로가 필요하다.
3. 정책 위반의 심각성: 규제 산업에서 위반은 단순 버그 리포트가 아니라 법적·감사·운영 결과를 낳는다.
4. 신뢰 가능한 실행: 실행은 고도로 안정적이고 결정론적이어야 하므로 런타임 지능은 필요한 곳에만 주입해야 한다.

2. “토큰을 더 쓰면 된다”는 해법의 한계

규제 업무는 최첨단 모델이 모든 단계를 자율적으로 수행하는 구조가 아니라, 대부분을 미리 구조화하고 소수의 지점에서만 판단하는 구조에 가깝다.

2.1. 최소한의 정밀한 지능

1. 잘못된 최적화: 대형 AI 연구소의 “토큰을 더 써라”라는 조언은 규제 산업에서 올바른 목표가 아니다. 토큰 증가는 외부 효과 허가, 근거 보존, 정책 준수를 보장하지 않는다.
2. 상태 머신 구조: 업무를 거대한 상태 머신으로 배열할 수 있고, 대부분의 단계는 다음 지시를 따르며 모델은 몇 개의 결정 지점에서만 분기한다.
3. 핵심 원칙: 지능적인 구축은 지능을 많이 쓰는 것이 아니라, 최소한으로 정확한 목적에 맞춰 쓰는 것이다.

3. 한 문장의 W-9 업무가 며칠짜리 프로세스가 되는 이유

“하퍼 씨를 위한 IRS W-9 서류를 작성해 줘”라는 지시는 조회·모호함·문서 검증·고객 대기·승인·증거 기록을 포함한다.

3.1. 첫 1분의 조회와 모호함

1. 양식과 고객 찾기
   1. 어시스턴트는 회사 기록 또는 IRS 웹사이트에서 W-9를 찾는다.
   2. 기록 시스템에서 Harper를 검색하면 Harper 가구 세 개가 나온다.
   3. 임의로 고르지 않고 어드바이저에게 “어떤 Harper를 말씀하시는 건가요?”라고 묻는다.
   4. 첫 1분에 조회(lookup), 모호함 해소(ambiguity resolution), 사람의 개입(human-in-the-loop)이 모두 필요하다.

3.2. W-9는 작은 프로그램이다

1. 납세자 유형: 개인인지, 법인인지, 법인격 없는 사업체(disregarded entity)의 소유자인지 판단하며 외국인이면 W-8이 필요해 W-9 작업을 중단한다.
2. 과세 분류: 3a 항목에서 정확히 하나를 체크하고, LLC 문자를 반영한다. 이 선택이 1번 줄과 2번 줄의 이름을 결정한다.
3. 식별번호: SSN인지 EIN인지 결정하고 둘 다 기입하지 않는다. 기억이 아니라 검증된 문서에서 가져온다.
4. 면제 코드: 일부 법인에만 적용되며 S corporation에는 절대 적용되지 않는다.
5. 서명자: 위증 시 처벌 조건 아래 누가 서명할지 결정한다. 각 답변이 다음 질문과 필요한 문서를 바꾼다.
6. 세 관문: 관련자는 질문(question), 수집할 문서(document), 서명(signature)이라는 세 유형의 관문을 통과한다.

3.3. 누락 값과 외부 일정

1. 고객 요청: 기록과 파일을 다시 확인해도 필요한 값 세 개가 없으므로 고객에게 정확히 요청한다.
2. 대기: 업무는 외부 사람의 일정에 좌우된다. 이틀 안에 답이 없으면 후속 연락을 하고 일일 스탠드업에서 어드바이저에게 보고한다.
3. 부분 회신: 세 값 중 두 개만 오면 빠진 하나를 다시 요청한다.
4. 출처 기록: 세 값이 모두 도착하면 양식을 완성하고, 값과 함께 값을 얻은 경로(source/provenance)를 시스템에 기록한다. 이 업계에서는 값만큼 그 값을 어떻게 알게 되었는지가 중요하다.

3.4. 서명과 사후 기록

1. 양식을 전자서명으로 보내고 하루나 이틀 안에 서명하지 않으면 다시 알린다.
2. 서명이 끝나면 고객 파일에 저장하고 수신 확인을 보내며 다음 날 스탠드업에서 어드바이저에게 업데이트한다.
3. 한 문장이 며칠 동안 여러 시스템과 두 사람의 승인을 거치고 여러 번 되돌아오는 프로세스가 된다.
4. 실제 내용은 모호함 해결, 데이터 통합, 승인 지연, 반복 후속 조치, 마지막 증거 기록이다.

4. 기존 자동화 접근이 실패하는 두 방식

4.1. 고정 순서도

1. 모호함에서 정지: 고정된 순서도는 첫 번째 “어느 Harper인가?” 같은 helper 질문에서 막힌다.
2. 통합 부족: 기본 기록 시스템과 연결되지 않으면 필요한 값과 출처를 검증할 수 없고, 대기·부분 회신·반복 후속 조치·전자서명을 처리하기 어렵다.

4.2. 임기응변식 자율 에이전트

1. 승인 불가: 에이전트가 경로를 즉석에서 선택하면 컴플라이언스 팀이 승인할 실행 근거가 남지 않는다.
2. 두 극단의 오류: 더 나은 모델에 전체 작업을 맡기는 자율성 확대와, 모든 경로를 하드코딩하는 자율성 축소는 각각 모호함과 현실 변형에서 실패한다.
3. 올바른 위치: 결정론이 필요한 부분과 실제 판단이 필요한 부분 사이의 경계를 설계해야 한다.

5. 결정론과 지능의 역할 분리

모델은 질문을 해석하고 답을 제시하며, 결정론적 시스템은 그 답으로 무엇을 실행할지 통제한다.

5.1. 결정론이 관리할 것

1. 제어 흐름(control flow): 다음 실행 단계와 대기·승인·후속 조치·종료 조건을 결정한다.
2. 증거(evidence): 무엇을 알고 있는지, 어떤 문서와 출처에서 어떻게 알게 되었는지 기록한다.
3. 부수 효과(side effects): 기록 작성·이메일 발송·양식 제출 등 세상에 변화를 주는 행동의 승인과 결과를 관리한다.

5.2. 지능이 관리할 것

1. 해석: 모호한 지시를 읽고 의도, 필요한 도우미, 고객 답변의 의미를 파악한다.
2. 재귀적 상호작용: 모델이 질문에 답하고 결정론 시스템이 다음 행동을 정한다. 판단 결과를 통제한 뒤 새 소규모 결정론 계획을 시작할 수 있다.
3. 핵심 경계: 모델은 직접 운전하지 않고 허용된 계획과 상태 머신 안에서만 해석을 실행한다.

6. Perpetual 워크플로우 엔진

엔진은 모델의 자유로운 계획을 즉시 실행하지 않고 유형화된 의미 그래프를 결정론적 컴파일러와 상태 머신으로 통과시킨다.

6.1. 플래너의 유형화된 의미 그래프

1. 플래너는 번역기: 사용자 요청은 모델 호출로 전달되지만 플래너의 역할은 실행이 아니라 구조화된 표현으로 번역하는 것이다.
2. 그래프 구성: 의도(intent), 개체(entities), 사실(facts), 아티팩트(artifacts), 이벤트(events), 제약 조건(constraints)을 출력한다.
3. 근거 연결: 모든 노드는 요청의 어떤 원래 단어에서 파생됐는지 가리키며, 처리 중 발견한 모호함도 표시한다.

6.2. 모델 없는 11단계 컴파일

1. 의미 그래프는 모델을 호출하지 않는 컴파일러로 넘어가 11단계 결정론적 과정을 거친다.
2. 그래프를 실행 태그로 바꾸거나 안전하게 fail-closed 처리한다.
3. 결과는 유효(valid), 설명 필요(needs explanation), 거부(rejected) 세 가지뿐이다.
4. 필요한 도우미는 추측하지 않고 질문으로 되돌린다.
5. 계획은 컴파일 뒤 불변이 되고 해시가 고정되어 승인한 계획과 실제 계획이 같은지 확인한다.

6.3. 42개 작업 계약과 폐쇄형 도메인

1. 컴파일러는 회사가 수행할 수 있는 업무의 문법과 어휘에 맞춰 계획을 확인한다.
2. 양식·문서·이메일·전자서명·일정·인적 단계를 포함한 42개 유형별 작업 계약(typed task contract)이 있다.
3. 플래너의 모든 작업은 계약과 일치해야 하며, W-9 작성은 W-9 양식 계약에 고정된다.
4. 문법에 없는 작업·잘못된 연결·그래프 순환·지원되지 않는 작업 등 약 40가지 실패를 컴파일 단계에서 차단한다.
5. 계약 요약은 엔진·백엔드·UI에 동일하게 고정되어 세 계층이 같은 의미를 이해한다. 모델은 회사가 안전하게 수행할 줄 아는 것만 요청한다.

7. W-9 추적 계획의 승인·대기·후속 조치

7.1. 실행 전 승인과 전송 게이트

1. 계획은 고객에게 양식을 보내고, 회신을 기다리고, 확인한 뒤 보관하는 흐름을 가진다.
2. 양식 찾기, 고객 작성용 준비, PDF 렌더링, 이메일 초안 작성까지 계획에 포함되며 실행 전 사람이 계획 자체를 승인한다.
3. 이메일 초안은 모델 호출이지만 전송은 별도 작업 게이트다. 사람이 정확한 이메일을 승인하기 전에는 회사 밖으로 아무것도 나가지 않는다.

7.2. 문법이 추가하는 노드

1. PDF 렌더링, 첨부, 회신 판단자는 플래너가 직접 요청하지 않아도 작업 계약 문법이 추가한다.
2. 이야기에서 대부분을 차지한 기다림·승인·후속 조치는 프롬프트가 아니라 계획의 노드다.
3. 회신 대기 기본값은 72시간이고 명시적 마감은 1분~30일이다. 시간 초과 후 다음 상황은 모델이 아니라 규칙이 결정한다.

7.3. 해시 승인과 부분 회신

1. 한 번의 승인이 계획 전체를 포괄하지만 이메일·서명 요청 같은 모든 외부 작업에는 고유 게이트가 있다.
2. 승인은 정확한 페이로드의 해시에 연결되고 전송 직전에 다시 확인된다.
3. 일부만 회신되면 판단자는 partial로 표시하지만 잠정적 판단이므로 사람 확인 전까지 차단한다.
4. 사람 확인 후 누락 항목을 요청하는 새 하위 계획을 실행하며 승인된 상위 항목은 바꾸지 않는다. 후속 라운드는 최대 5회다.

8. 상태 머신 실행과 유형화된 모델 호출

8.1. 상태 머신과 작은 판단

1. 상태 머신은 단계를 선택하고 모든 결과를 기록한다.
2. 판단이 필요할 때만 고정 스키마 모델 호출을 한 번 수행한다.
3. 허용된 판단은 이메일 작성, 답장 판단, 누락 값 찾기, 필드 추출, 문서 검증처럼 “완전한가?”, “일치하는가?”, “어떤 필드인가?”를 묻는 작은 질문이다.
4. 응답은 유형화되어 돌아오고 상태 머신이 처리 방식을 결정한다.

8.2. 부수 효과의 수명주기

1. 정상 상태는 준비(prepare), 발송(sent), 성공(success)이다.
2. 외부 응답이 불명확하면 outcome unknown으로 기록하고 자동 재시도 없이 수동 검토(manual review)로 보낸다.
3. 사람은 채팅으로 단계를 승인하거나 질문에 답할 수 있지만 승인된 계획을 바꿀 수 없다. 모델은 조종(steer)하지만 직접 운전(drive)하지 않는다.

9. 모델 계층화와 학습 루프

9.1. 95%의 판단을 Flash-tier로

1. 20회 결정 사례에서 19회는 빠른 Flash-tier 모델, 1회는 최첨단 frontier 모델로 처리한다.
2. 따라서 워크플로우 판단의 약 95%가 최첨단 모델을 필요로 하지 않게 설계된다.
3. Flash-tier는 사용자가 통제하는 하드웨어에서 실행할 수 있고 정말 어려운 경우에만 frontier 모델로 보낸다.

9.2. 어려운 5%의 학습 루프

1. 모든 판단은 유형화되어 기록되고 임시 frontier 판단은 사람이 확인하거나 거부한다.
2. 각 판단은 평가 등급 분포와 실제 훈련 데이터를 구조적으로 생성한다.
3. 그 데이터로 Flash-tier를 사후 훈련하면, 어려운 사례도 로컬에서 처리될 때까지 릴리스마다 frontier 비중이 줄어든다.

10. 사설 호스팅 LLM과 규제 준수

10.1. Harper Bourbon 9 계획의 모델 교체

1. 모든 호출은 작고 유형화되어 스키마로 검사되므로 사설 호스팅 모델을 가리키도록 한 줄만 바꾸면 된다.
2. 다른 호출도 같은 형태이므로 전체 재작성 없이 거의 모두에 같은 구성을 적용할 수 있다.
3. 약 95% 로컬 추론은 정책적 약속이 아니라 대체 가능한 유형화 호출이라는 아키텍처의 결과다.
4. 이 구조는 민감 데이터의 사설 경로를 만들고 규정 준수 위험을 엔지니어링 로드맵에 따라 릴리스마다 줄인다.

주요 발언 모음

“신뢰성과 지능은 서로 반대되는 개념이 아니다. 그 사이의 경계를 어디에 설정할지는 여러분에게 달려 있다.”

“런타임 판단이 진정으로 필요한 곳에만 지능을 주입하고, 그 외의 모든 곳에서는 LLM에 대한 의존도를 최소화하라.”

“모델은 번역하고, 계획은 컴파일된다.”

“모델은 조종하지만 직접 운전하지 않는다.”

“결정론은 제어 흐름, 증거, 부수 효과를 관리한다. 지능은 해석과 판단을 제공한다.”

“시스템에 자율성을 더 줄지 덜 줄지를 고민하지 말고, 경계가 어디인지 물어보라.”

핵심 데이터 & 수치

• 원본 업로드일: 2026-10-12.
• 영상 길이: 약 15분 21초.
• 설계 전제: 네 가지(복잡한 런타임 경로, 민감한 정보, 심각한 정책 위반 결과, 결정론적 실행).
• 컴파일러: 11단계 결정론적 과정.
• 작업 계약: 42개 유형별 계약.
• 실패 방지: 약 40가지 검사.
• 회신 대기 기본값: 72시간.
• 명시적 마감 범위: 1분~30일.
• 후속 조치 상한: 최대 5라운드.
• 판단 분배: 20회 중 19회 Flash-tier, 1회 frontier-tier, 약 95% 대 5%.

결론 및 시사점

1. 경계를 설계한다: 규제 업무에서 자율성을 더할지 줄일지보다 결정론과 판단의 경계를 먼저 정한다.
2. 외부 효과는 결정론으로 통제한다: 이메일, 기록 변경, 양식 제출, 서명 요청은 승인·해시·결과 기록·수동 검토 경로를 거친다.
3. 모델은 번역기와 판단기다: 자연어 해석과 유형화 분류는 맡기되 모델이 임의 작업을 만들거나 외부 세계를 직접 변경하지 못하게 한다.
4. 작업 계약을 폐쇄한다: 42개 계약과 약 40개 실패 검사를 통해 지원되지 않는 작업과 순환 계획을 실행 전에 거부한다.
5. 대기와 후속 조치를 노드로 만든다: 고객 대기, 시간 초과, 부분 회신, 최대 5회 후속 조치를 프롬프트가 아니라 규칙과 계획에 둔다.
6. 판단을 기록해 자동화를 넓힌다: frontier의 어려운 판단을 사람의 평가와 함께 기록해 Flash-tier를 학습시키고 릴리스마다 로컬 처리 비중을 늘린다.
7. 사설 모델 전환을 구성으로 만든다: 작고 유형화된 스키마 호출은 모델 주소만 바꾸면 되므로 민감한 데이터를 사설 호스팅으로 옮기기 쉽다.
8. 실무 점검 질문: 각 단계가 해석인지, 제어 흐름·증거·부수 효과인지 묻고 전자에는 제한된 지능, 후자에는 결정론 시스템을 둔다.

직접 서술형 20줄 핵심 요약

규제 금융·자산관리·보험 업무는 현실의 모호함을 해석할 지능과 감사 가능한 결정론적 실행을 동시에 요구한다.

Perpetual은 전통적인 자산관리 회사를 인수하고 AI로 처리량과 수익을 높이는 자산관리 통합 기업이다.

규제 워크플로우의 네 전제는 복잡한 런타임 경로, 민감한 정보, 큰 정책 위반 비용, 안정적 실행이다.

LLM 토큰을 무작정 늘리는 전략은 외부 효과와 규정 준수를 보장하지 못하므로 규제 업무의 목표가 될 수 없다.

대부분의 금융 업무는 거대한 상태 머신으로 구조화할 수 있고 모델은 소수의 분기점에서만 판단하면 된다.

IRS W-9 작성은 고객 식별, 납세자 유형, 과세 분류, SSN·EIN, 면제 코드, 서명자를 확인하는 작은 프로그램이다.

세 명의 Harper 가구가 검색되면 시스템은 추측하지 않고 어드바이저에게 어떤 고객인지 질문해야 한다.

누락된 세 값은 문서와 기록을 다시 확인한 뒤 고객에게 요청하며, 회신 지연과 부분 회신은 별도 상태가 된다.

값을 기록할 때는 값 자체뿐 아니라 검증된 출처와 값을 얻은 경로도 함께 보존해야 한다.

고정 순서도는 첫 모호한 질문에서 멈추고 임기응변식 에이전트는 컴플라이언스가 승인할 증거를 남기기 어렵다.

결정론은 제어 흐름·증거·부수 효과를 관리하고 지능은 해석·판단을 제공해야 한다.

플래너는 의도·개체·사실·아티팩트·이벤트·제약 조건으로 구성된 유형화된 의미 그래프를 만든다.

모델 없는 컴파일러는 11단계 검사를 거쳐 그래프를 실행 태그로 바꾸거나 fail-closed로 거부한다.

42개 유형별 작업 계약과 약 40가지 실패 방지 검사는 모델이 안전한 업무만 요청하도록 제한한다.

W-9 계획의 PDF 렌더링, 첨부, 회신 판단, 대기, 승인, 후속 조치는 프롬프트가 아니라 계획 노드다.

고객 회신 대기 기본값은 72시간이며 명시적 마감은 1분부터 30일까지 규칙으로 설정할 수 있다.

외부 이메일과 서명 요청은 고유 게이트를 거치고 승인된 페이로드 해시를 전송 직전에 재검증한다.

20회 판단 중 19회는 Flash-tier, 1회는 frontier-tier로 처리해 약 95%를 최첨단 모델 밖에 둔다.

어려운 판단은 사람의 확인·거부와 평가 데이터로 축적되어 릴리스마다 로컬 Flash-tier 모델로 이동한다.

자율성의 크기를 논하기보다 각 단계가 해석인지, 통제 흐름·증거·부수 효과인지 묻는 것이 실무의 출발점이다.