10월 18일 일요일 Insight Daily

01오늘의 깊이 읽기

AI 도입의 단위가 도구에서 결과 책임으로 바뀐다

마크비전의 브랜드 보호 운영은 자동화의 성과가 기능 수가 아니라 처리 시간, 증거의 확실성, 현장 집행까지 이어지는 결과로 측정돼야 함을 보여 준다.

ai-llm3분

AI 도입의 단위가 도구에서 결과 책임으로 바뀐다 관련 원문 대표 이미지

고객은 AI 기능이 아니라 해결된 상태를 산다

마크비전은 자신을 전형적인 SaaS보다 서비스 회사에 가깝게 정의한다. 고객이 원하는 것은 제품에 더 오래 접속하거나 좌석을 늘리는 일이 아니라, 위조상품이 더 빨리 삭제되고 신고 성공률이 높아지며 분기마다 나아진 결과를 받는 것이다. 그래서 업무의 끝도 ‘탐지 결과를 보여 줌’이 아니다. 온라인 게시물을 찾고 증거를 정리해 신고하며, 필요하면 현지 조사원·로펌·기관과 협력해 오프라인 유통 경로까지 막는다. 이 관점에서 AI 도입의 단위는 기능 하나가 아니라 고객 문제가 접수되고 해결될 때까지의 전체 흐름이다. 일부 가짜 광고와 사이트는 과거 3~4일, 길게는 2주 이상 걸리던 조치가 탐지 뒤 약 한 시간 안에 이뤄지기도 했다. 고객에게 중요한 지표는 모델을 썼는지가 아니라 피해가 계속될 수 있는 시간을 얼마나 줄였는지다. 제품팀과 운영팀도 각각의 기능 완료율보다 탐지, 증거 확인, 신고, 플랫폼 처리, 현장 후속 조치가 하나의 결과로 이어지는지를 함께 봐야 한다.

자동화율보다 먼저 사람의 책임 지점을 고정한다

마크비전의 사례에서 AI는 숙련자가 한 건에 약 한 시간을 쓰던 신고서 작성의 대략 80%를 맡고, HTML 비교를 통한 가짜 사이트 판별도 돕는다. 발표자는 이 판별 정확도를 약 99.5%라고 설명했다. 하지만 남은 사례에는 사이트가 정교하거나 확정 증거가 부족해 단정할 수 없는 건이 들어간다. 침해 신고는 가능성이 높다는 이유만으로 밀어붙일 수 없으므로, 사람은 최종 검수와 증거의 확실성에 책임을 진다. 플랫폼이 판매 집중기에 신고 기준을 높이거나, 삭제된 판매자가 다른 유통 경로로 이동하는 상황도 자동 작성만으로 끝나지 않는다. 현지 담당자에게 처리를 독려하고 다음 이동을 추적하는 관계 업무와 도메인 판단이 남는다. 따라서 사람을 어느 단계에서 뺄지를 묻기보다, 어떤 조건에서 AI가 멈추고 누구에게 판단을 넘기며 그 사람이 무엇을 확인할지를 먼저 정해야 한다. 높은 자동화율은 책임 공백이 아니라 명확한 인계 규칙 위에서만 서비스 품질로 바뀐다.

확장은 인원 감축보다 운영 체계의 재설계다

회사는 현재 업무의 약 80%를 자동화했다고 보고 이를 90~95%까지 끌어올리려 한다. 목표는 사람을 일괄 제거하는 것이 아니라 같은 규모의 팀이 더 많은 고객 문제를 더 빠르고 일관되게 해결하도록 만드는 데 가깝다. 이 모델은 기술 제품과 전문 서비스를 동시에 운영해야 한다. 모델이 좋아져도 마켓플레이스의 접근 차단에 대응해 데이터를 확보하고, 국가와 플랫폼마다 다른 절차를 이해하며, 고객 언어와 시간대에 맞춰 소통하는 조직이 필요하다. 실제로 글로벌 브랜드가 약 60개국에서 사업해도 브랜드 보호 전담자는 한두 명뿐일 수 있다. 자동화는 이 작은 고객 조직의 실행 폭을 넓히지만, 서비스 제공자에게는 제품 개발뿐 아니라 고객 업무 진단, 현장 운영, 품질 관리까지 요구한다. 도입을 검토하는 조직이라면 먼저 반복 작업량, 예외의 종류, 최종 책임자, 외부 기관과의 연결을 한 흐름으로 그려야 한다. 그런 뒤 자동화가 줄인 시간을 더 어려운 판단과 프로세스 개선에 돌릴 수 있을 때, AI는 단순한 비용 절감을 넘어 서비스의 범위와 지속성을 넓힌다.

02한 흐름으로 보기

에이전트에게 실행을 맡기되 결정권까지 넘기지 않는 법

포트폴리오 초안과 주간 대사, 상품 구매와 호텔 예약은 서로 다른 일이지만, 검증된 입력·제한된 권한·사람의 승인·분쟁 복구라는 같은 운영 질문을 남긴다.

ai-llm4분

에이전트가 자료 정리를 넘어 투자 초안과 구매까지 실행할 때, 사람의 승인·책임·검증 경계는 어디에 남겨야 하는가?

에이전트의 가치는 답을 자연스럽게 말하는 데서 실제 업무를 끝내는 쪽으로 이동한다. Redding Ridge에서는 200~400개 크레딧을 살펴 2~3일 걸리던 CLO 포트폴리오 초안을 수 분 안에 80~90% 수준으로 만들고, 여러 명이 매주 몇 시간 쓰던 매매 대사를 약 1분짜리 반복 보고 흐름으로 바꿨다. 반면 결제 영역에서는 에이전트가 장바구니를 만드는 데서 멈추지 않고 카드 권한으로 주문하는 순간, 잘못된 날짜와 상품, 환각, 차지백, 구독과 고객관계까지 책임 문제가 이어진다. 두 사례의 공통점은 ‘사람이 마지막에 한번 본다’는 막연한 안전장치로 충분하지 않다는 점이다. 무엇을 정답 데이터로 삼는지, 에이전트가 어느 범위까지 실행할 수 있는지, 어떤 예외에서 멈추는지, 결과가 틀렸을 때 누가 복구하는지를 업무 흐름 안에 미리 넣어야 한다. 속도를 높인 뒤 검증을 덧붙이는 것이 아니라, 검증 가능한 입력과 제한된 위임이 있어야 속도도 실제 운영 성과가 된다.

01
정답은 모델 밖의 업무 맥락에 있다
Redding Ridge의 데이터는 문서 라이브러리, 거래·컴플라이언스 시스템, 가격 정보처럼 여러 곳에 흩어져 있었다. 같은 항목이 스무 곳에 있어도 실제 기준이 되는 출처는 하나뿐일 수 있고, 낯설어 보이는 절차도 계약이나 계산 규칙 때문에 존재할 수 있다. Rowspace 팀이 투자·재무 담당자와 거의 매일 현장에서 일한 이유다. 자동화 전에 기준 출처, 계산법, 예외를 현업과 합의하지 않으면 빠른 초안은 빠른 오류 전파가 된다.
02
사람의 역할은 작성자에서 승인자와 개선자로 이동한다
에이전트가 포트폴리오의 80~90%를 구성해도 PM은 마지막 10%를 자신의 판단으로 다듬고 최종 결과에 책임을 진다. 자동 생성된 주간 보고서도 담당자가 매일 품질을 확인한다. 여기서 절약된 시간은 단순히 같은 일을 더 빨리 끝내는 데 머물지 않는다. 왜 이 절차가 존재하는지, 어떤 병목을 없앨 수 있는지 묻고 더 나은 투자 판단과 업무 개선에 쓰일 때 역할 전환이 완성된다.
03
실행 권한은 목적·한도·유효 범위로 잘게 나눈다
결제 에이전트에는 카드번호 전체를 건네기보다 판매자와 한도 같은 조건에 묶인 토큰으로 권한을 제한하는 구상이 제시된다. ‘500달러 이하 호텔’이라는 지시도 목적지와 날짜가 틀리면 실패이므로 금액 한도만으로 사용자의 의도를 보증할 수 없다. 카드가 유효한지, 사용자가 적법하게 위임했는지, 그 위임 범위 안에서 거래가 적절했는지를 나눠 확인해야 한다. 업무 자동화에서도 같은 방식으로 조회, 초안 작성, 제출, 결제처럼 권한을 단계별로 분리할 필요가 있다.
04
실수 뒤의 복구까지 서비스가 책임져야 한다
폐쇄형 지갑이 연동되지 않은 판매처에서 일회용 카드로 대신 결제하면 상품은 도착해도 카드 명세서와 판매자 기록이 갈라지고, 후속 구독이나 차지백 처리가 어려워질 수 있다. 에이전트가 잘못된 날짜를 예약했을 때도 등록과 인증만으로 책임이 정리되지는 않는다. 사용자, 에이전트 사업자, 판매자, 발급사 중 누가 문제를 해결할지 분명해야 한다. 편리한 실행을 제공하는 사업자는 오류 보정과 분쟁 대응을 부가 기능이 아니라 핵심 서비스 약속으로 다뤄야 한다.

에이전트 도입의 출발점은 ‘어디까지 자동화할까’가 아니라 ‘어떤 결과를 누구의 책임으로 만들까’다. 기준 데이터와 예외를 아는 현업 담당자, 제한된 실행 권한, 승인 단계, 기록 가능한 근거, 실패 뒤 복구 절차를 먼저 정하면 반복 수집과 정리는 기계에 맡기고 사람은 판단과 개선에 집중할 수 있다. 반대로 이 경계 없이 속도만 높이면 금융에서는 잘못된 정보가 투자자에게 전파되고, 상거래에서는 소비자 보호와 판매자 관계가 끊긴다. 좋은 위임은 사람을 흐름 밖으로 밀어내는 것이 아니라 사람이 개입해야 할 순간을 더 선명하게 만든다.