10월 14일 수요일

AI가 정보를 찾고 일을 실행하는 시대에도 조직이 직접 설계해야 하는 것은 무엇인가?

에이전트 도입을 화면을 없애는 프로젝트로 이해하면 업무의 중요한 구분도 함께 사라진다. 결과만 받으면 되는 반복 과업은 대신 처리하기 좋지만, 비교·취향·협업·책임이 개입하는 과업은 사람이 선택하고 상황을 이해할 접점이 계속 필요하다. 이때 조직의 차별점은 공개 지식을 얼마나 많이 불러오느냐보다 회의, 문서, 코드, 사람의 관계와 과거 결정이 지금 어떤 의미를 갖는지 연결하는 능력으로 이동한다. 다만 그 맥락을 한 번 만든 거대한 분류표로 고정할 수도 없다. 청구 부서가 말하는 고객과 지원 부서가 말하는 고객, 규제 책임의 대상은 서로 다르기 때문이다. 질문과 결정이 정해졌을 때 필요한 맥락을 조립하고, 어디에서 온 정보이며 무엇을 버렸고 어떤 가정이 들어갔는지 함께 남겨야 한다. 결국 좋은 기업 AI는 답을 대신 말하는 도구가 아니라, 조직이 무엇을 결정하는지에 맞춰 올바른 맥락과 책임의 경계를 드러내는 운영 체계다.

1. 01

   먼저 일의 종류를 나눈다

   구매처럼 결과만 빠르게 얻고 싶은 과업과 조사·비교·협력 과정 자체가 가치인 과업은 자동화 방식이 달라야 한다. 모든 일을 하나의 대화창으로 옮기기보다, 에이전트가 무엇을 맡았고 지금 어느 단계이며 언제 사람이 선택해야 하는지를 보여주는 접점이 필요하다. 정상 진행 때는 방해를 줄이고 예외가 생기면 세부 단계와 책임자를 확인할 수 있어야 한다.

2. 02

   기업의 맥락은 살아 있는 자산이다

   실제 의사결정은 데이터베이스뿐 아니라 회의 기록, 문서, 코드, 프로젝트 관계 속에 흩어져 있다. 사람의 역할과 협업 관계는 바뀌므로 현재 상태를 갱신하면서도 과거 결정의 교훈은 보존해야 한다. 오래된 세부 정보보다 지금 누구에게 어떤 설명과 권한이 필요한지가 더 중요할 수 있다. 에이전트가 유용하려면 이 연결을 읽고 쓸 수 있어야 하지만, 조직은 데이터의 소유권과 고객 경험을 포기해서는 안 된다.

3. 03

   분류는 질문이 생긴 뒤에 완성된다

   보편적으로 통하는 하나의 고객 정의는 없다. 같은 사람도 청구에서는 지불자, 지원에서는 연락한 사람, 컴플라이언스에서는 법적 책임의 대상이 된다. 따라서 기록 당시의 출처와 저장 제약, 지금의 의사결정 목적, 모델이 가져온 가정을 분리해 보존하고 질문이 정해진 순간 필요한 구조를 조립해야 한다. 정의가 불명확하면 더 강한 모델보다 ‘무엇을 충분한 근거로 볼 것인가’를 먼저 합의하는 편이 중요하다.

4. 04

   사람의 역할은 실행에서 기준 설정으로 이동한다

   값싼 지능이 반복 작업을 줄여도 조직에는 시작점을 정하고, 예외를 처리하고, 결과가 충분한지 판단하는 사람이 남는다. 정보를 아는 것만으로 차별화하기 어려워질수록 문제를 새롭게 정의하는 상상력과 고객 경험을 다듬는 시간이 중요해진다. 자동화 속도를 높이는 일과 별도로, 무엇을 만들지 멈춰 생각하는 시간까지 업무 설계에 포함해야 한다.

도입 순서는 명확하다. 먼저 자동화할 과업과 사람이 경험해야 할 과업을 구분하고, 결정마다 필요한 조직 맥락을 정의한다. 다음으로 출처·저장 제약·결정 목적·모델 가정을 결과와 함께 남긴다. 마지막으로 사용자가 에이전트의 능력, 진행 단계, 권한, 예외를 이해할 수 있는 접점을 설계한다. 화면을 줄였다는 사실이 아니라 더 나은 결정을 반복 가능하게 만들었는지가 성공 기준이다.

조직은 AI 실험을 어떻게 감사 가능하고 책임 있는 일상 업무로 바꿀 수 있는가?

성공적인 기업 자동화는 에이전트를 자유롭게 풀어놓는 방식보다, 예측 가능한 절차는 코드와 규칙에 두고 해석이 필요한 좁은 순간에만 모델을 쓰는 방식에 가깝다. 이 구분은 특히 고객·결제·건강 정보처럼 민감한 데이터를 다루거나 외부 이메일, 문서 제출, 기록 변경처럼 되돌리기 어려운 행동이 있는 업무에서 중요하다. 한 문장의 요청도 실제로는 대상 확인, 누락 정보 요청, 대기, 부분 회신, 승인, 서명, 출처 기록을 거치는 며칠짜리 과정이 될 수 있다. 그래서 모델이 다음 행동을 임의로 정하게 하기보다, 조직이 허용한 작업과 순서, 시간 제한, 재시도, 승인 조건을 먼저 계약으로 만들어야 한다. 모델은 모호한 요청을 해석하고 작은 판단을 제안할 수 있지만, 누가 승인했고 어떤 근거로 무엇이 바뀌었는지는 시스템이 기록해야 한다. 자동화의 목표는 사람을 없애는 것이 아니라 사람이 책임 있게 검토할 수 있는 결과를 더 빠르고 반복 가능한 형태로 받는 것이다.

1. 01

   반복 절차는 코드, 판단은 좁은 질문으로

   입력 수집, 위험 분류, 권한 제한, 결과 게시처럼 예상 가능한 단계는 규칙으로 고정한다. 모델에는 코드나 상황을 읽고 정해진 형식으로 답해야 하는 작은 판단만 맡긴다. 이렇게 하면 시스템의 다음 상태가 자유로운 문장에 좌우되지 않고, 실패한 지점만 골라 다시 시도할 수 있다. 가장 강한 모델을 모든 단계에 쓰기보다 과업별로 필요한 수준을 고르는 비용 규율도 함께 생긴다.

2. 02

   외부 행동에는 별도의 문턱을 둔다

   이메일 발송, 양식 제출, 기록 변경, 서명 요청은 해석과 다른 종류의 일이다. 시스템은 승인된 계획과 실제 실행 대상이 같은지 확인하고, 불명확한 외부 응답은 자동 재시도하지 않고 사람이 검토하도록 보내야 한다. 고객의 부분 회신이나 시간 초과도 채팅의 즉흥 대응이 아니라 계획 안의 상태로 다루면, 후속 조치를 하면서도 이미 승인된 범위를 몰래 바꾸지 않을 수 있다.

3. 03

   권한과 데이터 경계를 눈에 보이게 만든다

   누가 어떤 네트워크, 도구, 데이터 영역에 접근할 수 있는지 선언하고 일반 코드처럼 검토해야 한다. 읽기만 필요한 검토 단계에 수정 권한을 주지 않고, 엔지니어링 데이터와 기업 운영 데이터, 민감한 결제 데이터를 분리한다. 같은 원칙은 비기술 부서의 셀프서비스에도 적용된다. 승인된 활동을 조합할 자유는 주되, 숨은 권한 확대나 지원되지 않는 행동은 실행 전에 닫혀 있어야 한다.

4. 04

   사람의 검토를 학습 자산으로 바꾼다

   결과를 사람이 검토할 수 있는 변경 제안으로 남기고, 실행 기록과 판단 결과를 축적하면 모델이나 프롬프트가 바뀌어도 품질을 비교할 수 있다. 실제 운영 흔적에서 반복되는 사례를 평가 자료로 만들고, 어려운 판단에 대한 사람의 확인과 거부를 기록하면 더 많은 단계를 값싸고 사적인 실행 환경으로 옮길 수 있다. 다만 성공률이 높아도 승인·추적·데이터 분리라는 책임 경계는 사라지지 않는다.

실무에서는 업무 하나를 골라 네 칸으로 나누면 된다. 무엇이 해석인지, 무엇이 제어 흐름인지, 어떤 행동이 외부에 영향을 주는지, 어느 지점에서 사람이 승인해야 하는지 표시한다. 그다음 시간·비용·동시 실행·데이터 접근 상한을 정하고 작은 실제 사례로 검증한다. 운영 전환의 증거는 멋진 데모가 아니라 실패가 닫혀 있고, 변경과 근거가 남으며, 사람이 책임을 행사할 수 있다는 사실이다.