10월 5일 월요일

에이전트가 화면을 대신 조작하면 무엇을 제품의 인터페이스로 봐야 하고, 사람은 어디에서 통제권을 잡아야 하는가?

한 번의 오류를 처리하려고 Slack에서 맥락을 읽고 Datadog과 PostHog에서 단서를 찾고 VS Code에서 수정한 뒤 GitHub에 제안서를 올리던 흐름은, 사람이 다섯 도구의 화면과 검색 문법을 번역해 주는 일이었다. 자연어 질의와 MCP가 이 비용을 낮췄지만 연결 자체가 일을 끝내 주지는 않는다. 여러 서비스의 선행 조건을 찾고, 올바른 도구를 골라 순서를 세우고, 결과를 다음 단계로 넘기는 운영 설계가 더 필요하다. 따라서 ‘에이전트 경험’은 화면을 감추는 장식이 아니라 목표가 실제 완료 상태에 도달하도록 제품의 사용 계약을 다시 쓰는 일이다. VS Code의 주간 릴리스 사례는 그 계약의 반대편도 보여 준다. 산출 속도가 오르면 리뷰, 시각 검증, 오류 분류, 배포 위험, 제품 판단이 곧바로 다음 병목이 된다. 사람이 클릭을 덜 하게 된 자리에 검증과 승인까지 비워 두면 자동화는 속도만 키우고 책임의 위치를 흐릴 수 있다.

1. 01

   인터페이스가 화면에서 완료 조건으로 이동한다

   사용자가 원한 것은 특정 툴바나 쿼리 문법이 아니라 문제의 답이었다. 에이전트가 여러 서비스를 오갈 때 제품은 기능 목록만 내놓는 대신 어떤 선행 조건이 있고, 무엇을 어떤 순서로 호출하며, 어느 결과를 다음 작업에 건네야 하는지 드러내야 한다. MCP는 서비스와 대화할 문을 열지만, 여러 방을 잇는 지도와 기억까지 자동으로 주지는 않는다. 제품팀이 설계할 새 인터페이스는 목표, 필요한 도구, 권한, 작업 순서, 실패했을 때의 복구 경로가 함께 보이는 ‘완료의 경로’에 가깝다.

2. 02

   사람의 역할은 조작에서 경계 설정으로 바뀐다

   에이전트가 Slack의 문제 맥락과 Sentry·Datadog의 단서를 모아 수정 제안까지 만들면 사람은 화면을 차례로 여는 데 쓰던 시간을 줄일 수 있다. 그렇다고 판단까지 사라지는 것은 아니다. VS Code는 반복되는 전문 지식을 스킬로 배포하고 자동 리뷰와 오류 분류를 앞단에 두지만, 잘못된 분류를 사람이 고치고 수정 제안을 승인하는 핵심 단계는 남긴다. 소수 전문가의 지식은 매번 호출되는 조언이 아니라 재사용할 기준이 되고, 인간의 교정은 다음 실행의 품질을 높이는 피드백이 된다. 직무의 중심이 ‘내가 직접 처리했다’에서 ‘어떤 기준으로 맡기고 어디서 멈췄는가’로 옮겨가는 셈이다.

3. 03

   자동화가 빨라질수록 증거가 먼저 필요하다

   코드와 제안이 빠르게 늘면 검토 대기열도 함께 커진다. VS Code는 화면 변경을 스크린샷으로 비교하고 실제 앱을 조작해 동작을 확인하며, 자동 코드 리뷰가 지적한 내용을 먼저 해결한 뒤 사람이 본다. 하루 약 510억 건의 원시 오류 신호도 유효한 스택을 추리고 비슷한 문제를 묶은 뒤 10개의 담당 이슈와 수정 제안으로 압축한다. 중요한 것은 숫자 자체보다 검증 가능한 증거의 형태다. 에이전트의 ‘완료했습니다’라는 문장 대신 변경 전후 화면, 실행 로그, 영향 범위, 원인 추적 결과가 사람의 판단 앞에 놓여야 한다.

4. 04

   배포는 더 느슨해지는 것이 아니라 더 촘촘해진다

   설치형 제품은 문제가 생긴 뒤 되돌리는 비용이 크다. VS Code는 모든 사용자에게 한꺼번에 내보내던 방식에서 작은 범위부터 넓혀 가며 오류와 이슈를 관찰하는 단계적 배포로 옮겼다. 에이전트가 일을 끝낼 수 있는지가 새 사용성 기준이라면, 운영팀에는 ‘끝났다’고 판단할 관측 조건도 필요하다. 작업 성공률이나 완료 시간만 볼 것이 아니라 어떤 단계에서 사람이 개입했는지, 무엇을 근거로 승인했는지, 배포 후 어떤 신호가 멈춤 조건인지까지 제품 흐름에 포함해야 한다. 자동화의 속도와 운영 통제는 서로 반대가 아니라 같은 시스템의 두 축이다.

도입의 첫 질문은 ‘대시보드를 없앨 수 있는가’가 아니라 ‘한 업무의 완료를 어디까지 맡길 수 있는가’여야 한다. 여러 화면을 오가는 실제 업무 하나를 고르고, 시작 목표와 완료 조건, 필요한 권한, 확인해야 할 증거, 사람의 승인 지점, 실패 시 복구, 배포 뒤 관찰 신호를 한 흐름으로 적어 보면 빈칸이 드러난다. 에이전트가 그 빈칸을 스스로 메우게 두는 대신 제품과 운영이 명시적인 계약으로 채워야 한다. 화면은 줄어들 수 있지만, 책임 있는 제품은 오히려 더 많은 경계와 피드백을 설계한다.

AI의 도움을 받으면서도 기억을 꺼내는 힘, 근거를 판단하는 힘, 혼자 수행하는 힘을 어떻게 보존할 수 있을까?

AI 설명을 읽고 고개를 끄덕이는 순간과 화면을 닫고 혼자 문제를 푸는 순간 사이에는 큰 간격이 있다. 설명을 빠르게 얻는 일은 쉬워졌지만, 목표를 세우고 답을 떠올리고 틀린 이유를 찾아 다시 수행하는 과정까지 넘기면 결과는 얻어도 능력은 남지 않을 수 있다. 책을 오래 기억하려고 밑줄·필사·노트·템플릿을 쌓는 습관도 비슷한 함정을 가진다. 기록의 위치를 머리에서 폴더로 옮겼다고 생각이 자기 것이 되는 것은 아니다. 두 원문이 만나는 지점은 분명하다. AI와 기록 도구는 준비와 정리를 맡을 수 있지만, 학습자는 자료를 덮고 기억을 꺼내고, 자기 말로 판단하고, 실제 조건에서 다시 해봐야 한다. 학습의 효율은 더 많은 답을 소비하는 속도가 아니라 도움 없이 재현할 수 있는 행동이 늘어나는지로 확인해야 한다.

1. 01

   도움을 받기 전에 먼저 산출한다

   가장 단순한 경계는 순서다. 목표와 현재 수준, 실제 평가 조건을 정한 뒤 먼저 문제를 풀거나 설명을 만들어 본다. 막힌 지점에서는 정답 전체가 아니라 작은 힌트를 받고, 답변을 닫은 뒤 처음부터 다시 수행한다. AI는 인터뷰어·질문자·시험자·평가자처럼 역할을 바꿀 수 있지만, 어느 역할에서도 학습자보다 먼저 최종 답을 완성해 버리면 안 된다. 답이 맞아도 이유를 말하지 못하면 조건이 바뀔 때 흔들릴 수 있으므로, 결과뿐 아니라 풀이와 근거를 보여 주고 검토받는 과정이 필요하다.

2. 02

   보관보다 인출을 학습의 중심에 둔다

   제시된 실험에서는 네 차례 공부한 조건이 5분 뒤 83%를 기억해 즉시 세 번 인출한 조건의 71%보다 높았지만, 일주일 뒤에는 각각 40%와 61%로 순서가 바뀌었다. 모든 과목에 같은 수치를 적용할 수는 없지만, 당장 익숙하게 느끼는 것과 오래 꺼낼 수 있는 것은 다르다는 신호다. 독서에서도 책 전체를 완벽히 저장하려 하기보다 한 가지 통찰을 고르고, 책의 전개와 그 통찰에 대한 자기 생각을 각각 다섯 줄가량 쓰는 10분 루틴이 제안된다. 공통점은 자료를 다시 바라보는 시간이 아니라 자료 없이 내용을 생산하는 시간을 확보한다는 데 있다.

3. 03

   판단은 깔끔한 정리보다 앞에 놓는다

   AI는 지저분한 메모를 개요와 복습 질문으로 바꾸고, 반복되는 오답의 원인을 제안하며, 학습 순서를 정리할 수 있다. 그러나 보기 좋은 카드에도 잘못된 내용이 들어갈 수 있고, 진단은 우선 가설일 뿐이다. 추천 링크가 실제로 존재하고 목표에 맞는지 열어 보고, 코드라면 실행하며, 새 문제에서 같은 실수가 줄었는지 확인해야 한다. 책을 읽은 뒤에도 저자의 메시지를 그대로 옮기기보다 동의·반대·유보의 이유와 자신의 경험을 적는다. 판단을 보존한다는 것은 AI의 결론을 검수하는 데 그치지 않고, 무엇이 중요한지 스스로 선택하고 이유를 언어로 만드는 것이다.

4. 04

   연습은 실제 업무의 불편함을 남겨 둔다

   현실의 업무에는 정보가 빠져 있고 요구가 모호하며 시간 제한이 있다. 연습에서도 필요한 정보가 없으면 먼저 되묻고, 면접 답변이라면 정해진 시간 안에 실제 경험으로 답하며, 코드라면 도움 없이 다시 실행해야 한다. 점수 화면이 있다고 평가가 정확해지는 것도 아니므로 채점 기준과 답의 근거를 먼저 정한다. AI가 일정·질문·피드백을 준비해 절약한 시간은 바로 이 불편한 수행에 써야 한다. 편한 설명을 더 오래 읽는 대신 말하고, 쓰고, 풀고, 틀리고, 다시 하는 시간이 학습자의 몫으로 남아 있어야 한다.

AI 학습 루틴은 ‘목표와 평가 조건 정하기 → 도움 없이 첫 답 만들기 → 막힌 만큼만 도움받기 → 답을 닫고 다시 수행하기 → 자기 말로 설명하고 근거 확인하기 → 틀린 내용을 간격을 두고 다시 꺼내기’로 설계할 수 있다. 책이라면 한 가지 통찰을 고르고 요약과 자신의 판단을 짧게 쓰는 방식으로 같은 원리를 적용할 수 있다. 성공 기준도 생성한 노트의 양이나 대화 횟수가 아니다. 며칠 뒤 자료 없이 설명할 수 있는지, 낯선 문제에서 적용하는지, AI의 제안에 근거를 들어 이의를 제기할 수 있는지를 봐야 한다. 준비를 자동화할수록 인간의 연습은 더 의도적으로 남겨야 한다.