8월 21일 금요일
에이전트를 운영에 넣는 순간, 모델 선택보다 권한·기록·컨텍스트를 통제하는 시스템 설계가 먼저 경쟁력이 된다.
에이전트의 능력을 키우기 전에, 바깥의 경계를 설계하라
POC의 정확도와 모델의 정렬만으로는 운영을 지킬 수 없다. 실행을 기록하고, 데이터를 분리하고, 네트워크에서 위험한 행동을 멈추는 구조가 필요하다.
POC의 정확도는 운영의 시작일 뿐
엔터프라이즈 AI의 실패 지점은 대개 모델을 처음 연결할 때가 아니라 POC를 프로덕션으로 옮길 때 드러난다. 810의 사례에서 4주짜리 POC는 애플리케이션 계층과 컨트롤 플레인, 데이터 플레인을 단순화하고 성능 지표를 맞추는 데 집중한다. 그러나 운영 전환 회의가 시작되면 개발 로그와 법적 증거 사슬은 다르다는 사실이 나타난다. 에이전트가 무엇을 했는지뿐 아니라 어떤 데이터 위치에 접근했고 어떤 권한이 그 행동을 허용했는지, 특정 시점의 상태에서 왜 그 결정을 내렸는지를 되짚을 수 있어야 한다. 민감한 데이터는 시스템 전체를 자유롭게 흐르는 값이 아니라 필요한 시점에 권한을 부여받는 경계 안의 객체여야 한다. 승인 시점도 미리 고정되지 않는다. 에이전트의 확신, 업무의 위험도, 사람이 이해할 수 있는 컨텍스트에 따라 동적으로 사람에게 넘길 수 있어야 한다. 따라서 정확도는 운영 설계의 결과 중 하나이지, 설계를 대신하는 출발점이 아니다.
넓은 권한의 대가를 네트워크에서 통제하기
832는 장애 대응 에이전트가 Postgres, Kubernetes, ClickHouse, AWS, GitHub, Slack의 맥락을 함께 읽고 실제 변경 권한까지 얻을 때 진단 능력이 커진다고 설명한다. 동시에 잘못된 판단 하나가 사용자 테이블 삭제나 프로덕션 네임스페이스 삭제로 이어질 수 있다. 모델이 위험한 명령을 거부하더라도 지원 티켓이나 로그에 섞인 프롬프트 인젝션이 판단을 오염시킬 수 있으므로, 모델의 정렬을 보안 경계로 삼을 수 없다. 더구나 MCP 도구만 감시하면 에이전트가 psql 서브프로세스를 띄워 PostgreSQL 프로토콜로 우회하는 경로를 놓친다. Claw Patrol의 해법은 에이전트를 블랙박스로 두고, HTTP보다 낮은 계층에서 나가는 바이트와 프로토콜을 해석하는 프록시를 앞에 두는 것이다. HCL 규칙으로 위험한 요청을 차단하거나 승인 대기로 보내고, 자격 증명은 외부 통신 직전에 주입한다. 모델을 더 똑똑하게 만드는 경쟁과 별개로, 모델이 어떤 경로로 만든 요청도 외부 시스템에 도착하기 전에 검사하는 backstop이 필요하다.
감사와 평가를 기능이 아니라 데이터 구조로 만들기
운영 가능한 시스템은 나중에 감사 화면을 덧붙이는 대신, 처음부터 재구성 가능한 기록을 남긴다. 810이 제시하는 불변 이벤트 원장은 모든 행동을 append-only 타임스탬프 기록으로 저장하고, 특정 시점의 상태와 그 상태에서 발생한 행동을 다시 만들게 한다. 쓰기는 단순해지지만 현재 화면을 읽을 때는 이벤트를 순서대로 재구성해야 하므로 읽기와 쓰기의 트레이드오프가 생긴다. 이벤트에는 에이전트의 행동을, 스키마 기반 객체 저장소에는 실제 데이터를 분리해 저장하면 입력과 결과, 접근 권한을 함께 추적할 수 있다. 여기에 사람과 LLM을 같은 에이전트 인터페이스로 다루면 자동 실행이 멈추는 지점에서 사람이 이어받을 행동과 컨텍스트를 설계할 수 있다. 평가도 별도 플러그인이 아니라 이런 원장과 데이터 경계 위에서 반복 가능한 시스템 속성이 된다. 즉 핵심은 모델을 믿을 이유를 늘리는 것이 아니라, 믿음이 틀려도 피해와 원인을 추적하고 멈출 수 있게 만드는 것이다.
에이전트 비용을 줄이는 두 운영 레버: 세션 정리와 도구 절제
컨텍스트를 가볍게 만드는 일과 플러그인 권한을 줄이는 일은 서로 다른 레버지만, 둘 다 에이전트의 실행 환경을 관리하는 운영 작업이다.
세션·컨텍스트 운영작업이 끝난 뒤 남은 대화·파일·추론 기록과 전역 설정을 줄인다. /clear, /context, /memory는 다음 요청이 읽어야 할 입력을 작게 만든다.
스킬·플러그인 운영사용하지 않는 스킬·MCP·플러그인이 매 턴 차지하는 컨텍스트와 권한을 줄인다. /doctor와 원본 문서 확인은 설치 후 정리뿐 아니라 설치 전 검증에도 쓰인다.
세션·컨텍스트 운영서로 다른 작업으로 넘어갈 때는 /clear로 컨텍스트를 버리고, 이어갈 맥락이 필요할 때만 캐시가 살아 있는 첫 1시간 안에 /compact를 사용한다.
스킬·플러그인 운영반복 작업에 맞는 도구를 고르고, 같은 지시를 계속 복사하는 순간 자기 스킬을 만든다. 대규모 독립 변경은 /batch처럼 계획·승인·격리·테스트의 흐름으로 나눈다.
세션·컨텍스트 운영세션 중간에 모델이나 effort level을 바꾸거나 늦게 compact하면 프롬프트 캐시가 무효화되어 전체 컨텍스트를 다시 읽는 비용이 생긴다.
스킬·플러그인 운영플러그인은 사용자의 권한으로 코드를 실행할 수 있고, 남의 워크플로를 그대로 설치하면 컨텍스트 비용과 권한 범위를 함께 떠안는다. 유명한 목록보다 현재 프로젝트와 반복 업무에 맞는지가 먼저다.
두 접근은 대체재라기보다 서로 다른 층의 가드레일이다. 세션 운영은 매 요청의 입력과 캐시를 다루고, 도구 운영은 무엇이 자동 실행될 수 있는지와 그 비용을 다룬다. 에이전트 제품을 만들 때도 이 둘을 사용자 습관에 맡기지 말고, 컨텍스트의 출입·도구의 권한·검증 결과를 관찰 가능한 설정으로 노출해야 한다.
구현 현장에서 보이는 세 가지 다음 신호
서로 다른 원문이 공통으로 보여주는 것은 더 화려한 데모가 아니라, 기존 인터페이스와 실행 환경을 다시 조합하는 방법이다.
- 01
nomadcodersDOM의 의미와 Canvas의 픽셀을 한 화면에
HTML-in-Canvas API는 실제 DOM 요소의 클릭·키보드 입력·접근성을 남겨 둔 채 Canvas에서 셰이더로 픽셀을 가공하는 구조를 제안한다. 현재는 Chrome Canary 플래그 뒤의 proposal 단계라 즉시 프로덕션에 넣을 기능은 아니지만, 웹 UI와 그래픽 장면의 분리를 다시 설계할 수 있는 구현 신호다.
- 02
Tech Bridge빈 캔버스보다 어려운 것은 선택과 검증
Reelful의 에이전틱 영상 편집기는 미디어와 맥락을 입력받아 원격 샌드박스에서 장면 선택·삭제·조립을 수행하고 Remotion 기반 React 컴포지션을 렌더링한다. 생성보다 중요한 계층은 불완전한 원본을 다루는 판단과 자동 검증이며, 복잡한 내부 파이프라인은 모바일 우선 UX 뒤에 숨긴다.
- 03
aiDotEngineerAI 네이티브 조직은 오케스트레이션과 평가를 함께 만든다
Maven Clinic 사례에서 AI 네이티브는 모델 하나를 도입하는 일이 아니라 내부 업무·제품·문화·개발 프로세스를 AI의 실행 속도에 맞추는 일이다. 낮은 위험의 업무에서 신뢰를 쌓고, 공통 오케스트레이션 계층을 제공하며, 실패 허용도에 따라 검증 강도와 인간 이관 경로를 다르게 설계한다.
아직 못 읽은 북마크
북마크를 고르는 중…