8월 28일 금요일
에이전트와 과학 모델의 품질은 더 큰 기억이나 범용 구조가 아니라, 진실의 원천과 실패 경계, 도메인 구조를 어디에 두느냐에서 갈린다.
코딩 에이전트의 기억보다 먼저 설계할 것들
자동 메모리를 늘리기 전에 코드, 타입, 테스트, CI, 의도적으로 관리한 프로젝트 원칙이 각각 어떤 실패를 막아야 하는지 분리해야 한다.
대화의 기억과 코드의 상태는 같은 문제가 아니다
사용자의 생활 맥락은 직접 추적할 호출 경로가 없어서 주제별 기억이 반복 설명을 줄일 수 있다. Claude의 Chat과 클라우드 Co-work가 공유 메모리를 쓰고, 사용자가 항목을 편집·삭제할 수 있게 한 설계는 이 용도에 맞는다. 반면 코드베이스에는 현재 파일, 타입, 실행 결과, 테스트라는 추적 가능한 경로가 있다. 여기에 과거 계획과 디버깅 상태를 자동 요약해 다시 주입하면 코드와 메모리 중 무엇이 진실인지 갈리는 split-brain이 생긴다. 해결된 문제나 폐기된 사양이 durable knowledge로 남는 순간, 기억은 컨텍스트가 아니라 회귀의 입력이 된다. 따라서 메모리의 유용성을 기능 이름으로 판단하지 말고, 대상 지식의 변경 주기와 현재 상태를 재검증할 수 있는 경로부터 구분해야 한다.
저장량이 아니라 재사용률과 산출물 개선을 측정한다
한 실제 감사에서는 Claude Code가 만든 메모리 45개 중 26개가 한 번도 읽히지 않았다. 355개가 넘는 세션에서 개별 메모리를 읽은 세션은 19개였고, 작성하거나 수정한 세션은 80개였다. 쓰기가 읽기보다 약 세 배 많다는 사실은 메모리가 지식 계층인지 세션 부산물인지 묻게 한다. 평가 없이 임베딩, 그래프, 자동 요약을 추가하면 컨텍스트 시스템 자체가 유지보수 대상이 된다. 최소한 메모리 항목별 생성 근거, 마지막 검증 시점, 실제 조회 빈도, 메모리를 넣었을 때와 뺐을 때의 작업 성공률을 비교해야 한다. 여기에 오래된 계획을 현재 지시로 오인한 비율과, 관련 없는 기억이 토큰을 차지해 탐색을 방해한 비용도 포함해야 한다. append-only 원문 기록을 필요할 때 검색하는 방식, 짧은 저장소 지도, 자동 요약 메모리를 같은 작업군에서 비교하면 ‘기억이 있다’와 ‘결과가 좋아졌다’를 분리할 수 있다. 현재 상태를 bash로 탐색하는 단순한 방식보다 낫다는 것을 증명하지 못하면 복잡한 검색 계층은 아키텍처가 아니라 가정에 가깝다.
신뢰성은 실패를 표현할 수 없게 만드는 순서로 쌓는다
가장 높은 레버리지는 아키텍처와 자료구조에서 오류 범주를 제거하는 것이다. 백엔드와 프런트엔드가 같은 타입 계약을 따르게 하면 불일치를 사후 지침으로 막을 필요가 줄어든다. 다음 층은 lint, 테스트, replay, CI처럼 남은 오류를 사용자에게 도달하기 전에 차단하는 장치다. replay는 실제 큰 작업 흐름의 전송량이나 회귀를 다시 실행해 추상적 규칙을 실패 가능한 게이트로 바꾼다. skill과 사람의 검토는 구조와 자동 검증으로 제거할 수 없는 프로세스 경계에 둔다. `AGENTS.md` 같은 명시적 컨텍스트에는 임시 작업 상태가 아니라 제품의 정체성, 불변 가치, 용어, 플랫폼 계약, 검증 방법, 팀의 설계 취향을 짧게 기록한다. 절차를 무한히 열거하는 대신 오픈소스 유지, 성능 저하 금지, 원격 동작, 모든 표면의 일관성처럼 판단 기준을 주면 새 상황에서도 에이전트가 방향을 추론할 수 있다.
물리 모델은 왜 트랜스포머와 다른 편향을 요구하는가
고차원 격자, 적은 관측, 비국소 상호작용을 다루려면 데이터 규모보다 자연법칙과 기하를 아키텍처에 넣는 선택이 중요하다.
Neural Operator는 고해상도 물리 문제의 계산량과 검증 요구를 어떤 구조로 다루는가?
- 1
상태 공간
물리 시스템은 공간과 시간을 합친 4차원 격자에서 각 차원에 약 1,000개 지점만 두어도 수백억~1조 토큰 규모가 된다. 모든 지점의 attention을 계산하는 트랜스포머는 해상도가 오를수록 이차 복잡도와 메모리 부담이 급증한다.
- 2
도메인 편향
관측 데이터는 전 지구 날씨 지도 약 5만 개처럼 언어 데이터보다 적지만, 자연법칙이 허용하는 상태는 강하게 구조화되어 있다. 데이터만 늘리기보다 PDE, 보존 법칙, 지구의 구면 기하를 학습과 모델 구조에 넣을 이유다.
- 3
전역 상호작용
Fourier 공간은 멀리 떨어진 지점의 관계를 준선형 복잡도로 연결한다. 비선형 층, 잔차 연결, lifting을 결합해 제한된 주파수 모드만 사용하는 선형 표현의 한계를 보완하고 학습된 잠재 기저를 만든다.
- 4
롤아웃과 불확실성
ForecastNet은 6시간 단위 상태를 자기회귀로 반복 예측한다. 장기 위험은 하나의 평균 궤적이 아니라 초기 조건을 달리한 여러 구성원을 독립적으로 굴린 뒤 통계를 내야 표현할 수 있다.
- 5
검증 경계
전통 모델에 가까운 정확도와 수만 배 빠른 추론은 큰 앙상블의 가능성을 열지만, 장기 롤아웃의 물리 보존과 확률 보정은 여전히 열린 문제다. 더 빠른 대리 모델을 물리적으로 유효한 시뮬레이터와 동일시해서는 안 된다.
범용 아키텍처의 규모를 키우는 대신 문제의 기하, 보존 법칙, 상호작용 범위, 검증 가능한 출력 형태를 먼저 고정하면 더 적은 데이터와 계산으로 유용한 모델을 만들 수 있다. 성능 수치보다 어떤 물리 조건에서 일반화가 깨지는지를 함께 공개해야 한다.
에이전트 시대의 개발 도구는 ‘사람만 쓰는 제품’이 아니다
문서, 도구 스키마, 비밀 관리까지 에이전트가 실제로 발견하고 호출하는 경로에서 평가해야 한다.
- 01aiDotEngineer
개발자 경험에서 에이전트 경험으로 측정 범위를 넓혀라
에이전트는 API를 호출하는 사용자이면서 제품을 선택하고 추천하는 유통 채널이 됐다. 그래서 문서의 가독성만 볼 것이 아니라 작업 성공률, 실패 복구, 토큰, 응답 속도, 워크플로 삽입을 실행 trace로 측정해야 한다. Sourcegraph 사례에서 비교 구매 프롬프트의 추천률은 65%였지만 실제 공유 라이브러리 변경 문제에서는 언급이 없었다. 브랜드 노출과 문제 해결 연결을 구분해야 한다.
- 02GeekNews
에이전트에 시크릿을 건네지 않고 명령을 실행하는 경계
이날 개발 신호 가운데 `key-amnesia`는 AI 에이전트에 비밀을 직접 노출하지 않은 채 명령을 실행하는 도구를 제시했다. `.env`를 Git에서 제외하는 것만으로는 로컬 평문 시크릿을 에이전트가 읽는 문제를 막지 못한다는 지적이다. 기능 목록보다 실제 명령 실행 과정에서 비밀값이 모델 컨텍스트에 들어가지 않는지 확인하는 일이 에이전트 경험의 일부가 되어야 한다.
아직 못 읽은 북마크
북마크를 고르는 중…