1계층: 개요
Latent Space Cooking Show 포맷으로 진행. Engram 공동창업자 겸 CEO Dan Biderman이 미트볼을 요리하며 **"왜 긴 컨텍스트로는 충분하지 않은가"**라는 핵심 AI 메모리 문제를 설명한다. Engram은 9,800만 달러(약 1,380억 원) 시드 라운드를 완료한 스타트업으로, 모델이 대규모 코퍼스를 **훈련을 통해 내재화(internalize)**하는 "카트리지(cartridge)" 기술을 개발 중이다.
2계층: 핵심 주장 5가지
주장 1: 긴 컨텍스트는 근본 해결책이 아니다
- 컨텍스트 창을 늘려도 Context Rot(컨텍스트 부패) 문제가 발생
- 토큰을 많이 넣을수록 모델은 더 혼란스러워지며, 10M 컨텍스트에서도 동일 현상 발생
- 컨텍스트 압축(compaction)은 개선 중이지만 본질적으로 **손실(lossy)**이며 결정론적
주장 2: 18개월 내 기업 데이터는 인터넷 규모에 달한다
- AI 네이티브 기업들은 곧 수조(trillion) 토큰의 내부 독점 데이터를 보유하게 됨
- 현재 RAG나 컨텍스트 주입으로는 이 규모를 처리할 수 없음
- 프론티어 모델로 매번 처음부터 읽는 것은 수천 달러짜리 쿼리를 낳음
주장 3: 학습(훈련)을 통한 직관이 텍스트 표현을 넘어선다
- 요리책을 읽는 것과 Thomas Keller처럼 요리하는 것의 차이
- 현재 LLM은 매번 처음 주방에 들어오는 요리사처럼 행동
- 훈련을 통해 "직관"을 내재화하면 새로운 레시피를 만들어내는 수준의 일반화 가능
주장 4: "카트리지"는 지식의 압축된 뇌 상태다
- 코퍼스 전체를 학습 → 1,000배 압축된 신경 표현(cartridge) 생성
- 모델에 로드/언로드 가능한 "캡슐화된 지식 상태"
- Llama 70B 모델이 위키피디아 한 문서(수십 KB)를 읽을 때 KV 캐시에 80GB 소비 → 카트리지 방식으로 이 비효율 해결
주장 5: 궁극적 목표는 개인 맞춤형 지속 학습 모델
- 모든 개인이 자신의 지식, 전문성을 학습한 개인 전용 모델 웨이트 보유
- "타마고치" 비유: 더 많이 돌볼수록 더 좋아지는 모델
- 장기적으로 개인 기기에서 실행 가능한 수준으로 발전
3계층: 세부 내용
Dan Biderman 배경
- 텔아비브 출신, 이스라엘 해군 특수부대 장교 (entrepreneurial 환경: 아이디어 발굴 → 피칭 → 실행)
- 인지 신경과학(이스라엘) → 계산 신경과학 PhD(뉴욕)
- MosaicML에서 LoRA 연구
- Stanford Chris Ré 교수 랩 → Minions 프로젝트(서브에이전트 패턴, 대규모 코퍼스와 에이전트 인터페이스)
- 공동창업자: Jack Clark, Jesse Dodge(스탠포드/Cornell), Sabri Eyuboglu, Scott Linderman
기술 심층
Context Rot (컨텍스트 부패)
- 컨텍스트 내 토큰이 많아질수록 모델의 추론 능력 저하
- 오류 없이 처리해도 홀리스틱 추론(holistic reasoning) 불가
- 10M 컨텍스트 창에서도 동일 문제 지속
Compaction (압축)
- 모델이 스스로 컨텍스트를 관리: 특정 토큰 제거 + 나머지 유지
- 작동하지만 손실적(lossy): 버리거나 남기거나 이진 결정
- 세션이 깊어질수록 혼란 및 망각 증가
- Engram은 compaction + 신경 메모리 트레이스(neural memory trace) 결합 추구
카트리지(Cartridge) 시스템
- 모델에게 코퍼스를 미리 공부할 시간 제공
- 스스로 질문하고, 퀴즈를 내고, 문제를 풀면서 경사 하강법(gradient descent)으로 훈련
- 결과물: 코퍼스를 설명하는 컴팩트한 표현 (파라미터 효율적 어댑터)
- 특정 문서/기업 코퍼스용 또는 특정 스킬용으로 생성 가능
시스템 관점
- 기존: Prefill(읽기) → 매번 수십~수백 GB KV 캐시 소비
- Engram: Prefill 제거 → 훈련 컴퓨트를 다른 시점에 분산 → 즉시 디코딩 시작
- 데이터센터 트렌드(prefill/decode 분리)와 자연스럽게 연계
Harvey 사례 (법률 AI)
- 과제: "올해 완료하지 못한 M&A 거래는?"
- 문제: RAG로 검색 불가 → 모든 파일을 읽어 전체 맥락에서 패턴 추출 필요
- 현재 Frontier 모델 + compaction으로 처리 가능하지만 수천 달러 비용
- 카트리지 방식: 모든 직원이 알고 있는 것처럼 저렴하게 처리
무엇을 웨이트에, 무엇을 텍스트에?
핵심 오픈 연구 문제
| 기준 | 웨이트 내재화 | 텍스트 외재화 |
|---|---|---|
| 빈도 | 자주 반복되는 정보 | 드물게 참조되는 정보 |
| 신호 강도 | 높은 중요도 (파트너 전화번호) | 낮은 중요도 (오늘 밤 호텔 번호) |
| 활용도 | 즉각적 추론에 필요 | 검색으로 충분 |
- 성배(Holy Grail): 모델이 스스로 판단 — 외부 감독 없이
- 인간 기억 연구의 오랜 질문과 동일: 내재화 vs. 외재화
라우팅(Routing)
- 부분적 해결책으로 유효하지만 한계 존재
- Engram의 역할: "당신의 가장 친한 친구나 직원"처럼 어디를 봐야 할지 안내
- Fable 같은 대형 모델에 더 타겟팅된 방식으로 쿼리 전달
피드백 루프
- 사용자가 thumbs up/down → 훈련 계산으로 즉시 반영 (일반 모델과 차이)
- 사용자의 피드백이 개인의 모델 웨이트를 직접 개선
- 단, 사용자가 항상 옳지 않음 → 모델이 어떤 피드백이 가치있는지 스스로 판단해야
효율성 = 지능 확장
- "더 적은 자원으로 더 많이 할수록, 더 야심찬 문제를 해결할 수 있다"
- 현재 AI 스케일링 패러다임: doing more with more
- 다음 패러다임: doing more with less → 더 긴 호라이즌, 더 어려운 문제
4계층: 시사점 및 적용
AI 제품 개발자에게
- Context Rot은 실재한다: 10M 토큰 컨텍스트도 만능이 아님. 대규모 문서 처리 시 정확도 저하를 설계에 반영해야
- 18개월 시야로 설계하라: 현재 기업 데이터가 충분히 작아 보여도, 곧 인터넷 규모가 됨
- "전체 > 부분의 합" 쿼리 유형 파악: RAG로 해결 안 되는 holistic 쿼리들이 존재하며, 이것이 차별화 기회
AI 연구자에게
- Semi-supervised/데이터 효율 학습 재부상 예고: Dan의 PhD 배경처럼 "적은 데이터로 더 많이"가 핵심이 될 것
- Continual Learning = Long Context in disguise: 두 문제는 동일한 문제의 다른 표현
- Test Time Training (TTT): 프리트레이닝 증거가 있음 — gradient descent로 지식을 파라미터에 압축 가능
인프라/시스템 엔지니어에게
- KV 캐시 비효율: 70B 모델이 수십 KB 문서 처리에 80GB 메모리 소비 → 거대한 시스템 문제
- Prefill-Decode 분리: 데이터센터 아키텍처 트렌드와 맞물린 기회
- 수백만 엔드포인트: 개인별 어댑터가 현실화되면 디스크 → HBM 스와핑 인프라가 핵심
스타트업/투자자에게
- $98M 시드 = AI 메모리 문제의 중요성 검증
- 경쟁 구도: RAG, 긴 컨텍스트, 카트리지/지속 학습은 경쟁이 아닌 보완 레이어
- Harvey(법률 AI), 투자은행, 법무법인 등 지식 집약적 엔터프라이즈가 1차 타깃
핵심 인용구
"Current LLMs are like coming into the kitchen first time every time, reading the textbook, cooking the dish, measuring everything — but they don't have the intuition of a chef."
"In 18 months, many companies would have maybe trillions of tokens of internal company data. That sounds exaggerated, but I don't think it's an impossibility if they're really AI native."
"Every knowledge worker — if they can't write notes, they would be at a disadvantage. But if you wipe their brain every evening, they would also be at a severe disadvantage. We want the best of both worlds."
"The more you can do with less, the more ambitious tasks you can solve longer term."
"My weights have been updated." — (Dan, 마지막 대사)