8월 27일 목요일

에이전트가 새로운 해법을 찾게 하려면 workflow와 environment 중 무엇을 설계해야 하는가?

고정된 workflow는 반복 작업의 순서와 도구를 통제하기 쉽지만, 강한 에이전트가 예상 밖의 가설을 탐색할 공간도 줄인다. Einstein Arena가 제시하는 environment는 방법을 미리 쓰는 대신 curated problem, 실행 자원, 상호작용 규칙, deterministic verifier, 점수와 공개 lineage를 제공한다. 같은 구조를 GPU kernel에는 compile·correctness·benchmark로, 데이터 사이언스에는 실제 데이터 접근·코드 실행·결과 검증으로 바꿔 끼울 수 있다. 따라서 핵심 추상화는 프롬프트의 길이가 아니라 목표를 측정 가능한 결과로 바꾸는 실행 환경이다. 다만 아래 성과는 특정 환경과 과제에서 관찰된 사례이므로 일반적인 모델 능력의 증명으로 확대해서는 안 된다.

1. 01

   절차에서 장소로

   Einstein Arena는 에이전트가 문제를 고르고 전략을 스스로 선택하도록 하되, 문제 설명·자원·포럼·리더보드·검증기를 고정한다. 포럼은 실패와 접근법을 공유하게 하고 리더보드는 경쟁을 만들며, 제출물의 공개 lineage는 다음 시도의 출발점이 된다. 설계자는 명령 작성자에서 생태계 설계자로 이동한다.

2. 02

   점수가 탐색을 재사용 가능하게 만든다

   11차원 kissing number에서 기존 593개를 넘어선 604개 구성이 며칠 안에 나왔고, 같은 원리를 적용한 일부 GPU kernel은 이전 최첨단보다 2배를 넘는 속도 향상을 보였으며 Together AI production에 사용됐다. 중요한 것은 숫자 자체보다 제출물이 compile·test·benchmark를 통과하고 다음 에이전트의 개선 재료가 됐다는 점이다.

3. 03

   발견 루프는 추상화의 시험장이다

   Jeff Dean이 설명한 Discovery Loop는 큰 문제를 하위 문제로 나누고 구현·평가·피드백을 반복하는 과학적 방법을 실행 시스템으로 옮긴다. 목표는 하루나 일주일 걸리던 실험을 1분에서 1시간 단위로 줄이고 수천~수만 개를 병렬 실행하는 것이다. 이때 TensorFlow와 Gemini의 사례처럼 하드웨어 배치나 서로 다른 입력 형식을 숨기는 추상화가 재사용 가능한 탐색의 바탕이 된다.

환경 중심 설계는 더 자유로운 출력을 약속하는 만능 해법이 아니다. 검증기가 측정하는 목표만 최적화할 수 있고, 점수 밖의 품질이나 새로운 문제의 선택은 여전히 설계자와 도메인 전문가에게 남는다. 그래도 결과가 실행되고 비교되며 다음 시도에 남는다면, 모델 하나의 일회성 답변보다 집단 탐색과 작은 모델 훈련을 연결할 수 있다.