에이전트의 다음 개척지: 에이전트 간 협업과 네트워크 효과

URL: https://www.youtube.com/watch?v=REascnFlq_8 날짜: 2026-09-04 채널: aiDotEngineer

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==에이전트 간 협업(agent-to-agent)의 핵심은 에이전트 숫자를 늘리는 것이 아니라, 프라이버시와 보안 경계를 지키면서 필요한 정보를 하나의 LLM 컨텍스트 창에 모아 최적의 결정을 내리게 하는 검색(search) 문제다.== 정보 공유를 자동화할수록 네트워크 효과가 커지지만, 민감도에 따른 정책·감사·인간 승인 구조가 함께 설계되어야 한다.

• 여러 사람이 함께 일하는 현실처럼 에이전트가 서로의 데이터와 기능을 안전하게 활용하면 한 에이전트만으로는 얻기 어려운 결과를 만들 수 있다.
• 전 우주의 정보에 접근하는 완벽한 단일 에이전트는 프라이버시·보안 때문에 현실에서 불가능하므로, 다중 에이전트 시스템은 그 이상적인 컨텍스트를 얼마나 잘 근사하는지로 평가해야 한다.
• 신뢰 경계, 프라이버시 보존 도구, 공유 실로(shared silo), 인간 매개, 블랙박스 검색이라는 다섯 전략은 자동화 수준과 정보 노출 위험 사이에서 서로 다른 절충을 만든다.

LLM 시스템에서 실제로 중요한 순간은 사용자에게 답을 돌려주기 직전이나 도구 호출 직전이다. 그때 컨텍스트 창(context window)에 올바른 정보가 들어 있으면 LLM의 지능을 활용해 최선의 결과를 낼 수 있다. 따라서 에이전트 간 협업은 독립된 에이전트들이 대화하는 멋진 장면보다, 서로 다른 개인·팀·기업의 정보 사일로(information silo)에서 필요한 사실만 검색해 하나의 의사결정 컨텍스트로 조립하는 정보 접근 설계에 가깝다. 완전 자동화는 낮은 민감도 영역에서 시작해 모델의 정책 준수 능력과 감사 체계가 향상될수록 넓어져야 한다.

1. 에이전트 간 협업을 검색 문제로 다시 정의하기

에이전트 간 네트워크 효과는 여러 주체가 가진 정보와 행동 능력을 결합할 때 생기지만, 그 결합의 본질은 적절한 컨텍스트를 찾아 넣는 데 있다.

1.1. 모든 LLM 시스템의 중심은 컨텍스트 검색이다

1. 컨텍스트 창에 올바른 정보를 넣는 문제

   1. 사용자의 답변을 반환하기 직전이나 도구 호출 직전에 컨텍스트 창이 정확한 정보로 채워져 있어야 한다.
   2. 필요한 정보가 들어가면 LLM의 추론 능력에 따라 가능한 최선의 답변이나 도구 호출이 나온다.
   3. 결국 시스템 설계자는 모델 자체보다, 모델이 결정을 내리는 순간에 어떤 정보를 검색해 제공할지를 엔지니어링해야 한다.

2. 검색 방식의 세 단계 진화

   1. 약 4년 전에는 사람이 필요한 자료를 직접 컨텍스트 창에 넣었다.
   2. 몇 년 전에는 검색 증강 생성(RAG, Retrieval-Augmented Generation)처럼 여러 시스템을 가로지르는 검색 도구가 데이터를 가져오게 했다.
   3. RAG 방식은 확장성에 문제가 생겼고, 현재는 에이전트에게 많은 도구를 주어 전체 콘텐츠 공간을 스스로 탐색하는 에이전트형 검색(agentic search)이 중심이 되었다.
   4. 에이전트형 검색의 목표는 도구 호출 직전에 정확히 올바른 내용을 확보해 올바른 행동과 올바른 사용자 응답을 만드는 것이다.

3. 실제로 중요한 호출은 하나다

   1. 이 구조에는 여러 사람이 계속 개입할 필요가 없으며, 결정적인 것은 필요한 컨텍스트를 가진 단 하나의 LLM 호출이다.
   2. 여러 도구와 사일로는 그 한 번의 호출을 준비하는 검색·조립 계층으로 볼 수 있다.

1.2. 전 우주에 접근하는 단일 에이전트라는 이상형

1. 가상의 완벽한 에이전트

   1. 일을 수행할 수 있는 에이전트가 아주 많지 않고 단 하나만 존재한다고 가정한다.
   2. 그 에이전트는 하나의 컨텍스트 창을 가지며, 모든 사람의 이메일, 모든 기업의 정보, 모든 정부의 정보 등 우주의 모든 정보에 접근할 수 있다.
   3. 사용자가 이 에이전트에게 일을 시키면 모든 관련 데이터가 시스템 프롬프트와 컨텍스트에 들어가므로 가능한 최선의 결과를 얻는다.
   4. 역설적으로 이 상태 자체가 다중 에이전트 세계다. 에이전트 하나가 세계 전체의 정보를 사용할 수 있다면 기능적으로 여러 주체의 지식이 결합되어 있기 때문이다.

2. 코스 정리(Coase theorem)와 정보 접근

   1. 거래 비용(transaction cost)이 없고 사람들이 올바른 정보에 모두 접근하면 계약이나 협상에서 경제적으로 이상적인 결과에 도달한다는 코스 정리를 연결한다.
   2. LLM도 같은 원리를 따른다. 필요한 정보가 컨텍스트에 있으면 최적의 의사결정에 가까워진다.
   3. 그러나 무한히 큰 컨텍스트 창을 상정해도 프라이버시와 보안 때문에 세계의 모든 연락처와 콘텐츠를 LLM에 공개할 수 없다.
   4. 다른 사람이 자신의 이메일을 상시 열람하도록 허용하지 않는 것처럼, 모든 이메일에 계속 접근하는 에이전트를 현실의 사용자가 받아들이기도 어렵다.

3. 다중 에이전트 시스템의 평가 기준

   1. 이상적인 전지적 에이전트가 얻었을 정보와 동일한 데이터를 각 LLM 컨텍스트에 얼마나 잘 전달하는지가 핵심 테스트다.
   2. 완벽한 시스템을 그대로 만들 수 없다면, 필요한 순간에 그 시스템이 선택했을 법한 데이터를 근사해 최적 결과를 얻는 방향으로 설계해야 한다.
   3. 이 목표를 달성하기 위해 서로 다른 외부 사일로에서 정보를 끌어오는 다섯 가지 전략이 사용된다.

2. 정보 공유를 구현하는 다섯 가지 전략

다섯 전략은 접근 권한의 범위, 프라이버시 보호 방식, 인간 개입 시점, 모델이 더 똑똑해질 때의 개선 가능성에서 서로 다르다.

2.1. 신뢰 경계 안에서 모든 정보에 근사 접근하기

1. 가정·가족 단위 에이전트

   1. 부부가 하나의 에이전트를 함께 쓰고, 그 에이전트가 두 사람의 이메일에 결혼 전 이메일까지 포함해 접근하도록 할 수 있다.
   2. 배우자는 결혼 전 메일을 캐묻지 않으며, 아이들의 일정 조정이나 제3자와의 후속 연락 여부처럼 공동 생활에 필요한 질문을 한다.
   3. 두 사람의 시스템을 동시에 볼 수 있다는 신뢰 경계(trust boundary)가 일정 관리와 후속 업무에 큰 편의를 준다.

2. 회사 팀 단위 에이전트

   1. HR 팀 에이전트가 HR 직원이 접근할 수 있는 수준, 또는 HR 조직의 가장 낮은 권한 직원과 같은 수준으로 모든 HR 시스템을 조회하게 할 수 있다.
   2. HR 팀의 모든 직원이 질문할 수 있고, 팀 내부 업무에 한해서는 꽤 좋은 결과를 얻는다.
   3. IT·보안 팀에서 특히 인기가 높은 이유는 보안용 서비스형 소프트웨어(SaaS, Software as a Service)와 동일한 접근 모델로 설명하고 구축하기 쉽기 때문이다.

3. 장기적 한계

   1. 시간이 지나면 인간이 더 적게 필요해지는가라는 질문에는 부정적인 답이 나온다. 사람이 여전히 어떤 데이터를 어떻게 연결할지 생각해야 하기 때문이다.
   2. 모델이 좋아져도 데이터 사일로가 마법처럼 사라지지 않는다. 사람이 미리 고민해 접근을 묶었을 뿐, 새로운 사일로를 만든 셈이다.
   3. 이 방식은 앞으로 몇 년 동안 더 나은 AI를 만드는 실용적인 접근일 수 있지만, 최종적인 발전 방향은 아니다. 발표자는 이 접근을 택한 사람에게 자신에게 기회가 될 것이라고 농담했다가, 표현이 심했다며 곧바로 사과했다.

2.2. 힘과 프라이버시를 교환하는 맞춤형 도구

1. 회사 안에서 Acme Corp의 CFO를 찾는 사례

   1. 질문은 “우리 회사 사람 중 Acme Corp 금융팀 사람과 연결된 사람이 있는가?”이다.
   2. 가장 강력하지만 사생활 침해가 큰 방식은 회사 전체 직원의 Gmail에 접근해 Acme Corp 사람과 주고받은 메일을 찾고, Google·LinkedIn 프로필로 상대의 직책과 관계를 확인하는 것이다.
   3. 회사 전체 Gmail을 에이전트에 그대로 노출하는 대신, 모든 Gmail을 읽을 수 있는 전용 도구가 관계 강도(relationship strength) 점수만 반환하도록 만든다.
   4. 도구에 회사 도메인과 찾고 싶은 직무인 CFO를 주면, 해당 회사에 메일을 보낸 사람을 모두 평가하고 연결 강도를 순위로 돌려준다.

2. 점수에서 소개까지 이어지는 워크플로

   1. 에이전트가 가장 높은 점수를 받은 Bob에게 Slack으로 “Acme Corp의 CFO Jane과 연결되어 있는 것 같다”고 연락한다.
   2. Bob이 연결을 확인하면 에이전트는 Bob에게 소개 이메일 초안을 작성해도 되는지 묻고, Bob이 동의하면 소개가 성사된다.
   3. 원본 이메일과 개인 프로필을 모두 공개하지 않고 관계의 존재와 강도만 전달하므로, 권한과 유용성 사이의 절충이 만들어진다.

3. 자연스러운 네트워크 효과와 선택권

   1. 모든 사용자가 허용할 만한 프라이버시 보존 도구를 설계하고, 원하지 않는 사람에게는 옵트아웃(opt-out) 선택권을 주면 회사 안의 사일로를 깨면서 자연스러운 네트워크 효과가 생긴다.
   2. 다른 직원이 내 받은편지함에 나를 대신해 이메일 초안을 넣도록 허용하는 것도 같은 발상이다. 영업 직원이 소개를 받으려면 결국 나에게 요청할 것이므로, 내가 몇 번 클릭하는 수고를 줄여준다.
   3. 핵심 질문은 기업 구성원이 이 정도의 프라이버시·권한 절충을 정말 받아들일지 여부다.

4. 수동성과 비동적 구조

   1. 이 방식도 결국 사람이 어떤 도구를 만들지 설계해야 하므로 수동적이다.
   2. 도구가 작동 중이라는 사실과 데이터가 어떻게 요약·공유되는지를 구성원 모두에게 설명해야 하며, 구성원이 권한 절충을 불편해하면 사용하지 않을 수 있다.
   3. 모델이 더 좋아져도 도구 자체가 자동으로 더 넓은 연결을 발견하는 구조는 아니어서, 신뢰 경계 방식과 마찬가지로 모델 성능에 따라 자연스럽게 개선되지 않는다.

2.3. 팀 전체가 쓰는 공유 사일로 만들기

1. 공유된 지식 공간

   1. 개인 사용자 맥락에서 유행하는 개인 위키(personal wiki)를 팀과 회사 수준으로 확장해, 부서나 소그룹 내부에 데이터가 쌓이는 공유 사일로(shared silo)를 만든다.
   2. 모든 에이전트가 이 공간에 접근하면 공유해도 되는 정보가 개인 사일로에 갇히지 않고 회사에 공개된 공간으로 자동 흘러나올 수 있다.
   3. 이 공간은 회사 전체에 공개된다는 뜻의 “공공(public to your company)” 공간이지 인터넷 전체에 공개된다는 뜻은 아니다.

2. 공유 스킬과 공유 매체

   1. 코드 조직의 저장소(repository)에 공유 스킬(shared skill)을 두고 누구나 개선할 수 있게 한다.
   2. 누군가 데이터베이스 프로파일링 방법을 더 잘 알면 스킬을 작성하고, 다른 엔지니어가 “데이터베이스 쿼리가 너무 느리다”고 할 때 그 스킬을 사용한다.
   3. 한 사람의 해결책이 조직 전체에 전파되어 모두가 더 나은 엔지니어가 되는 구조다.
   4. 위키나 Airtable 같은 공유 매체를 정하고 시간이 지날수록 더 많은 데이터를 넣도록 장려하는 방식도 널리 쓰인다.

3. 작동 조건: 도구와 궤적 인센티브

   1. 에이전트가 공유 공간을 읽고 쓸 도구를 실제로 가지고 있어야 한다.
   2. 에이전트의 작업 궤적(trajectory)에 공유 사일로에서 데이터를 가져오고 다시 넣도록 하는 유인이 있어야 한다.
   3. 도구만 만들어 놓고 실제 업무 흐름에서 정보를 공유하도록 설계하지 않으면 지식 공간은 금방 낡는다.

4. 사일로 청소부(sweeper AI)

   1. 가장 유망한 다음 단계는 각 개인·팀의 비공개 사일로 안에 청소부 AI를 두는 방식이다.
   2. 청소부 AI는 무엇을 사일로에 남겨야 하는지 규정하는 정책(policy)과 회사의 공유 공간 목록·설명을 가진다.
   3. 하루가 끝날 때 새로 생긴 비공개 정보를 검토하고, 정책상 공유 가능한 부분을 회사의 공유 공간으로 옮긴다.
   4. 개인 위키가 사용자의 목표와 친구 같은 정보를 매일 정리하는 것과 같은 원리를 회사 지식에 적용한다.

5. 공유 가능성을 판단하는 두 접근

   1. “사람에게 묻기” 방식에서는 LLM이 기여할 만한 항목 목록을 만들고 “이 내용을 공유 공간에 넣어도 되나요?”라고 사용자에게 확인한다.
   2. 사용자는 내용을 읽고 괜찮다고 승인하면 되므로, 원래는 하지 않았을 지식 정리를 적은 노력으로 완료한다.
   3. 다른 방식은 LLM에게 정책을 집행하도록 맡기는 것이다. 민감도와 업무 규칙을 정책으로 인코딩하면 모델이 자동으로 공유 여부를 결정한다.
   4. 머지않아 기업이 LLM에 정책 집행을 맡겨 이전에는 비공개였던 정보를 공용 공간에 점점 더 많이 드러내는 시스템이 빠르게 늘어날 것이라는 전망이 제시된다.

6. 기업 규모에 따른 현실성

   1. 포춘 500(Fortune 500) 대기업에서는 이 변화가 오래 걸릴 가능성이 높다.
   2. 직원 10~50명 정도의 작고 신뢰도가 높은 회사에서는 데이터로 악용할 가능성이 낮고, 공유하면 안 되는 데이터가 금융·HR 데이터처럼 비교적 명확하다.
   3. 그래서 소규모 회사에서 향후 6개월 안에 이런 자동 공유 시스템을 많이 볼 가능성이 높다.
   4. 공통 업무에 관한 에이전트의 작업 궤적과 결과가 누적되어, 조직 전체의 업무 수행 능력이 실제로 개선된다.

2.4. 인간을 정보 전달 통로로 사용하기

1. 전통적인 인간 승인형 에이전트 간 협업

   1. 내 에이전트가 다른 사람의 에이전트에게 “Acme Corp 금융팀과 연결된 사람이 누구인가?”라고 묻는다.
   2. 상대방은 요청을 보고 자신의 이메일 안에서 정보를 찾아도 되는지 승인한다.
   3. 결과가 나오면 그 결과를 질문자에게 보내도 되는지 다시 승인한다.
   4. 인간은 조회 권한과 공개 권한을 각각 확인하므로 직관적으로 안전하다.

2. 낮은 확률의 검색에서 발생하는 스팸

   1. 질문의 답을 가진 사람이 소수일 가능성이 높아도 회사 전체에 요청이 전파된다.
   2. 직원 100명인 회사라면 100명 모두 Slack에서 자신의 네트워크를 검색해도 된다는 승인 요청을 받게 된다.
   3. 개인 네트워크를 “채굴(farm)”해 답을 찾는 질문 하나 때문에 모두를 핑하는 방식은 비효율적이고, 인간 승인 자체가 병목이 된다.

2.5. 블랙박스 방식으로 필요한 순간에만 공유하기

1. 전체 검색 후 최소 공개

   1. 다른 사람의 사일로를 봐야 답할 수 있는 질문이 들어오면, 누구도 추적(trace)에 접근할 수 없는 LLM을 블랙박스로 실행한다.
   2. 블랙박스 LLM은 모든 데이터에 접근해 답을 만들거나 곧 실행할 도구 호출을 결정한다.
   3. 그 뒤 실제 도구 호출에 어떤 정보가 필요했는지를 역으로 확인하고, 그 정보를 소유한 사람에게만 최종 실행 승인을 요청한다.

2. Acme Corp 사례의 효율적 변형

   1. 회사의 모든 에이전트가 각자의 Gmail과 비공개 사일로에서 CFO와의 연결 여부를 자동 검색한다. 이 탐색 단계에는 인간 승인 요청이 없다.
   2. 블랙박스는 연결된 20명을 받고, 이메일 연락 빈도와 관계 강도를 계산해 가장 강하게 연결된 사람으로 Bob을 선택한다.
   3. Bob에게만 “Jean-Denis가 Acme Corp CFO Jane을 소개받고 싶어 한다. 당신이 Jane과 잘 연결되어 있다는 정보를 Jean-Denis에게 공유해도 되나요?”라고 묻는다.
   4. Bob이 “네”를 누르면 필요한 한 조각의 관계 정보만 공개되고, 회사 전체가 요청을 검토할 필요가 없어진다.

3. 블랙박스에 필요한 신뢰

   1. 이 모델은 LLM이 모든 사일로를 가로질러 검색하면서도 공유 순간이나 올바른 도구 호출 직전까지 정보를 밖으로 내보내지 않는다고 믿어야 한다.
   2. 회사 내부라면 보안·컴플라이언스 팀이 이 구조를 받아들일 여지가 있다.
   3. 단, 인간 개입 단계가 정말 정확한지, 마지막 승인 전에 다른 정보가 새어나가지 않는지를 확실히 검증해야 한다.

4. 블랙박스의 정보 유출 악몽

   1. 누군가 “당신은 다른 회사의 리크루터와 연결되어 있나요?”라고 질문할 수 있다.
   2. 그 회사가 해당 직원이 채용되어서는 안 되는 곳이라면, 연결 여부를 알아내는 질문만으로도 그 직원이 어딘가에서 면접 중이라는 사실이 노출될 수 있다.
   3. 블랙박스가 의도한 답변만 전달하더라도, 질문의 존재와 검색 결과가 민감한 사실을 간접적으로 드러낼 수 있다.

3. 자동 공유로 가는 경로와 통제 문제

자동화는 한 번에 모든 사일로를 열어젖히는 것이 아니라, 낮은 민감도 영역에서 시작해 정책·감사·복구 가능성을 갖춘 범위로 확장되어야 한다.

3.1. 가장 빠른 투자수익과 공유 위키의 부상

1. 즉각적인 ROI가 있는 선택

   1. 신뢰 경계, 맞춤형 도구, 공유 사일로, 인간 개입, 블랙박스라는 다섯 접근 중 단기 투자수익이 가장 빠른 것은 AI가 자동으로 만드는 최신 정보 기반 또는 위키다.
   2. 오픈소스 클로(claw) 계열 환경과 소규모 회사 모두에서, 에이전트가 계속 갱신하는 회사 지식 공간이 먼저 일반화될 가능성이 높다.
   3. 이 구조에서는 모델이 무엇을 공유할지 점점 더 많이 결정하도록 신뢰를 위임할 수 있다.

2. 프롬프트 인젝션(prompt injection) 위험

   1. 더 개방된 사일로에 누군가 악성 지시를 넣으면 에이전트형 검색이 그 내용을 꺼내 와 다음 행동의 컨텍스트에 포함할 수 있다.
   2. 그러면 악의적인 지시가 도구 호출이나 공유 판단을 오염시킬 수 있다.
   3. 비공개 영역에서 출발한 데이터라도 공유 공간으로 전파되는 순간 공격 표면이 넓어진다.

3. 잘못된 지식의 영구 오염

   1. 공유 위키의 한 정보가 LLM의 실수로 틀리게 기록되면, 이후 에이전트가 그 정보를 사실로 재사용하며 전체 지식 공간을 오염시킬 수 있다.
   2. 개인 위키가 에이전트 이름을 한 달 전에 Apex에서 Ivy로 바꿨는데도 메모리 뱅크 어딘가에 Apex가 남아 계속 에이전트 이름을 Apex라고 생각하는 사례가 있다.
   3. 이름 오류는 웃고 넘길 수 있지만 사업에 관한 잘못된 사실이면 고객 대응·영업·운영 전체를 오도한다.

4. 인간 없는 공개의 법적·운영적 결과

   1. 어떤 단계에도 인간이 없다면 거짓 정보나 잘못된 정보가 외부에 공개될 수 있다.
   2. 잘못된 공개가 직원 해고로 이어질 때도 있고, 아무 영향이 없을 때도 있으며, 고객이 회사를 상대로 소송을 제기할 때도 있다.
   3. 위험의 편차가 크기 때문에 모든 공개를 동일한 자동화 수준으로 처리해서는 안 된다.

3.2. 블랙박스도 감사 가능한 시스템이어야 한다

1. 승인·로그·가역성의 질문

   1. 누가 무엇을 승인하는가를 명확히 해야 한다.
   2. 어떤 검색·판단·공개가 로그로 남는지 정해야 한다.
   3. 잘못된 공유를 되돌릴 수 있는지, 이미 복사된 정보까지 회수할 수 있는지 설계해야 한다.

2. 완전히 불투명한 구조는 불가능하다

   1. 블랙박스 접근은 실행 중에는 추적을 숨겨 불필요한 공개를 막지만, 회사가 영원히 내부를 볼 수 없다는 뜻은 아니다.
   2. 언젠가 누군가는 어떤 데이터가 들어갔고 어떤 정책이 적용됐는지 감사하려 할 것이다.
   3. 따라서 CISO(최고정보보호책임자) 조직이나 그에 준하는 통제 주체가 전체 데이터 흐름에 접근할 수 있는 감사 경로를 가져야 한다.

3.3. 승인 모드에서 자동 모드로 이동하기

1. 코딩 에이전트가 보여준 전환

   1. 코딩에서는 처음에 모든 행동을 사람이 승인했다.
   2. 이후 “YOLO, 위험하게 살아보자”는 식으로 승인 없이 실행하는 분위기가 생겼다.
   3. Anthropic이 제공한 자동 모드(auto mode)는 사용자가 어리석은 행동을 하려는지 판단해 필요할 때 알려주는 중간 단계가 되었다.

2. 정보 사일로에도 같은 진화가 일어난다

   1. 처음에는 모든 사일로 간 이동을 인간이 승인한다.
   2. 다음에는 낮은 민감도 정보가 공용 공간으로 이동하는 것을 자동 허용하고, 민감한 구역은 “항상 인간 승인” 영역으로 남긴다.
   3. 시간이 지나 모델이 강해지고 안전 정책을 더 정확히 인코딩하면, 공유 사일로를 만드는 일과 인간을 부를지 결정하는 일까지 점점 자동화된다.

3. 역할·내용·위험을 함께 보는 자동 판단

   1. 공급업체와 그 금융팀이 참여하는 매주 반복 회의의 회의록을 요청하는 사례를 생각할 수 있다.
   2. LLM은 요청자의 역할과 회의록 내용을 살핀 뒤, 위험 관점에서 이 사람에게 공유해도 괜찮다고 판단할 수 있다.
   3. 이 경우 관련 팀의 모든 사람에게 일일이 허락을 묻지 않고 회의록을 바로 공유한다.
   4. 반대로 민감한 금융 데이터나 HR 데이터처럼 위험이 높은 내용은 인간 승인을 요구하도록 정책을 나눌 수 있다.

4. 낮은 민감도 구역을 먼저 만드는 전략

   1. 에이전트 간 협업이나 사일로 간 업무를 시작할 때 LLM이 자율적으로 판단해도 되는 낮은 민감도 영역을 먼저 정의해야 한다.
   2. 조직은 그 범위 안에서 LLM의 결정을 받아들이는 경험을 쌓아야 한다.
   3. 모델 용량이 커지고 정책 집행이 개선되면 자동 허용 영역이 자연스럽게 커지므로, 시스템의 힘도 함께 증가한다.
   4. 발표자는 이 과정을 통해 결국 해변에 누워 있는 상태, 즉 아이들이 있는 하와이에서 쉬는 상태에 도달하고 싶다고 농담했다.

4. 기업 간 에이전트 네트워크가 만드는 다음 개척지

기업 내부에서는 가까운 시일에 사일로 협업이 작동할 가능성이 높고, 진짜 큰 네트워크 효과는 여러 회사가 공동 에이전트를 신뢰할 때 나타난다.

4.1. 회사 내부에서 남은 핵심 질문

1. 다섯 전략의 종합

   1. 신뢰 경계는 공동 권한을 부여하고, 맞춤형 도구는 정보의 힘을 줄여 프라이버시를 보존한다.
   2. 공유 사일로는 조직 지식을 축적하고, 인간 개입 방식은 승인으로 위험을 통제한다.
   3. 블랙박스 방식은 전체 사일로에서 탐색하되 실제 공개 순간에만 정보 소유자에게 묻는다.

2. 자동 프라이버시에 대한 사회적 수용성

   1. 회사 안에서는 이 다섯 방식이 곧 실용화될 수 있다.
   2. 가장 큰 문제는 조직이 프라이버시를 자동 모드로 처리하는 것을 얼마나 편안하게 받아들이느냐이다.
   3. 인간이 사전에 모든 공유를 확인하지 않아도 된다는 신뢰가 없으면 네트워크 효과는 승인 병목에 막힌다.

4.2. 여러 회사가 공동 에이전트를 신뢰하는 시나리오

1. 기업 간 공통 에이전트

   1. 여러 회사가 각자의 정보 사일로에 공동 에이전트가 접근하도록 합의하면, 지금까지 비공개였던 정보 사이에 새로운 연결이 생긴다.
   2. 이를 실현하는 사람은 발표자보다 훨씬 부자가 될 것이라고 할 만큼, 기업 간 네트워크 효과의 경제적 잠재력이 크다.

2. 투자은행과 대출 데이터 사례

   1. 이름을 밝히지 않은 금융 분야의 한 기업은 많은 투자은행과 함께 일하며, 대출 판단을 위해 비상장 기업에 관한 사적 데이터를 공유하면 투자은행에도 이익이 되는 상황을 검토하고 있다.
   2. 각 회사가 서로의 에이전트를 신뢰해 과거라면 비공개였을 정보를 가로질러 작업하게 하고, 무엇을 접근할지는 에이전트가 결정하도록 만드는 방향이다.
   3. 금융기관 모두가 이익을 얻는 명확한 사용 사례가 있다면, 기업 간 사일로 협업으로 들어가는 좋은 교두보(beachhead)가 된다.

3. 교두보에서 전체 네트워크로

   1. 먼저 손익과 위험 구조가 분명한 제한적 사용 사례에서 여러 기업이 공동 에이전트를 시험한다.
   2. 정책과 감사 결과가 축적되면 더 많은 사일로와 더 다양한 정보 유형으로 범위를 확장할 수 있다.
   3. 한 회사 안의 공유 위키가 조직 지식을 연결하듯, 기업 간 에이전트는 회사별 데이터 네트워크를 연결하는 외부 지식 계층이 된다.

4.3. 방향은 분명하지만 신뢰는 아직 미완성이다

1. 프라이버시 결정을 에이전트에게 맡길 것인가

   1. 인간의 직관으로는 에이전트가 프라이버시에 관한 모든 결정을 내리는 미래를 선뜻 신뢰하기 어렵다.
   2. 민감한 정보의 맥락, 질문의 의도, 간접적인 정보 노출까지 모델이 완벽히 이해한다고 보장할 수 없다.

2. 그럼에도 불가피한 방향

   1. 프라이버시 판단을 더 많은 정책과 도구로 모델에 위임하는 흐름은 좋든 나쁘든 진행될 방향이다.
   2. 따라서 낮은 민감도 구역, 인간 승인 구역, 감사 가능한 블랙박스, 가역적 공유를 지금부터 준비하는 조직이 다음 단계의 네트워크 효과를 선점한다.

주요 발언 모음

“에이전트 간 협업은 별로 말이 안 되는 개념이라고 생각한다. 그래서 이 전체 이야기를 검색의 관점으로 다시 구성하고 싶다.”

“대부분의 LLM 시스템은 단지 검색 문제다.”

“하나의 에이전트가 세상의 모든 정보에 접근한다면, 그것이 다중 에이전트 세계의 자연스럽고 이상적인 상태다.”

“다중 에이전트 시스템의 테스트는 완벽한 시스템이 얻었을 데이터를 얼마나 잘 근사하는가다.”

“모델이 좋아진다고 해서 데이터 사일로가 마법처럼 사라지지는 않는다. 사람이 생각해 새로운 사일로를 만들었을 뿐이다.”

“이 발표에 좋은 아이디어가 하나 있다면 바로 사일로 청소부 AI다.”

“향후 6개월 안에 기업이 LLM에 정책을 맡겨, 원래 비공개였던 정보를 공용 공간에 자동으로 드러내는 시스템을 많이 보게 될 것이다.”

“블랙박스를 신뢰해야 한다. 전체 사일로를 열어 검색하되 공유 순간까지 허락을 묻지 않는다고 믿어야 한다.”

“블랙박스는 진짜 블랙박스일 수 없다. 언젠가 회사의 누군가는 그 안을 감사하고 싶어 할 것이다.”

“낮은 민감도 구역을 정의하고 LLM이 그 안에서 판단하도록 익숙해져라. 시간이 지나면 그 구역은 커지고 시스템은 자연스럽게 더 강력해진다.”

“여러 회사가 정보 사일로를 공동 에이전트와 연결하도록 동의하는 시나리오를 찾는 사람이, 나보다 훨씬 부자가 될 것이다.”

“에이전트가 프라이버시에 관한 모든 결정을 내리는 미래를 신뢰할 수 있는지는 모르겠다. 하지만 좋든 나쁘든 그 방향으로 가고 있다.”

핵심 데이터 & 수치

• 약 4년 전: 사람이 컨텍스트 창에 정보를 수동으로 채우는 방식이 일반적이었다.
• 몇 년 전: RAG와 검색 도구가 여러 시스템을 조회해 데이터를 컨텍스트에 넣는 방식으로 발전했다.
• 7년: Jean-Denis Greze가 Plaid의 CTO로 재직했다고 소개한 기간이다.
• 다섯 가지 전략: 신뢰 경계 내 전체 접근, 프라이버시 절충형 맞춤 도구, 공유 사일로, 인간을 통한 정보 전달, 블랙박스 방식이다.
• 직원 100명: 인간 매개형 검색에서 질문 하나가 회사 전체에 전파될 때 약 100명의 Slack이 승인 요청으로 채워질 수 있는 예시다.
• 20명: 블랙박스가 회사 전체 검색 후 Acme Corp CFO와 연결된 것으로 추린 후보자 수의 예시다. 그중 관계 강도가 가장 높은 Bob에게만 승인 요청을 보낸다.
• 향후 6개월: 소규모 고신뢰 회사에서 LLM 정책 기반 자동 공유 시스템이 크게 늘어날 것으로 전망한 기간이다.
• 10~50명: 금융·HR 데이터처럼 비공개 영역이 명확하고 신뢰도가 높은 소규모 기업의 예시 규모다.
• 포춘 500: 대기업은 승인·감사·보안 구조가 복잡해 자동 공유가 더 오래 걸릴 것으로 본다.
• 1분: 발표자가 네트워크 효과 결론에 들어가며 남은 시간으로 언급한 값이다.
• 기업 간 금융 사례: 여러 투자은행이 비상장 기업의 사적 데이터를 대출 목적으로 공유하면 모두에게 이익이 되는 사용 사례가 공동 에이전트의 교두보로 제시됐다.

결론 및 시사점

1. 에이전트 간 협업을 설계할 때는 에이전트 간 대화 자체보다 답변·도구 호출 직전의 컨텍스트 검색 품질을 핵심 지표로 삼아야 한다.
2. 전지적 단일 에이전트는 프라이버시 때문에 불가능하므로, 개인·팀·기업 사일로에서 필요한 정보만 모아 이상형을 근사하는 구조가 현실적인 목표다.
3. 공동 신뢰 경계나 무제한 Gmail 접근은 빠르게 만들 수 있지만, 인간이 사일로를 설계해야 하고 모델 성능 향상에 따라 자동 개선되지 않는다는 한계가 있다.
4. 관계 강도 점수처럼 원문 대신 최소한의 파생 정보만 돌려주는 맞춤 도구는 프라이버시와 네트워크 효과를 함께 얻는 실용적인 출발점이다.
5. 공유 위키·스킬·Airtable과 사일로 청소부 AI는 조직의 해결책을 누적시키며, 특히 10~50명 규모의 고신뢰 회사에서 빠른 ROI를 낼 가능성이 높다.
6. 인간 승인 방식은 안전하지만 회사 전체에 요청을 뿌리는 승인 스팸을 만들 수 있으므로, 검색은 자동으로 실행하고 최종 공개에 필요한 정보 소유자만 묻는 블랙박스 방식이 효율적이다.
7. 블랙박스는 민감한 정보의 간접 노출, 프롬프트 인젝션, 잘못된 사실의 영구 오염, 직원 해고와 고객 소송을 막기 위해 감사·로그·가역성·정확한 인간 개입을 갖춰야 한다.
8. 자동화는 낮은 민감도 정보부터 시작하고 금융·HR처럼 위험이 큰 구역은 항상 인간 승인 영역으로 남긴 뒤, 모델의 정책 준수 능력이 검증될 때 범위를 넓혀야 한다.
9. 기업 내부의 공유 사일로가 안정되면 여러 회사가 공동 에이전트를 신뢰하는 금융·대출 같은 명확한 교두보에서 더 큰 네트워크 효과를 만들 수 있다.
10. 프라이버시 결정을 에이전트에게 위임하는 미래를 완전히 신뢰하기는 어렵지만, 정책 기반 자동 공유로 이동하는 흐름은 불가피하므로 통제 가능한 낮은 민감도 구역을 지금부터 구축해야 한다.

핵심 요약 (20줄)

1. 에이전트 간 협업의 본질은 에이전트 숫자가 아니라 필요한 정보를 컨텍스트 창에 모으는 검색 문제다.

2. 올바른 컨텍스트가 사용자 응답이나 도구 호출 직전에 들어가야 LLM이 최선의 결과를 낸다.

3. 사람의 수동 입력, RAG, 에이전트형 검색으로 정보 수집 방식이 발전해 왔다.

4. 전 세계 정보에 접근하는 단일 에이전트는 프라이버시 때문에 불가능한 이상형이다.

5. 다중 에이전트 시스템은 이 전지적 에이전트가 얻을 정보를 얼마나 잘 근사하는지로 평가해야 한다.

6. 신뢰 경계 안의 공동 에이전트는 부부나 HR 팀처럼 제한된 집단의 정보를 합친다.

7. 신뢰 경계 방식은 사람이 사일로를 설계해야 하고 모델이 좋아져도 자동으로 확장되지 않는다.

8. 관계 강도 점수만 반환하는 맞춤 도구는 원문 이메일을 노출하지 않고 소개 네트워크를 활용한다.

9. 동료가 받은편지함에 소개 이메일 초안을 넣는 기능도 클릭을 줄이는 프라이버시 절충이다.

10. 공유 위키와 스킬은 한 사람의 데이터베이스 해결책을 조직 전체의 지식으로 바꾼다.

11. 사일로 청소부 AI는 정책을 적용해 비공개 공간의 새 정보를 회사 공유 공간으로 옮긴다.

12. 직원 10~50명의 고신뢰 회사는 금융·HR 데이터 경계가 명확해 자동 공유를 빨리 도입할 수 있다.

13. 인간 매개 방식은 안전하지만 100명 회사에서 100개의 Slack 승인 요청을 만들 수 있다.

14. 블랙박스 LLM은 전체 사일로를 자동 검색한 뒤 실제 정보 소유자에게만 공개를 승인받는다.

15. Acme Corp CFO 사례에서 20명의 연결 후보 중 가장 강한 Bob만 최종 승인 요청을 받는다.

16. 리크루터 연결 여부를 묻는 검색은 면접 사실을 간접적으로 폭로할 수 있다.

17. 공유 위키는 프롬프트 인젝션과 잘못된 정보의 영구 오염에 취약하므로 정책과 감사가 필요하다.

18. 자동화는 낮은 민감도 구역에서 시작하고 금융·HR 영역은 인간 승인으로 보호해야 한다.

19. 여러 투자은행이 대출을 위해 사적 기업 데이터를 공유하는 금융 사례가 기업 간 공동 에이전트의 교두보다.

20. 프라이버시 자동화를 완전히 신뢰하기 어렵더라도 정책·로그·가역성을 갖춘 에이전트 네트워크는 불가피한 다음 단계다.