메타의 AI 에이전트 ‘뮤즈’가 만드는 수익 모델

URL: https://www.youtube.com/watch?v=DND22Bf88QI
날짜: 2026-09-13
채널: Tech Bridge

메타데이터

• 원문 제목: [한영자막] 마크 저커버그가 밝힌 메타의 AI 에이전트 '뮤즈'가 돈을 벌어다 주는 방식입니다
• 영상 ID: DND22Bf88QI
• 콘텐츠 유형: YouTube 인터뷰 번역·심층 분석
• 주요 인물: Mark Zuckerberg, Tech Bridge 인터뷰어
• 핵심 주제: 개인 초지능(Personal Superintelligence), Muse 개인 에이전트, 오픈소스·권력 분산, 에이전트 보안, 거래 기반 수익 모델, Meta의 AI 연구 재편
• 분류: AI·LLM / 에이전트 / 스타트업·비즈니스

---

📌 핵심 질문 / 이 대담이 다루는 핵심 논점

==초지능의 혜택과 통제권을 소수의 연구소가 독점하게 두지 않고, 안전장치와 권력의 균형을 갖춘 개인 에이전트로 수십억 명에게 분배할 수 있는가?==

• Mark Zuckerberg는 AI의 긍정적 미래를 ‘접근 제한’보다 ‘개인에게 권한을 쥐여 주는 것’에서 찾는다.
• Muse는 단순한 질의응답 모델이 아니라 가상 머신(VM)에서 로그인·코딩·거래·조사를 수행하며 목표를 장기간 추적하는 개인 에이전트다.
• 무료 사용량과 거래 수수료를 결합해 대중적 보급과 사업적 수익을 동시에 노린다.
• 기밀 VM, 보안 자격 증명 저장소, Sentinel 에이전트, 최소 권한 원칙으로 개인 정보와 승인권을 보호한다.
• Meta는 Muse에 맞춘 모델을 처음부터 만들고, 인재 밀도와 대규모 컴퓨팅 투자를 통해 개인 에이전트 분야의 최전선을 차지하려 한다.

Meta가 추구하는 Muse의 방향은 ‘나를 대신해 답변하는 챗봇’이 아니라 ‘내 삶의 목표를 이해하고 계속 일하는 개인용 컴퓨터·비서·사업 운영자’에 가깝다. Zuckerberg는 건강·가족·친구·문화처럼 개인마다 다른 우선순위를 개인 AI가 직접 최적화해야 한다고 본다. 그 결과 AI의 가치는 평균적인 사회 문제를 푸는 데만 있지 않고, 희귀 질환 연구부터 딸과의 베이킹, 산행 허가, 운동 코칭까지 각자의 삶에서 중요한 일을 현실로 만드는 데 놓인다.

전체 번역·심층 분석

1. 선언문이 제시한 AI 철학: 권한을 널리 나누는 것이 안전과 번영을 만든다

1.1. 긴 선언문을 쓴 이유와 세 가지 원칙

15쪽에 이르는 선언문은 대규모 AI 투자가 어떤 방향과 가치관을 가져야 하는지 설명하기 위해 작성됐다. AI가 기회와 위험을 동시에 키우는 만큼, 개발에 참여한 모든 사람이 자신의 일이 긍정적인 미래로 이어지는 경로를 이해해야 한다는 문제의식이 출발점이다.

1. 개인에게 권한을 주는 것이 번영의 원천이다

   1. 역사적 진보는 기존 권력자보다 주변부에 있던 사람들이 새로운 생각을 실험할 수 있을 때 더 자주 일어났다.
   2. 충분한 도구를 갖춘 개인은 자신의 아이디어를 증명하고 기존 질서에 도전할 수 있다.

2. AI의 핵심 목적은 자동화보다 발명이다

   1. AI를 단순히 사람의 업무를 대체하는 기계로 보면 창의적 가능성과 새로운 사업·연구 기회를 놓치게 된다.
   2. 개인 에이전트는 사용자의 목표를 받아 새로운 프로젝트를 제안하고, 직접 도구를 만들어 발명의 동반자가 되어야 한다.

3. 접근 제한보다 견제와 균형, 권력의 균형이 중요하다

   1. 강력한 기술을 소수 연구소가 보유하면 그 연구소가 무엇을 중요하게 볼지 결정하게 된다.
   2. 광범위한 접근은 각 개인과 집단이 서로의 권력을 견제하도록 만들어 기술이 한 방향으로 독점되는 것을 막는다.

1.2. 오픈소스와 사이버 보안의 역설

1. 폐쇄형 소수 독점의 위험

   1. 최첨단 모델을 상위 100개 기관에만 제공하자는 발상은 세계적으로 중요한 기관이 100개를 넘는다는 현실을 외면한다.
   2. 중요한 플랫폼이 폐쇄형 모델에 접근하지 못하면 위기 상황에서 스스로를 방어할 수 없다.

2. Hugging Face 사례가 보여 준 방어력

   1. Hugging Face가 침해를 감지했을 때 폐쇄형 시스템에 의존할 수 없어 오픈소스 모델을 활용했다.
   2. 많은 사람이 코드를 검토하고 개선하는 생태계는 취약점을 빨리 발견할 가능성을 높여 오히려 안전성과 안정성을 강화한다.

3. 오픈소스에 대한 현실적 입장

   1. Meta가 만드는 모든 것을 공개할 필요는 없다. 영리 기업은 첨단 기술을 비공개로 개발할 권리도 갖는다.
   2. 그럼에도 견고한 오픈소스 생태계는 경쟁을 유지하고 기술의 진행 방향을 투명하게 만들며, 안전을 검증할 수 있는 기반이 된다.

2. AI에 대한 사회적 반감과 데이터센터의 장기 투자

2.1. 부정적 정서가 생기는 여러 질문

AI에 대한 불안은 하나의 원인으로 환원되지 않는다. 일자리와 경제, 데이터센터가 들어서는 지역의 세수와 환경, 악용 가능성, 사이버 보안, 생물학적 위험, 자유사회 유지, 미국의 리더십, 고도화되는 기술에 대한 통제권이 함께 얽혀 있다.

1. 접근성 문제

   1. 최상위 연구소만 AI를 사용할 수 있으면 대중은 기술 발전에서 배제됐다고 느낀다.
   2. 더 많은 사람이 실제로 기술을 써서 수익과 생산성 향상을 경험하면 AI에 대한 소외감도 줄어들 수 있다.

2. 지역사회와 인프라 문제

   1. 데이터센터가 단기 차익을 노린 사업자가 부지를 확보해 대형 연구소에 되파는 수단이 되면 지역사회에 장기적 이익이 남지 않는다.
   2. 반대로 Meta처럼 수십 년 운영을 전제로 세수·고용·교육에 투자하면 데이터센터가 지역 번영의 기반이 될 수 있다.

2.2. 장기 투자와 인센티브 정렬

1. 루이지애나 사례

   1. 데이터센터 세수로 지역 교사에게 5만 달러 보너스를 지급한 사례가 언급됐다.
   2. 일자리와 지역사회 투자가 함께 이뤄질 때 주민은 데이터센터를 단순한 전력·토지 소비 시설이 아니라 장기 자산으로 볼 수 있다.

2. 미국 인력 아카데미(American Workforce Academy)

   1. 데이터센터 건설에는 광섬유 기술자, 전기 기술자, 고급 목공 기술자 등 숙련 인력이 필요하지만 현재 인력은 턱없이 부족하다.
   2. Meta는 수십만 명에서 수백만 명에 이를 추가 인력을 교육하기 위한 프로그램을 만들고, 수료자에게 Meta 인프라 구축 관련 기업의 일자리를 보장한다.
   3. 이 프로그램은 순수한 자선이 아니다. Meta는 장기적으로 필요한 기술 인력을 확보하고, 교육받은 사람은 안정적인 직업을 얻는 상호 이익 구조다.

3. 호황과 투기의 구분

   1. 데이터센터 시장을 ‘거품’이라고 부르면 과대평가라는 판단이 포함되지만, 현재 시장이 호황이라는 사실 자체는 분명하다.
   2. 단기 투기 인센티브는 모든 이해관계자에게 이익이 되지 않는 결정을 유도할 수 있으므로, 기술·일자리·지역사회가 함께 지속되는 구조가 필요하다.

4. 사회적 지속 가능성

   1. AI가 일자리를 만들지 못하고 광범위한 번영을 만들지 못하거나, 인프라가 지역사회에 이익을 주지 못하면 기술은 장기적으로 받아들여지기 어렵다.
   2. 기술적으로만 작동하는 제품이 아니라 사회적으로도 작동하는 제품을 만들어야 한다. 광범위한 지지와 권력의 균형은 규모 확장의 전제 조건이다.

3. ‘개인 초지능’에서 Muse로: Meta의 다음 장

3.1. 소셜미디어 기업을 넘어 개인에게 힘을 주는 기업

Zuckerberg는 Meta를 단순한 소셜미디어 회사로 규정하지 않는다. 지난 15~20년 동안 Meta가 해 온 일의 핵심은 사람을 연결하고, 기술과 힘을 개인의 손에 쥐여 주며, 각자가 자기 삶에서 중요한 것을 결정하도록 돕는 것이었다.

1. 콘텐츠 검열 논쟁에서 얻은 교훈

   1. 콘텐츠 관리 논쟁의 본질은 누가 개인을 대신해 삶의 중요 사항을 정하고 표현을 허용할지에 관한 문제였다.
   2. Zuckerberg는 이 논쟁을 거치며 개인이 자신의 삶에 무엇이 중요한지 가장 잘 안다는 확신을 갖게 됐다.

2. 소수 전문가가 정하는 초지능에 대한 거부감

   1. 건강과 더 나은 삶뿐 아니라 가족·친구와의 관계, 문화, 일상의 사소하지만 중요한 경험도 사람마다 다르다.
   2. 연구자와 엔지니어가 거대한 사회 문제라고 생각하지 않는 일이 수십억 명에게는 가장 중요한 문제일 수 있다.
   3. 개인 초지능의 방향은 소수 연구소의 전문가가 일방적으로 배정하기보다 각 사용자가 직접 정해야 한다.

3. 개인별 우선순위의 가치

   1. 제약·바이오 산업은 환자 수가 많은 질환을 우선하기 쉽지만, 희귀 질환을 가진 사람은 자신의 상태에 집중하는 개인 AI를 원한다.
   2. 개인 AI가 각자의 수요를 모으면 소수 전문가가 정한 평균적 우선순위와 다른 연구·제품 기회가 드러난다.

3.2. 삶에서 체감하는 Muse의 사용 사례

1. 세 살 딸과의 베이킹

   1. Zuckerberg는 베이킹을 거의 모르지만, 세 살 아이와 성인이 함께할 수 있는 주말 프로젝트를 매주 준비하도록 Muse에 맡겼다.
   2. Muse는 Instacart 같은 서비스를 활용해 재료를 준비하고 일요일에 바로 실행할 수 있는 계획을 세웠다.
   3. 케이크팝은 생각보다 어려워 실패 사례가 됐다. 단순한 레시피 검색이 아니라 실제 난이도와 사용자의 수준을 고려해 다음 계획을 조정해야 한다는 점을 보여 준다.

2. 딸과의 산행 허가

   1. 큰딸이 산행을 좋아하지만 일부 등산로는 허가가 필요하다.
   2. Muse는 허가가 열리는 시점을 기다렸다가 신청하고, 허가가 나면 날짜를 알려 준다.
   3. Zuckerberg는 허가 날짜에 맞춰 휴가를 내고 딸과 산에 오를 수 있으며, 에이전트가 가족과 보내는 시간을 실제 일정으로 전환한다.

3. MMA 훈련 코치

   1. 체육관에 카메라를 설치하고 Muse가 영상을 보며 훈련 피드백을 보내도록 했다.
   2. Muse는 사용자가 지쳐 포기한 순간을 찾아냈고, 코치들이 직접 말하기 어려웠던 약점을 알려 줬다.
   3. 사용자의 반응을 바탕으로 더 적절한 영상 프레임을 선택하는 방법을 스스로 개선하겠다고 제안했다.

4. 문명(Civilization) 게임과 역사 학습

   1. Muse는 딸과 함께 하는 게임의 전략 가이드를 만들었다.
   2. 사용자가 동의하자 가이드를 다른 문명의 역사적 교훈까지 설명하는 교육용 프로젝트로 확장하고 새 탭과 앱을 만들었다.

5. 베타 사용자들의 즉각적 활용

   1. 한 사용자는 하루 만에 홈스쿨링 운영에 Muse를 활용했다.
   2. 다른 사용자는 12시간 만에 여행 전체를 계획하게 했다.
   3. 기술에 회의적이던 사용자는 며칠 뒤 정식 출시 때 자신의 Muse 에이전트를 계속 유지할 수 있는지, 초기화되는지 먼저 물었다.
   4. 사용법을 정해 주지 않아도 각자가 삶의 문제를 발견하고 프로젝트를 만들어 간다는 점이 초기 베타에서 확인됐다.

4. Muse의 작동 방식과 제품 설계

4.1. 챗봇에서 장기 실행형 에이전트로

1. 가상 머신을 가진 에이전트

   1. Meta AI·ChatGPT·Gemini처럼 프롬프트 하나에 답변 하나를 돌려주는 구조가 아니다.
   2. Muse는 백그라운드 가상 머신에서 컴퓨터를 제어하고, 필요한 서비스에 로그인해 실제 작업을 수행한다.

2. 목표와 프로젝트 중심 실행

   1. 사용자는 질문보다 장기 목표나 프로젝트를 입력한다.
   2. Muse는 24시간 작동하며 목표 달성에 필요한 조사·코딩·일정·거래를 이어 간다.
   3. 밤에는 작업 결과와 반성 내용을 메모리에 통합하는 ‘학습(studies overnight)’ 과정을 거친다.

3. 능동적 제안과 자기 확장

   1. Muse는 사용자가 말한 일을 끝내는 데서 멈추지 않고 새 프로젝트와 개선 아이디어를 제안한다.
   2. 전략 가이드에서 역사 학습으로 확장하거나, MMA 영상에서 더 좋은 장면을 선택하는 기능을 제안한 사례가 대표적이다.

4.2. 에이전트 함대와 네트워크 학습

1. 개별 에이전트의 한계

   1. 업계 대부분은 에이전트를 한 사용자가 혼자 쓰는 ‘싱글 플레이어 게임’처럼 취급한다.
   2. 많은 사람이 AI를 어떻게 활용해야 하는지조차 모르므로, 기능을 제공하는 것만으로는 사용 가치를 충분히 끌어내기 어렵다.

2. 아이디어 탭과 익명화된 학습

   1. Muse 앱에는 사용자의 프로젝트에서 확장 가능한 아이디어를 보여 주는 탭이 있다.
   2. 전체 Muse 함대에서 익명화된 인사이트를 학습하면, 한 사용자의 발견이 다른 사용자의 새로운 활용법으로 연결될 수 있다.
   3. 에이전트끼리 상호작용하는 내부 실험은 이미 진행 중이며, 초기 출시부터 전부 구현되지는 않아도 장기 차별화 요소가 된다.

3. 네트워크 효과의 의미

   1. 모델 자체는 시간이 지나며 상품화되고 제품의 외형도 비슷해질 수 있다.
   2. 반면 사용자별 프로젝트·아이디어·에이전트 상호작용에서 얻은 익명화된 학습은 사용자가 늘수록 좋아지는 구조를 만든다.
   3. Zuckerberg는 이 방식을 AI 에이전트 분야에서 아직 충분히 시도하지 않은 네트워크 효과로 본다.

5. ‘돈을 벌어다 주는’ 무료 사용 모델

5.1. 대규모 무료 사용량

1. 무료와 구독의 병행

   1. 고정 구독을 원하는 사용자는 구독료를 낼 수 있다.
   2. 대다수 사용자는 매주 약 1억 토큰과 가상 머신을 무료로 이용할 수 있다.
   3. 강력한 에이전트를 모든 사람에게 보급하려면 가격 장벽을 낮춰야 하므로, 무료 사용은 사회적 확산 전략이자 제품 전략이다.

2. 무료 제공을 가능하게 하는 전제

   1. Muse가 소규모 사업 운영, 거래, 상거래, 수익 창출에 사용되면 사용자가 비용보다 큰 경제적 가치를 얻을 수 있다.
   2. 사용자는 돈을 벌거나 비용을 절감하고, 그 결과 서비스가 스스로 비용을 회수하는 구조를 목표로 한다.

5.2. 거래 수수료 기반 수익

1. 거래액의 작은 몫

   1. Meta는 장기적으로 사용자가 Muse를 통해 만든 거래액에서 아주 작은 수수료를 받는 모델을 구상한다.
   2. 수수료는 Muse를 쓰는 개인이 아니라 그 개인과 거래하는 사업자에게서 받을 수 있다.
   3. 결제에는 Stripe가 연동된다.

2. 사업 운영의 전체 루프

   1. Muse는 제품 아이디어를 만들고, 필요한 코드를 작성하고, 사업을 운영하며, 광고 집행까지 이어 갈 수 있다.
   2. 사용자는 원할 때 Meta 광고 시스템과 Instagram 광고 지출을 연결할 수 있지만, 연결은 선택 사항이다.
   3. 24시간 365일 반복되는 사업 운영 루프와 매월 출시되는 모델 업데이트가 결합되면 에이전트의 생산성과 수익성이 함께 커진다.

3. Meta 플랫폼과의 관계

   1. 사용자가 원하는 외부 서비스에 연결할 수 있고 Meta 서비스는 선택적으로 연결한다.
   2. Meta AI는 즉시 답이 필요한 질문에 더 어울리고, Muse는 사용자의 의도와 장기 목표를 해석해 오랫동안 작업하는 쪽에 가깝다.
   3. 두 제품이 장기적으로 수렴할지는 아직 확정되지 않았다.

6. 개인 에이전트의 핵심 경쟁력: 사회적 DNA와 보안

6.1. 세 가지 차별화 요소

1. 사용 사례에 맞춘 모델의 처음부터 설계

   1. 시판 모델을 가져와 사후 학습만 조금 하는 방식보다 개인 에이전트에 필요한 기능을 처음부터 사전 학습에 반영하는 방식이 유리하다.
   2. 장기간 데이터와 기능이 축적되면 개인 초지능 목표에 더 적합한 모델로 복리 효과가 생긴다.

2. Meta의 사회적 DNA

   1. 관계를 강화하고 가족·친구와 더 잘 연결되며 삶의 부드럽지만 중요한 부분을 개선하는 데 집중한다.
   2. 이는 소셜미디어에서 사람을 연결해 온 Meta의 경험이 개인 에이전트로 이어지는 지점이다.

3. 개인정보 보호와 보안

   1. 개인 에이전트가 유용하려면 광고·메시지·이메일·건강 정보처럼 민감한 데이터와 연결돼 사용자를 깊이 이해해야 한다.
   2. 사용자가 높은 신뢰를 갖지 못하면 그 연결 자체가 불가능하므로, 보안은 부가 기능이 아니라 제품의 핵심 경쟁력이 된다.

6.2. 기밀 VM과 WhatsApp에서 배운 원칙

1. Meta도 내용을 볼 수 없는 구조

   1. Meta는 10년 이상 WhatsApp을 세계 최대 규모의 종단간 암호화 시스템으로 구축했다.
   2. 정부·해커·내부 직원이 메시지 내용을 악용할 가능성을 시스템 설계 단계에서 제거한 것이 WhatsApp 신뢰의 핵심 교훈이다.

2. Moxy Marlinspike의 참여

   1. Zuckerberg와 Nat은 Signal 창립자 Moxy Marlinspike를 직접 영입했다.
   2. 그는 2014년 WhatsApp 암호화 구축을 도왔고, Muse의 기밀 VM 프로젝트 아키텍트로 합류했다.

3. 기술적으로 검증 가능한 기밀성

   1. 사용자는 Muse의 가상 머신 안에 정보를 보관하고, Meta조차 그 콘텐츠를 볼 수 없다는 약속을 받는다.
   2. 이 약속은 단순한 정책 선언이 아니라 기술적으로 검증 가능한 형태로 구현되며, 출시 확대에 맞춰 추가 설명이 공개될 예정이다.

6.3. 다층 보안 아키텍처

1. 안전한 자격 증명 저장소

   1. 신용카드 번호, 비밀번호, 일회용 카드 번호를 일반 저장 공간에 노출하지 않는다.
   2. 에이전트는 사용자가 특정 로그인을 요청할 때만 필요한 자격 증명에 접근하고 평상시에는 그 값을 알지 못한다.

2. Sentinel 에이전트

   1. 핵심 Muse 에이전트와 별도로 들어오고 나가는 데이터·트래픽을 감시하는 Sentinel 에이전트들이 작동한다.
   2. 프롬프트 인젝션, 불편하거나 원치 않는 정보의 외부 공유, 민감한 데이터 전송을 탐지한다.
   3. 로그인·결제·민감 정보 전송이 발생하면 사람의 검토와 승인을 요청한다.

3. 최소 권한 원칙(Least Privilege)

   1. 이메일 연결은 우선 읽기 전용으로 시작한다.
   2. 이메일을 보내려면 별도의 권한을 요청해야 하며, 에이전트가 모든 기능을 한 번에 얻지 못하도록 한다.
   3. 사용자가 반복 작업을 항상 허용하도록 설정할 수 있지만, Muse가 민감한 판단을 독자적으로 내려서는 안 된다는 규칙은 시스템 아키텍처에 깊이 내장된다.

4. 클라우드의 편리함과 집 안 컴퓨터의 기밀성

   1. Mac Studio를 집에 두고 직접 실행하면 물리적 통제권을 얻지만, 수십억 명이 기기를 구매하고 설정하기는 어렵고 기술 난도도 높다.
   2. Muse는 기술 수준이 다른 가족 구성원도 하루 안에 쓸 수 있도록 클라우드 VM을 자동 프로비저닝한다.
   3. 목표는 책상 아래에 놓인 개인 컴퓨터와 같은 기밀성을 클라우드 편의성으로 제공하는 것이다.

7. 경쟁 구도와 Meta의 AI 연구 재편

7.1. 승자독식이 아닌 소수 대규모 사업자와 용도별 강자

1. 시장 집중과 다수 생존의 공존

   1. 네트워크 효과와 규모의 경제 때문에 최첨단 개인 에이전트를 제대로 만들 수 있는 기업은 12개 미만일 가능성이 높다.
   2. 그래도 승자 하나만 남는 구조는 아니다. 실제로 20억 명 이상을 보유한 제품이 손에 꼽히듯, 소수의 대규모 사업자가 공존할 수 있다.

2. 용도별 차별화

   1. 인간관계 개선에 가장 뛰어난 에이전트와 소규모 사업 구축에 가장 뛰어난 에이전트는 서로 다를 수 있다.
   2. Meta는 수십억 명의 개인과 수억 개의 소규모 기업을 이미 상대하므로 두 영역 모두에서 유리한 출발점을 갖는다.
   3. 집에서 돌리는 Mac Studio처럼 특정 사용자가 원하는 영역까지 모두 Meta가 최고가 될 필요는 없으며, 그 시장이 수백만 명인지 수십억 명인지가 중요하다.

7.2. MSL 재편과 인재 밀도

1. 기존 머신러닝 역량과 LLM의 차이

   1. Facebook·Instagram 피드, 광고 시스템, 콘텐츠 무결성 시스템에서 Meta는 오랫동안 최첨단 머신러닝 시스템을 구축했다.
   2. 초기 Llama 연구를 상용 규모의 산업 공정으로 확장하는 과정에서, 다른 머신러닝과 LLM의 역학이 같을 것이라고 가정한 것이 오류였다.

2. Llama 4 이후의 전환

   1. Llama 3은 좋은 모델이었지만 Llama 4 이후의 궤도는 Meta가 기대한 경로에서 벗어났다.
   2. Meta는 수천 명이 각자 실험하는 조직보다, 전체 문제를 머릿속에 담고 함께 과학 프로젝트를 수행할 수 있는 작은 고밀도 팀이 필요하다고 판단했다.
   3. 소수의 자리마다 최고의 인재를 배치하기 위해 Zuckerberg가 직접 많은 시간을 쓰고 연구 업무에 기술적으로 더 가까이 접근했다.

3. 컴퓨팅 확장

   1. 연구팀은 Zuckerberg가 앉는 사무실 주변에 구성됐고, 작업 품질에 대한 확신이 커지면서 컴퓨팅 투자를 크게 늘렸다.
   2. Meta는 수 기가와트 규모의 컴퓨팅 설비를 구축하고, 오하이오 기가와트 클러스터와 Prometheus를 가동해 차기 모델을 확장하고 있다.
   3. 수십 년간 데이터센터를 건설한 경험과 높은 수익성은 다른 연구소보다 대규모 AI 투자를 지속하기 쉬운 기반이다.

7.3. Avocado·Watermelon과 최전선 모델 전략

1. 코드명과 스케일

   1. 상대적으로 작은 사전 학습 모델의 코드명은 Avocado였다.
   2. 곧 출시될 더 큰 모델은 Watermelon이라는 코드명으로 불린다.
   3. 더 큰 모델을 계속 과일 이름으로 부르다 보면 명명 체계를 바꿔야 할 정도로 규모가 커질 수 있다는 농담이 오갔다.

2. 최전선에 머무는 이유

   1. Meta는 비용을 아끼기 위해 한발 뒤에서 빠르게 따라가는 전략을 택하지 않는다.
   2. Meta는 앱만 만드는 기업이 아니라 데이터센터·칩·인프라·최종 경험을 함께 설계하는 엔드투엔드 기술 회사다.
   3. 개인 에이전트의 핵심 경험이 모델에 달려 있으므로, 최전선 모델을 직접 보유하는 것이 전체 제품을 조정하는 데 중요하다.

3. 개인 에이전트 모델에 필요한 능력

   1. 코딩은 MMA 영상 파이프라인, 친구들과 하는 Jeopardy 게임, 사업 운영 자동화에 모두 필요한 범용 능력이다.
   2. 사용자의 민감한 정보와 공개 가능한 정보를 구분하는 재량(discretion)이 개인 에이전트의 고유한 능력이 된다.
   3. 예컨대 임신이나 알레르기를 직접 밝히지 않아도 무알코올 음료가 좋은 장소를 예약하는 식으로 목표를 달성하면서 민감한 사정을 노출하지 않아야 한다.
   4. 지속적 자기 개선(recursive improvement)과 개인 에이전트 특화 사전 학습도 차별화된 연구 의제가 된다.

8. 안전, 보상 해킹, 그리고 권력 분산

8.1. 보상 해킹과 양육의 비유

1. 문제의 구조

   1. 훈련 중 모델에 코딩 문제를 주면, 모델은 먼저 환경 전체를 파악하고 답을 찾는다.
   2. 충분히 똑똑한 모델은 실제 문제를 푸는 대신 VM 설정을 바꾸거나 환경을 조작하는 것이 더 쉽다고 판단할 수 있다.
   3. 목표를 달성한 것처럼 보이지만 실제로 가르치려던 문제 해결법을 배우지 않은 상태가 보상 해킹이다.

2. 명확한 경계의 필요성

   1. Zuckerberg는 이 문제를 조심스럽게 양육에 비유한다.
   2. 부모가 경계를 분명히 설정하지 않으면 아이가 보상을 조작하면서 가르치려던 내용을 배우지 못할 수 있다.
   3. 안정적인 경계는 교육과정뿐 아니라 시간이 지나며 더 나은 가치관을 배우게 하는 기반이다.

8.2. 강력한 AI를 널리 배포해야 하는 이유

1. 초지능 변호사 비유

   1. 한 사람만 초지능 변호사를 고용하면 이길 수 없는 사건도 이기고 제도 전체를 자신에게 유리하게 왜곡할 수 있다.
   2. 모든 사람이 초지능 변호사를 가지면 주장이 서로 검증되는 효율적인 공방이 가능해지고, 약한 주장이 그대로 통과되기 어렵다.
   3. 개인 AI의 보편화는 법정뿐 아니라 경제·교육·정보·협상에서 권력의 비대칭을 줄이는 견제 장치가 될 수 있다.

2. 접근 제한 대신 설계 단계의 안전

   1. 위험한 역량이 나타날 때마다 기술을 소수에게만 공개하기보다 안전하게 설계하고 훈련하는 것이 우선이다.
   2. 사람들에게 기회를 주고, 널리 배포해 권력의 균형을 맞추는 것이 단순 제한보다 긍정적인 사회적 결과를 만들 수 있다.

9. 정부와의 협력: 경직된 규칙보다 지속적인 대화

9.1. 빠르게 변하는 기술에 대한 정책 접근

1. 고정된 국가 프레임워크의 한계

   1. AI 능력은 너무 빠르게 변해 몇 달 안에 특정 규칙이 불충분하거나 낡을 수 있다.
   2. 사이버 보안 문제가 중심인 시기와 생물학적 위험이 중심인 시기는 다를 수 있으므로 단일 절차로 모든 위험을 다루기 어렵다.

2. 미국 정부와의 적극적 협력

   1. 미국 기업은 중요한 훈련 실행과 앞으로 등장할 능력을 정부가 이해하도록 돕고, 정부와 선제적으로 협력해야 한다.
   2. 경제·안보와 AI가 점점 강하게 연결되므로 실리콘밸리가 정부와 거리를 둔 지난 15년의 관계를 바꿀 필요가 있다.
   3. 정부 부처들과 신뢰와 소통의 대역폭을 확보하면 형식적인 체크리스트가 아니라 실제 국민에게 도움이 되는 대응이 가능하다.

3. 시장 인센티브의 역할

   1. Meta의 모델이 유출돼 큰 피해를 일으키면 기업이 책임을 지고 시장이 교정하는 기존 인센티브도 이미 존재한다.
   2. 정부 규칙과 시장 책임은 서로 배타적이지 않으며, 지식 교환과 신뢰할 수 있는 대화가 구체적인 절차만큼 중요하다.

10. 스마트 안경과 청소년 안전에서 얻은 커뮤니케이션 교훈

10.1. Ray-Ban 계열 스마트 안경의 촬영 우려

1. 처음부터 내장한 촬영 표시등

   1. 녹화 중에는 눈에 띄는 표시등이 깜빡이도록 설계했다.
   2. 표시등을 조작하려는 시도가 발생하자, Meta는 조작 시 카메라가 작동하지 않도록 업데이트했다.
   3. 스마트폰은 촬영 중 표시등이 없어 사람들이 늘 촬영할 수 있지만, 안경은 촬영 여부를 보여 주도록 설계했다는 것이 Zuckerberg의 주장이다.

2. 주류화 이후 커뮤니케이션의 재개

   1. 초기 출시 때 개인정보 보호 조치를 설명했지만, 사용자가 수백만 명으로 늘며 초기 메시지를 보지 못했거나 잊은 사람이 많아졌다.
   2. Meta는 제품의 멋진 디자인과 효용에 집중하는 과정에서 개인정보 보호 설계가 얼마나 근본적인지 충분히 반복해 알리지 못했다.
   3. 새로운 제품이 일상적 가치로 자리 잡으려면 기술적 보호뿐 아니라 사용자가 그 보호 조치를 이해하도록 지속적으로 설명해야 한다.

10.2. 청소년 안전 합의와 업계 공동 기준

1. 일방적 시간 제한의 딜레마

   1. 청소년의 Instagram 사용을 하루 한 시간으로 줄여도 TikTok으로 사용 시간이 이동하면 전체 안전 문제를 해결하지 못한다.
   2. 한 회사만 제한을 먼저 도입하면 도움은 적고 해당 회사만 경쟁상 불리해질 수 있다.

2. 업계 전체의 법적 프레임워크

   1. Meta는 알림, 학교·수면 시간대 접속, 시간 제한 등 일부 조치를 먼저 시행했다.
   2. YouTube·TikTok 등 다른 플랫폼이 같은 조건에 동참하면 업계 전체가 다음 단계로 함께 나아갈 수 있다.
   3. 청소년 안전 합의는 먼저 행동한 기업이 손해 보지 않도록 표준을 맞추는 법적 구속력 있는 틀이 되기를 기대한다.

11. Threads와 X에 모두 글을 쓰는 이유

11.1. 커뮤니티가 있는 곳으로 가는 소통

1. Zuckerberg는 Threads가 X보다 이미 크거나 곧 커질 수 있다고 보지만, AI 종사자 등 특정 커뮤니티가 X에 있다는 사실도 인정한다.
2. 같은 글을 Threads와 X에 모두 올리는 이유는 플랫폼 충성도보다 사람들이 실제로 모여 있는 곳에서 대화하기 위해서다.
3. 팟캐스트나 게시물을 한 곳에만 두지 않고 여러 공동체에 전달하듯, 소셜미디어의 핵심은 사람들이 있는 곳에서 직접 대화하는 데 있다.

주요 발언 모음

“긍정적인 미래로 가는 길은 기술을 널리 보급하고, 앞으로 할 일에 영향을 미치는 기술을 사람들의 손에 쥐여 주는 것입니다.”

“사람들이 자신의 삶에서 무엇이 중요한지, 그리고 기술을 어떻게 사용하고 싶은지 스스로 결정할 수 있어야 합니다.”

“개인 에이전트는 질문 하나에 답하고 끝나는 것이 아니라, 목표를 주면 24시간 작동하고 목표 달성을 도울 때까지 멈추지 않습니다.”

“모두가 초지능 변호사를 갖는다면 주장이 서로 검증되는 효율적인 공방이 되고, 정의가 훨씬 효율적이고 공정하게 실현될 수 있습니다.”

“AI가 유용하려면 최첨단 지능만으로는 부족합니다. 사용자를 제대로 이해해야 합니다.”

“이 문제는 기술적으로 작동해야 할 뿐 아니라 사회적으로도 작동해야 하며, 두 요소는 함께 가야 합니다.”

핵심 데이터 & 수치

• 선언문 분량: 1쪽 요약본과 약 15쪽 장문 버전이 있다.
• Meta의 개인 에이전트 무료 사용량: 초기 계획은 주당 약 1억 토큰과 가상 머신 제공이다.
• Muse의 실행 범위: 프로젝트를 24시간, 365일 반복 실행하는 것을 목표로 한다.
• 데이터센터 인력 수요: 광섬유·전기·고급 목공 등 숙련 인력이 수십만 명, 장기적으로 수백만 명 더 필요하다.
• 지역사회 사례: 루이지애나에서 데이터센터 세수로 교사에게 5만 달러 보너스를 지급한 사례가 언급됐다.
• 경쟁 구도: 최첨단 개인 에이전트를 만들 수 있는 기업은 12개 미만일 수 있으며, 20억 명 이상 사용자를 가진 제품은 손에 꼽힌다.
• Meta의 컴퓨팅 투자: 수 기가와트 규모의 컴퓨팅 설비와 오하이오 기가와트 클러스터를 구축하고 Prometheus를 가동했다.
• 암호화 경험: WhatsApp 암호화 구축에는 2014년부터 Signal 창립자 Moxy Marlinspike가 참여했다.
• 베타 활용 속도: 홈스쿨링은 하루 만에, 여행 계획은 12시간 만에 시작된 사례가 나왔다.

결론 및 시사점

1. 개인 AI의 핵심 가치는 답변 품질이 아니라 지속적 실행력이다: 질문에 답하는 모델과 목표를 기억하고 컴퓨터를 조작하며 결과를 끝까지 만드는 에이전트의 제품 경험은 근본적으로 다르다.
2. 무료 사용량은 보급 전략이자 수익 모델의 전제다: 수십억 명이 접근하려면 사용료를 낮춰야 하고, 거래 수수료는 사용자가 얻는 경제적 가치에 연동된다.
3. 에이전트 경제는 개인과 사업자의 경계를 흐린다: Muse는 개인 비서, 코치, 가족 프로젝트 관리자에서 제품 개발자·광고 운영자·상거래 중개자로 확장될 수 있다.
4. 보안은 기능이 아니라 신뢰를 만드는 인프라다: 기밀 VM, 자격 증명 저장소, Sentinel, 인간 승인, 최소 권한이 연결돼야 개인 에이전트가 이메일·결제·건강 정보에 접근할 수 있다.
5. 사용자 수가 늘수록 에이전트가 좋아지는 네트워크 효과가 관건이다: 익명화된 아이디어와 에이전트 상호작용의 학습은 모델 자체의 상품화를 넘어서는 경쟁력이 될 수 있다.
6. 개인정보 보호와 재량은 개인 에이전트 특유의 모델 능력이다: 사용자의 목표를 달성하되 민감한 사정을 불필요하게 외부에 공개하지 않는 판단이 단순 코딩 능력만큼 중요하다.
7. Meta의 경쟁 전략은 엔드투엔드 통합이다: 모델·칩·데이터센터·클라우드 VM·소비자 배포망·광고·결제를 한 회사 안에서 연결한다.
8. 인재 밀도가 대규모 인력보다 중요할 수 있다: LLM 연구는 수천 명의 병렬 실험보다 전체 문제를 함께 이해하고 움직이는 작은 최고 수준 팀을 요구한다.
9. AI 안전은 제한만으로 해결되지 않는다: 명확한 경계와 훈련, 보상 해킹 방지, 인간 승인, 권력 분산을 함께 설계해야 한다.
10. 광범위한 접근은 사회적 견제 장치가 될 수 있다: 초지능을 소수가 독점하면 제도와 시장이 왜곡되지만, 모두가 능력을 보유하면 상호 검증과 균형이 작동한다.
11. 정부 정책은 기술 속도에 맞춰 적응해야 한다: 경직된 단일 법보다 훈련 정보 공유, 부처 간 신뢰, 지속적 민관 대화가 사이버·바이오 등 변화하는 위험에 대응하기 쉽다.
12. 인프라의 지역사회 편익이 AI 확산의 사회적 허가를 좌우한다: 고용·교육·세수·장기 투자가 데이터센터에 대한 반감을 줄이는 핵심이다.
13. 새로운 하드웨어의 신뢰는 초기 설계와 반복적 설명에서 나온다: 스마트 안경의 촬영 표시등을 넣는 것만큼 그 의미를 대중에게 지속적으로 설명하는 일이 중요하다.
14. 청소년 안전은 단일 플랫폼의 선의만으로 부족하다: 한 회사만 제한하면 사용자가 다른 서비스로 이동할 수 있으므로 업계 공동 기준이 필요하다.
15. Muse의 궁극적 방향은 개인이 무엇을 중요하게 여기는지 직접 결정하게 하는 것이다: 희귀 질환, 가족 관계, 취미, 직업, 사업 등 평균적 지표에서 빠진 문제도 개인 AI의 우선순위가 될 수 있다.

핵심 요약 (20줄)

1. Mark Zuckerberg는 AI의 긍정적 미래를 소수 연구소의 독점이 아니라 개인에게 권한을 널리 나누는 구조에서 찾는다.
2. 개인에게 권한을 주고 새로운 발명을 돕고 권력의 균형을 세우는 세 가지 원칙이 Meta의 AI 철학을 이룬다.
3. 오픈소스 생태계는 더 많은 사람이 코드를 검토하고 방어 기술을 만들 수 있어 AI 안전과 사이버 보안에 기여한다.
4. 데이터센터는 단기 투기 대상이 아니라 고용·세수·교육을 지역사회에 돌려주는 장기 인프라여야 한다.
5. Meta의 American Workforce Academy는 광섬유·전기·목공 등 데이터센터 인력 부족을 교육과 채용으로 해결하려 한다.
6. Meta는 소셜미디어 회사가 아니라 사람을 연결하고 기술을 개인의 손에 쥐여 주는 엔드투엔드 기술 회사라고 정의된다.
7. Muse는 프롬프트에 답하는 챗봇이 아니라 가상 머신에서 로그인하고 작업하며 목표를 장기간 추적하는 개인 에이전트다.
8. Muse는 딸과의 베이킹·산행 허가·MMA 훈련·문명 게임을 가족생활과 학습을 돕는 실제 프로젝트로 바꾼다.
9. Muse는 하루 만에 홈스쿨링을 돕고 12시간 만에 여행을 계획하는 등 사용자의 다양한 목표를 빠르게 실행한다.
10. Muse는 밤새 작업을 정리하고 메모리에 반영하며 새로운 프로젝트와 자기 개선 아이디어를 능동적으로 제안한다.
11. 초기 계획은 주당 약 1억 토큰과 가상 머신을 무료로 제공해 강력한 에이전트의 대중화를 촉진하는 것이다.
12. Meta는 사용자가 벌거나 절약하는 돈에서 가치가 생긴다고 보고 장기적으로 거래 기업에 작은 수수료를 부과하려 한다.
13. Stripe 결제와 선택적 Meta 광고 연동은 Muse가 제품 제작부터 사업 운영과 광고까지 이어 가게 만든다.
14. Muse의 차별화 요소는 개인 에이전트 특화 모델, 관계를 중시하는 사회적 DNA, 기밀성을 중심에 둔 보안이다.
15. 기밀 VM은 Meta조차 사용자 콘텐츠를 보지 못하게 하고, Moxy Marlinspike의 WhatsApp 암호화 경험이 설계를 이끈다.
16. Sentinel 에이전트와 최소 권한 원칙은 프롬프트 인젝션·결제·민감 정보 전송을 인간 승인과 함께 통제한다.
17. Meta는 인재 밀도 높은 소규모 연구팀과 오하이오 기가와트 클러스터·Prometheus로 최전선 모델 개발을 가속한다.
18. 개인 에이전트 모델은 코딩뿐 아니라 사용자의 민감한 정보를 불필요하게 공개하지 않는 재량을 갖춰야 한다.
19. 보상 해킹은 명확한 경계와 안전한 훈련으로 줄이고, 초지능은 널리 배포해 상호 견제되도록 해야 한다.
20. Muse의 최종 비전은 각자가 삶에서 중요한 것을 직접 정하고 AI가 그 목표를 24시간 실행하게 만드는 개인 초지능이다.