‘프론티어를 따라잡는다’는 신화의 허점: Instinct의 10억 달러 조달과 Meta의 Muse

원문 제목: Why "Pacing the Frontier" is BS | Instinct Raising $1B at $10B & Meta Launches Muse
채널: 20VC
원본 URL: https://www.youtube.com/watch?v=_tfUQrusRGM
처리일: 2026-09-19

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI 프론티어를 늦추자는 공개 논의는 실질적인 통제 방안이라기보다, AI 기업이 이미 감당하기 어려운 위험을 인식하고 있다는 사실을 사회와 투자자에게 고지하는 리스크 공시로 기능한다.== 동시에 자본과 컴퓨트가 무한해 보이는 시장에서는 Meta처럼 인프라·모델·유통을 한 손에 가진 기업과, 독립 스타트업의 생존 논리가 정면으로 충돌한다.

• ‘인류 멸종 가능성’을 말하면서도 계속 개발하는 태도는 책임 소재와 제품 안전의 관점에서 모순을 낳는다.
• Meta의 Muse는 대규모 GPU, 자체 LLM, Facebook·WhatsApp·Instagram 유통망을 동시에 활용해 AI 비서 스타트업의 원가 구조를 압박한다.
• Instinct의 10억 달러 신규 라운드와 100억 달러 가치 평가는 탁월한 팀과 높은 사용성을 반영하지만, 독립적 현금흐름보다 초대형 인수 가능성에 크게 기대는 베팅이다.
• Miro 인수와 Mistral의 30억 유로 조달은 한쪽에서는 구형 SaaS 가치의 청산을, 다른 쪽에서는 지정학적 AI 주권을 위한 국가 전략을 보여준다.

1. ‘프론티어를 늦추자’는 주장과 AI 안전의 책임

1.1. Dario Amodei의 제안이 불러온 반발

1. ‘pacing the frontier’의 문제 제기

   1. Anthropic의 Dario Amodei가 모델 제공자의 역량 증가를 늦추고 규제·감시 체계를 마련해야 한다고 주장했고, Sam Altman과 Elon Musk도 일정 형태의 외부 규제기관이 필요하다는 취지에 동의했다.
   2. 제안의 문제 범위는 사이버 공격, AI로 인한 경제적 실업, AI에 대한 통제 상실이었다. 패널들은 이 세 항목이 모두 같은 종류의 위험이 아니며, 특히 ‘통제 상실’과 ‘10% 인류 멸종 가능성’을 한데 묶으면 논쟁이 과장된다고 지적했다.

2. 10% 멸종 확률 발언과 실제 정책의 간극

   1. Anthropic을 떠난 인물 또는 회사 내부 안전 담당자들이 10년 안에 인류가 멸종할 확률을 10%로 보는 견해를 언급하면서, 대중은 Dario가 직접 ‘10% 확률로 세계를 파괴한다’고 말한 것처럼 받아들였다.
   2. 만약 미국 정부가 샌프란시스코의 한 기업이 10년 안에 세계를 파괴할 확률이 10%라고 진지하게 판단한다면, 해당 기업을 계속 영업하게 두지 않고 즉시 조사·폐쇄할 것이라는 반론이 나왔다. 정부가 개입하지 않는 현실은 위험이 완전히 허구이거나, 정부가 아직 통제 가능한 과장으로 보는 것일 수 있다.

1.2. 리스크 공시, 정치적 후폭풍, 규제의 현실성

1. IPO를 앞둔 CEO의 리스크 관리라는 해석

   1. Dario의 발언은 Anthropic이 장래에 수조 달러 규모의 IPO를 추진할 때 투자설명서에 등장할 위험 요소를 미리 공론화하는 행위로 해석됐다.
   2. ‘직원이 인류 멸망 가능성을 믿고 있으며 그 믿음이 회사의 개발 동력이다’라는 사실까지 리스크로 공시하면, 향후 2년 동안 의회 청문회와 정부 조사가 이어질 수 있다. AI가 샌프란시스코 스타트업의 부의 원천을 넘어 대중 안전 이슈가 되는 순간이다.

2. 의회 청문회가 던질 질문

   1. 정부는 사직한 직원이 아니라 현재 안전 책임자와 CEO를 불러, 회사가 5~10년 내 통제 상실 가능성을 실제로 믿는지 예·아니오로 답하게 할 수 있다.
   2. “위험이 있다면 개발을 중단하거나 문제를 해결하는 것이 CEO의 일”이라는 David Sacks와 Lina Khan의 논점이 핵심이다. 제품이 인류 일부를 파괴할 가능성이 있다면 제품 책임(product liability) 차원에서 회사가 먼저 해결해야 한다.

3. 제안된 해법이 작동하기 어려운 이유

   1. 제3자 모니터링 에이전트를 자발적으로 설치하는 방식은 기업의 선택에 맡기면 실효성이 없고, 법적 의무로 만들면 독립 규제기관과 법률이 필요하다.
   2. 민주주의 국가들이 모두 동의해야 하고, 중국·러시아까지 같은 감시체계에 참여해야 한다는 조건은 국제정치적으로 실현 가능성이 낮다. 기업이 고른 친구를 규제기관으로 삼을 수는 없고, 진짜 규제는 정부가 정한다.

1.3. 세 가지 위험의 질적 차이

1. 사이버 위험은 현실적이지만 이미 확산됐다

   1. AI가 공격 코드 작성과 방어 회피를 돕는 사이버 위험은 실재하며, CrowdStrike 등 사이버보안 기업의 상승은 시장도 이 위험을 구체적인 사업 기회로 받아들인다는 신호였다.
   2. 다만 오픈 웨이트 모델과 중국의 강한 오픈소스 생태계가 이미 존재해, 미국 기업이 개발을 멈춘다고 위험 자체가 사라지지는 않는다. 기술은 이미 ‘가방에서 나온 고양이’가 됐다.

2. 실업 논리는 기술 발전을 멈출 근거가 되기 어렵다

   1. AI가 일자리를 없앤다는 이유로 기술 개발을 중단해야 한다면, 농업 자동화 이전처럼 인류의 대부분이 농장에서 일해야 한다는 결론에 이른다.
   2. 광범위한 화이트칼라 실업은 심각한 사회정책 문제지만, 그것을 이유로 발명 자체를 금지하자는 식의 주장은 설득력이 약하다.

3. 재귀적 자기개선과 통제 상실이 가장 어려운 문제다

   1. 선의로 만든 재귀적 자기개선 시스템이 다른 목표를 추구하거나 악의적 행위자에게 무기화될 수 있다는 위험은 다른 두 항목과 다르다.
   2. 스스로 통제할 수 없는 것을 만들고 있다면 개발을 멈춰야 한다. 반대로 관리 가능한 문제라면 개발을 계속하고 해결책을 제시해야 하며, 정부가 자신을 막아주기를 기다리는 태도는 CEO의 책임 회피가 된다.

1.4. 모든 강력한 기술에는 ‘어두운 버전’이 있다

1. 긍정적 사용 사례의 쌍대 위험

   1. 초인적 코딩 능력은 초인적 해킹 능력이기도 하고, 구조공학 능력은 건물의 취약점을 찾는 능력이기도 하다.
   2. 신약 설계 능력은 탐지하기 어려운 독성 물질 설계 능력이 될 수 있으며, 바이러스를 치료하는 능력은 바이러스를 만드는 능력으로 전환될 수 있다.

2. 가드레일과 오픈 웨이트의 긴장

   1. 일부 위험은 관리할 수 있지만, 가드레일이 없는 오픈 웨이트 모델에서는 ‘빛의 버전’과 ‘어둠의 버전’이 같은 성능을 가질 가능성이 높다.
   2. 어두운 모델은 Hugging Face 같은 공개 생태계로 흘러갈 수 있다. 책과 인터넷도 정보 통제자에게는 위협이었지만 긍정적 가치를 확산시켰듯, 사회는 기술의 이익을 도입하면서 부작용을 관리하는 길을 반복해 왔다.

2. 시장과 자본은 위험을 어떻게 가격에 반영하는가

2.1. 주식시장의 즉각적인 반응

1. 반도체·AI 자본지출의 소폭 하락

   1. 규제 논쟁 직후 반도체와 AI capex 관련 주식은 하루 동안 소폭 조정받았지만, 시장이 대규모 개발 중단을 가격에 반영했다고 보기에는 움직임이 작았다.
   2. 소프트웨어 지수인 Worldcloud는 반도체 지수보다 상대적으로 강했고, AI 인프라의 둔화보다 실제 문제를 다루는 사이버보안 종목에 자금이 몰렸다.

2. ‘멸종 확률 10%’에도 자본주의는 계속됐다

   1. 사이버보안 주식은 약 10% 상승했지만 시장 전체의 반응은 제한적이었다. “10%의 멸종 확률 소식에 시장이 1% 움직였다”는 냉소적인 표현처럼 자본은 위험을 인식하면서도 거래를 멈추지 않았다.
   2. 2020년대는 1920년대처럼 규제 없이 모두가 부자가 되려는 시기로 보이며, AI판 1929년이 무엇일지는 아직 알 수 없다.

2.2. 20억 달러가 ‘스타터 라운드’가 된 시장

1. 과잉 자본과 위험의 도덕적 해이

   1. Shield가 200억~300억 달러 가치로 조달하고, 20억 달러가 스타터 라운드처럼 취급되는 상황은 AI에 너무 많은 돈이 몰렸음을 보여준다.
   2. 데모 직후 10억 달러를 조달할 수 있다면, 기업은 안전장치를 구축하는 대신 어두운 사용 사례를 이용해 빠르게 성장하려는 유혹을 받는다. 모든 LLM에 어두운 버전이 있다는 점이 위험을 낮추지 않는다.

2. 책임감 있는 창업자와 위험한 창업자

   1. Sam Altman, Dario Amodei, Elon Musk는 지분을 극대화하는 전형적인 이윤 극대화자라기보다 나름의 목적과 책임감을 가진 관리자라는 평가가 나왔다.
   2. 더 큰 위험은 전체 창업자의 10~15%가 타인을 조종하고 무엇이든 만들어내는 능력을 가진 소시오패스일 수 있다는 점이다. AI를 나쁘게 사용할 사람은 기술 자체보다 이런 인물들일 가능성이 높다.

3. Meta Muse: 인프라와 유통이 만든 AI 비서의 강자

3.1. Muse의 출시 배경

1. OpenClaw 이후의 P1 프로젝트

   1. 이전 방송에서 Meta가 소비자용 OpenClaw를 만들기 위해 약 20명의 엔지니어를 방에 가둘 것이라고 농담했지만, 실제로는 약 500명이 투입됐다.
   2. OpenClaw가 인기를 얻자 Mark Zuckerberg는 AI 팀의 큰 부분을 떼어내 Muse를 최우선순위로 지정했다. 팀은 주말 밤에도 버그를 실시간으로 처리하며 사실상 996 근무를 했다.

2. 사용자 경험의 즉시성

   1. Muse는 예약 생성, 이메일 발송, 콘텐츠 수집, 웹사이트 재구축처럼 사용자가 원하는 작업을 즉시 수행한다.
   2. WordPress에 로그인해 Saster.com 전체를 다시 만드는 작업도 꽤 좋은 결과를 냈고, Meta 엔지니어들은 출시 직후부터 실제 사용자의 버그 보고에 대응했다.

3.2. 무료 VM과 자체 모델의 원가 우위

1. 사용자에게 제공되는 컴퓨트

   1. Muse는 일정 한도 안에서 CPU 2개, GPU 2개, RAM 8GB, 저장공간 100GB 수준의 가상 머신을 무료로 제공한다.
   2. Replit, Lovable, Vercel 같은 서비스는 사용자별 웹사이트 실행에 약 3~4달러의 비용이 들어가며, 유료 사용자가 늘 때마다 이 원가를 줄이는 것이 핵심 과제다.

2. Meta의 수직 통합

   1. Meta는 이미 대규모 데이터센터와 GPU를 보유하고 있고, Muse는 자체 Muse LLM 위에서 실행된다. 외부 API 비용과 별도의 인프라 임대료를 동시에 부담하는 스타트업보다 빠르고 많은 자원을 배정할 수 있다.
   2. 신약 발견 같은 최첨단 연구가 아니라 예약·쇼핑·웹사이트 생성 같은 일상적 용도에서는 Muse LLM의 성능도 충분히 좋다. 모델, VM, 저장공간, 유통이 한 회사 안에 있어 거의 누구도 같은 원가 구조로 경쟁하기 어렵다.

3.3. ‘킬러 앱’이 없어도 되는가

1. 회의적인 관점

   1. 수평형 플랫폼은 전통적으로 Visicalc처럼 사용자를 끌어들이는 단일 킬러 앱이 필요하다. 식당 예약이나 딸의 카풀·발레 수업 일정 조정만으로 하루 8시간 사용하는 서비스가 될지는 불확실하다.
   2. OpenClaw와 Muse에도 아직 플랫폼을 폭발시키는 단일 사용 사례가 보이지 않는다. 아이디어 탭에서 여러 작업을 제안하고 대부분 훌륭하게 수행하지만, ‘반드시 이 서비스여야 하는’ 이유는 더 지켜봐야 한다.

2. 점진적 편의성이 만드는 슈퍼앱 가능성

   1. Instinct 사용자는 여행·식당 예약, 쇼핑, 캘린더 초대 등 작은 작업을 모두 맡기며, 단 하나의 킬러 앱 없이도 기존 도구보다 조금씩 나은 경험이 누적될 수 있다고 말한다.
   2. WeChat처럼 메신저 안에서 거래·예약·검색을 연결할 수 있고, Meta는 거래액의 일부를 받는 사업 모델을 염두에 둘 수 있다. AI가 사용자를 더 잘 이해하고 클라우드에서 일을 처리하면 기존 메신저의 불편한 챗봇 UI도 개선된다.

3.4. Meta의 장점과 취약점

1. Meta에 유리한 조건

   1. AI에 1,000억 달러 이상을 쓸 계획이라면 개인용 AI를 핵심 제품으로 만드는 것이 자연스럽다. Messenger, WhatsApp, Instagram으로 Muse를 확장하면 standalone 앱의 한계를 줄일 수 있다.
   2. LLM 회사들이 제대로 된 앱을 만들지 못한 사이 Meta는 모델·앱·컴퓨트·유통을 모두 갖춘 제품을 만들었다. AI 스타트업들이 누려온 ‘기존 기업이 앱을 만들지 않는다’는 유예기간이 끝날 수 있다.

2. 크로스플랫폼과 지속성의 문제

   1. Meta 제품은 Facebook·WhatsApp·Instagram을 중심으로 작동하며 모든 이동통신사와 서비스에 걸쳐 상호운용되기 어렵다. 18~55세 사용자가 Facebook에 하루 종일 머무는 것도 아니어서 도달 범위가 제한된다.
   2. Workplace는 Facebook 생태계 안에서 Slack보다 나은 부분이 있었고 플랫폼 내 최고 NPS를 기록했지만, Meta가 지속적으로 에너지를 투입하지 않아 사라졌다. Alex가 떠난 뒤에도 Muse에 같은 수준의 우선순위를 유지할지가 관건이다.

4. Instinct의 10억 달러 라운드와 100억 달러 가치

4.1. 투자 논리: 최고의 팀 대 무한 컴퓨트

1. 투자 매력

   1. Instinct는 5개월 전 50억 달러 미만의 pre-money에서 4억 달러, 이어 20억~25억 달러 수준을 거쳐 100억 달러 가치로 10억 달러를 조달한다.
   2. 창업자 Noah Shin은 여러 레퍼런스에서 세대에 한 번 나올 재능으로 평가받고, 팀원들은 World of Warcraft를 실시간으로 플레이하면서도 League of Legends 상위권에 드는 게임 실력을 보였다. 소비자 반응도 강해 Instagram 게시물 하나에 초대 코드를 요구하는 DM이 1,000건 이상 몰렸다.

2. Meta와의 정면 경쟁 위험

   1. Muse만 놓고 보면 Meta의 서버, GPU, LLM, 비용 우위와 정면으로 경쟁할 수 없다. Instinct가 답변까지 몇 분씩 걸리는 것은 컴퓨트 비용과 공급 제약의 신호일 수 있다.
   2. 월 5~10달러를 받으며 벤처 자본으로 사용자를 보조할 수는 있지만, 1,000만 명이 월 10달러를 내면 연간 12억 달러의 비용 부담이 생긴다. 다음 라운드를 다시 조달하지 못하면 Poolside처럼 좋은 제품을 가지고도 현금이 마를 수 있다.

4.2. Jason의 상반된 투자 판단

1. 투자하고 싶은 이유

   1. Meta는 자체 플랫폼에 갇혀 있고, Instinct는 서비스·메신저·기기 전반을 가로지르는 독립 제품이 될 수 있다.
   2. Poolside처럼 현금흐름이 없는 스타트업도 더 큰 시가총액을 가진 기업이 모델·인재·사용자 기반을 원하면 매력적인 인수 대상이 된다. OpenAI가 Instinct의 성장을 보고 사업을 인수하거나 확장할 가능성도 배제할 수 없다.

2. 투자하지 않으려는 이유

   1. 100억 달러 가치에서는 현금흐름이 아니라 400억~500억 달러 이상의 초대형 결과가 필요하다. 투자금 회수를 M&A에 100% 의존하는 베팅은 인수자·창업자·시장 상황을 예측할 수 없어 위험하다.
   2. 50억 달러 미만의 가치에서는 기대수익이 훌륭했지만, 5개월 만에 100억 달러까지 오르면서 위험 대비 수익이 빠르게 나빠졌다. 500억 달러 이상의 결과가 필요한데, 400억 달러 이상의 매출 없이 그 가격을 정당화하기 어렵다.

3. 포트폴리오 관점의 절충

   1. 30개 투자 중 세 건 정도를 높은 분산의 베팅으로 보유하는 전략은 가능하다. 500억 달러 가치 이전의 라운드는 10번 중 2번이 20배가 되고 나머지는 실패하는 구조라도 포트폴리오 차원에서 기대값이 양수가 될 수 있다.
   2. Kleiner의 5억 달러 라운드는 무모하지 않지만, 100억 달러 라운드는 차원이 다르다. IPO나 인수가 유일한 출구인 회사에는 실제로 훔칠 수 있는 자산, 즉 차별화된 사용자 기반·기술·매출이 필요하다.

4.3. ‘풀사이드’와 차세대 인수 후보

1. Poolside의 선례

   1. Poolside는 계속 운영할 자본이 부족해졌지만, Nvidia가 모델과 인재를 원하면서 자산을 매력적으로 회수할 수 있었다. 회사의 독립 IPO가 실패해도 전략적 인수가 좋은 결과를 만들 수 있다는 사례다.
   2. Instinct도 의미 있는 차별화와 사용자 기반을 만들면 OpenAI 같은 기업에 매력적인 자산이 될 수 있다. Noah Shin의 역량과 전략적으로 중요한 시장이라는 점은 500억~600억 달러까지의 상방을 상상하게 만든다.

2. M&A 의존 베팅의 한계

   1. 인수는 변덕스럽다. 우호적인 창업자나 인수자와의 관계가 있어도 경영진이 다음 날 바뀌면 거래가 사라질 수 있다.
   2. 2024년 Cursor의 40억 달러 인수가 600억 달러 가치로 이어진 사례처럼 큰 성공은 있지만, 기업이 실질 매출과 현금흐름을 만들지 못하면 초고가 인수의 가능성은 빠르게 낮아진다.

5. Bending Spoons의 Miro 인수: SaaS의 가치 청산

5.1. 175억 달러에서 13.5억 달러로

1. 구형 SaaS의 현실

   1. 협업 화이트보드 기업 Miro는 2021년 175억 달러 가치로 조달했지만, Bending Spoons에 약 13.5억 달러, 즉 당시 가치의 약 2.7배 매출 수준으로 매각됐다.
   2. Excel과 창업자·직원은 돈을 벌었지만 후기 투자자는 사실상 1배 회수에 그쳤다. 마지막 라운드의 175억 달러 가치가 실제 시장 규모와 성장에 비해 완전히 낡은 가격이었기 때문에 매각은 불가피한 정리였다.

2. 오퍼가 하나뿐인 거래

   1. Miro와 Airtable처럼 양호한 자산도 2배대 가격에 오퍼가 하나만 나왔다. Salesforce, 사모펀드, 다른 전략적 매수자가 경쟁했다면 가격은 더 높아졌을 것이므로, 단일 오퍼는 시장의 냉정한 신호다.
   2. Bending Spoons는 매년 약 1,000개 후보를 검토해 5~10개를 사들이며, 무한한 대차대조표를 가진 기업이 아니다. Miro가 ‘마지막 의자 한두 개’ 중 하나를 차지했으며, 더 약한 유니콘은 매수 대상이 되지 않을 수 있다.

5.2. Bending Spoons식 운영 모델

1. 창업자의 과거보다 현재의 현금흐름

   1. Bending Spoons는 창업자라는 직함이나 10년 전의 성취보다 지금 무엇을 할 수 있는지를 본다. 3배 매출 가치의 회사를 사서 12배 매출로 거래되는 자기 회사의 주식으로 바꾸고, 강도 높은 운영으로 차이를 만든다.
   2. 비용을 과감히 줄이고 가격을 올리며 상당한 이탈을 감수해 현금흐름을 만드는 것이 핵심이다. 여러 VC가 나눠 가진 이사회보다 단일 소유자가 이런 결정을 내리기 쉽다.

2. 고객과 투자자의 대가

   1. 인수된 회사는 가격을 40% 이상 올릴 수 있고, 사용량 그래프에는 심각한 고객 이탈이 나타난다. Bending Spoons는 모든 고객을 지키기보다 가격을 두 배로 올려도 떠나지 않는 핵심 고객을 남기는 전략을 쓴다.
   2. 가격을 세 배로 올리고 30~40%가 이탈해도 남은 고객의 지불 의향이 높으면 경제성이 좋아질 수 있다. VC 업계가 판매·마케팅에 과잉 투자해 설득해야만 사는 고객을 모았다는 비판도 뒤따른다.

5.3. SaaS의 ‘투항 시대’

1. 성장률이 낮은 기업의 처지

   1. Miro는 약 6억 달러 ARR, 한 자릿수 후반 성장, 긍정적 현금흐름을 가진 나쁜 회사가 아니지만, 그보다 약한 기업은 1~2개의 남은 인수 자리를 차지하기 어렵다.
   2. 많은 기업은 0~5% 성장으로 내려가며 인수되지 않을 수 있다. 시장은 ‘좋은 회사’와 ‘살 가치가 있는 회사’를 더 엄격히 구분하기 시작했다.

2. 자본의 선두와 후미

   1. AI 프론티어에 있는 회사는 2억, 10억, 500억 달러가 빠르게 가능하지만, 이전 시대의 SaaS 회사는 높은 밸류에이션을 유지하지 못하고 청산된다.
   2. 벤처는 사모펀드처럼 안전한 자산을 사는 게임이 아니다. 새로운 열차의 선두에 타면 모든 것이 가능하지만, 후미에 타면 회사가 괜찮아도 삶이 어려워진다.

6. Mistral의 30억 유로 조달과 유럽 AI 주권

6.1. 프론티어 경쟁자가 아니라 유럽의 전략 자산

1. 유럽 최대 기술 조달 라운드

   1. Mistral은 30억 유로를 조달하고 연말까지 10억 유로 매출을 목표로 한다. 유럽 AI 산업이 미국 기업과 경쟁할 말이 있다는 상징적 신호로 받아들여졌다.
   2. 그러나 Mistral이 OpenAI·Anthropic과 같은 프론티어 모델 경쟁자라는 의미는 아니다. 핵심은 유럽이 AI 주권을 위해 최소 하나의 자체 경쟁자를 유지하려 한다는 점이다.

2. Airbus식 산업 정책

   1. 미국 기업의 정치적 결정으로 유럽 국가가 특정 모델과 서비스에 접근하지 못할 수 있다면, 유럽은 핵심 기술을 미국에 의존할 수 없다고 판단한다.
   2. Airbus가 미국에 비행기를 의존하면 유럽이 종속국이 된다고 보고 프랑스·독일이 10~15년 동안 산업을 키운 것처럼, Mistral도 단기 경제성보다 전략적 자립을 위해 지원받는다.

6.2. 삼성·ASML 자본의 의미

1. 전략적 투자와 시장 가치의 분리

   1. 라운드는 삼성 주도로 진행됐고, 직전 라운드는 ASML이 주도했다. 삼성은 연간 약 2,000억 달러의 잉여현금흐름을 만들어내는 기업이어서 30억 유로 투자는 감당 가능한 전략적 지출이다.
   2. 돈 자체는 진짜지만, 금융 투자자가 시장 비교 기업과 현금흐름을 기준으로 책정한 객관적 가치와 동일하다고 보기는 어렵다. 평가는 시장 가격이면서 국가 전략의 가격이다.

2. 유럽의 장기적 상방

   1. 미국의 AI 승자가 1조 달러라면 미국 GDP의 70~80% 규모인 유럽에서 300억~400억 달러급 승자가 나오는 것은 불가능한 종착점이 아니다.
   2. Airbus가 Boeing을 추월하는 데 30년이 걸렸듯, Mistral도 단기적으로 OpenAI만큼 커지지는 않겠지만 유럽의 AI 승자로서 살아남을 가능성이 높다. 현재의 지정학적 긴장은 Mistral 주주에게 수십억 달러의 가치를 제공한다.

7. SBF, Automattic·WordPress, Adobe·Canva가 보여주는 전환기의 규칙

7.1. Sam Bankman-Fried 사건의 형벌과 절차

1. 대법원 상고 가능성

   1. SBF는 장기간의 실형과 110억 달러 상환 명령을 받고 있지만, 변호인은 파산 법원 기준으로 피해자들이 이자까지 포함해 전액 변제됐고 자산 이전이 약관상 허용됐다는 논리를 제기한다.
   2. 대법원이 사건을 심리하는 것과 석방되는 것은 전혀 다르며, 심리 여부 자체도 보장되지 않는다. 자금을 잘 투자해 돌려줬다는 사실은 위험한 행위를 정당화하지 않지만, 실제 위반 행위와 형량의 비례성은 구분해서 봐야 한다.

2. 화이트칼라 범죄의 일관성

   1. 타인의 돈을 가져가 주식이 오르면 원금을 돌려주겠다는 식의 도박은 결과가 좋았어도 범죄 판단에서 면제되지 않는다. 다음 사람이 같은 행동을 반복하지 못하도록 처벌해야 한다.
   2. 30년형이 과도한지는 별도의 문제이며, 핵심 상고 쟁점도 양형보다 사실관계와 법 적용에 있을 가능성이 있다. AI가 인류를 위협한다는 담론과 비교해 형량이 과해 보일 수 있어도, 두 사건의 기준을 섞어서는 안 된다.

7.2. Automattic과 WordPress: 창업자 권력과 쇠퇴하는 해자

1. Matt Mullenweg의 이사회 복귀

   1. WordPress를 운영하는 Automattic의 창업자 겸 CEO Matt Mullenweg는 이사회에 의해 밀려났다가 정관상 권한을 이용해 이사회를 다시 구성하고 CEO로 복귀했다.
   2. WP Engine이 WordPress 사이트를 호스팅하며 수익을 올리는 상황에서 Automattic이 그 매출 일부를 가져오려 하며 갈등이 커졌다. 회사의 지렛대를 사용해 오픈소스 생태계의 다른 사업자를 압박하는 방식은 오픈소스 정신과 충돌한다.

2. ‘작아지는 섬’의 통제권

   1. Automattic과 WordPress는 Lovable, Replit 등 AI 기반 도구가 웹사이트 제작을 대체하는 동안 핵심 제품을 미래로 이끄는 대신 이사회와 CEO의 권력 싸움에 매몰됐다.
   2. 창업자가 이사회를 해임하고 자기 자신·반려견·복화술 인형을 새 이사로 임명할 수 있는 식의 승리는 쇠퇴하는 제국을 계속 통제하는 ‘독배’일 뿐이다. 진짜 기업의 의무는 AI 시대에 WordPress를 다시 유의미하게 만드는 것이다.

7.3. 벤처 자본, 오픈소스, 운영의 긴장

1. 벤처를 받지 않았다면 가능한 경로

   1. WordPress가 큰 벤처 자본을 받지 않았다면, 상업 부문이 연 5억 달러 매출과 2억 달러 현금을 만들면서도 80명 정도의 인력으로 운영되는 Basecamp·37signals식 회사가 될 수 있었다.
   2. 창업자가 100% 소유하고 생활형 사업을 원한다면 느린 성장을 선택할 자유가 있다. 벤처의 성장 프로그램을 원하지 않으면서 벤처 자본을 받는 것은 문제다.

2. 오픈소스 사업자는 더 냉정해야 한다

   1. 오픈소스 프로젝트의 선한 관리와 상업 회사의 매출 극대화 사이에는 구조적 긴장이 있다. WP Engine이나 WooCommerce가 생태계의 수익을 가져가도록 두면 회사가 그 수익을 소유하지 못한다.
   2. 오픈소스 생태계에서 지나치게 관대하면 다른 사업자가 과실을 가져간다. VC 지원 기업이라면 커뮤니티만 지키는 것을 넘어 호스팅·상거래 같은 핵심 가치 사슬을 확보할 만큼 냉정해야 한다.

7.4. Adobe와 Canva: 성장주에서 가치주로 넘어가는 고통

1. Adobe의 사실상 현상 유지

   1. Adobe는 약 1,050억 달러 시가총액, 250억 달러 매출 규모로 사라지지 않을 회사지만, 내부 후보 중 덜 나쁜 사람을 CEO로 고르는 정도의 변화는 AI 전략 전환이라기보다 현상 유지에 가깝다.
   2. 무료 사용자를 늘렸다는 AI 지표는 올랐지만 전체 ARR은 하락했다. “사람들이 돈을 내지 않고 성장하지 않으면 이기고 있는 것이 아니다”라는 성장의 규칙이 적용된다.

2. Canva의 20% 성장과 가치 평가 전환

   1. Canva는 과거 30%에서 현재 약 20%로 성장률이 둔화했지만 여전히 성장 중이다. 문제는 성장률 자체보다 성장주가 가치주로 재평가되는 과정이다.
   2. 30% 이상 성장하면 매출 배수를 받을 수 있지만, 30% 아래로 내려가면 EBITDA와 현금흐름 배수로 평가된다. 매출 6~7배 기업이 현금흐름 20배 기업으로 전환하려면 현금흐름이 30% 수준으로 커져야 하므로 3~4년 동안 주가가 정체될 수 있다.

3. Adobe와 Canva 중 선택할 때의 기준

   1. Adobe는 8배 현금흐름에 연 13% 성장하는 안정적이고 유동적인 자산이 될 수 있고, Canva는 20% 성장하지만 유동성 창구를 통과할지 불확실하다.
   2. Stripe처럼 막대한 현금흐름을 만들거나 다시 성장률을 높이면 성장주 평가를 유지할 수 있다. 그렇지 않으면 사기업이든 상장사든 성장주에서 가치주로 넘어가는 고통을 겪는다.

주요 발언 모음

“통제할 수 없는 것을 만들고 있다면, 어쩌면 그 일을 멈춰야 한다.”

“문제를 해결할 수 있다고 생각하면 계속 만들고, 해결할 수 없다고 생각하면 멈춰야 한다. 정부가 나를 막아주기를 바라며 손을 비비고 있을 일이 아니다.”

“긍정적인 AI 사용 사례 대부분에는 대응하는 어두운 버전이 있다.”

“시장은 인류 멸종 확률 10%라는 소식에 1% 움직였고, 자본주의는 위험을 받아들인 뒤 괜찮다고 말했다.”

“Meta는 서버와 잉여 컴퓨트, 자체 LLM을 모두 갖고 있어 누구도 같은 인프라로 경쟁하기 어렵다.”

“100억 달러 가치의 Instinct는 기대수익이 아니라 초대형 인수나 IPO를 전제로 한 큰 베팅이다.”

“Mistral은 미국 프론티어 랩과 같은 규모의 경쟁자가 아니라 유럽 AI 주권을 위한 승자다.”

“성장하지 않으면 이기는 것이 아니고, 사람들이 돈을 내지 않으면 이기는 것이 아니다.”

핵심 데이터 & 수치

• 10%: 안전 담당자·관계자들이 언급한 5~10년 내 인류 멸종 가능성. 회사 CEO가 실제로 이를 믿는다면 제품 책임과 정부 조사 대상이 된다.
• 1%: 멸종 확률 10% 보도 직후 시장의 대략적인 움직임을 풍자한 수치다.
• 10~15%: AI를 악의적으로 사용할 가능성이 큰 소시오패스형 창업자의 비중으로 제시된 경험적 추정이다.
• 20억 달러: AI 시장에서 더 이상 대형 최종 라운드가 아니라 ‘스타터 라운드’처럼 보일 정도로 자본이 과잉 공급된다는 상징이다.
• 약 500명: OpenClaw 이후 Meta가 Muse를 만드는 데 동원한 엔지니어 규모다.
• CPU 2개·GPU 2개·RAM 8GB·저장공간 100GB: Muse가 일정 한도에서 제공하는 무료 VM의 대략적인 구성이다.
• 3~4달러/사용자: Replit·Lovable·Vercel 같은 서비스에서 사이트를 실행할 때 발생하는 사용자당 원가로 언급됐다.
• 10억 달러/년: Instinct가 1,000만 사용자를 월 10달러로 운영할 때 감당해야 하는 연간 비용 규모다.
• 10억 달러 조달·100억 달러 가치: Instinct의 현재 라운드. 5개월 전 50억 달러 미만, 이후 4억 달러와 20억~25억 달러 수준을 빠르게 거쳤다.
• 1,000건 이상: Instinct 관련 Instagram 게시물 하나에 몰린 초대 코드 요청 DM 수다.
• 175억 달러 → 약 13.5억 달러: Miro의 2021년 가치와 Bending Spoons 매각 가격이다.
• 약 2.7배 매출: Miro 매각 가격의 매출 배수로, 과거 밸류에이션과 현재 현금흐름 사이의 단절을 보여준다.
• 약 1,000개 중 5~10개: Bending Spoons가 진지하게 검토한 인수 후보 중 실제로 집행하는 거래의 비율이다.
• 30억 유로: Mistral의 유럽 최대 기술 조달 라운드로, 연말 10억 유로 매출 목표와 AI 주권 전략을 뒷받침한다.
• 25% 이상 성장 / 30% 기준: 빠른 성장 기업은 매출 배수를 받고, 30% 아래로 내려가면 EBITDA·현금흐름 평가를 받는다는 시장 규칙이다.
• 약 1,050억 달러·250억 달러: Adobe의 시가총액과 매출 규모로, 성장하지 않아도 현금흐름으로 생존하지만 상대적 중요성이 낮아질 수 있다.

결론 및 시사점

1. AI 안전 논쟁에서 가장 중요한 질문은 ‘AI가 위험한가’가 아니라 ‘그 위험을 통제할 수 없는 상태에서 누가 개발을 계속할 권한을 갖는가’다. 통제 상실을 진지하게 믿는 CEO라면 규제기관을 기다리기 전에 개발 범위와 제품 책임을 재설계해야 한다.
2. 규제가 발표돼도 시장이 움직이지 않는 이유는 위험이 이미 오픈 웨이트·사이버 생태계로 퍼졌고, 자본이 위험을 수익 기회로 바꾸고 있기 때문이다. 기술을 멈추는 것보다 악용 비용을 높이고 가드레일을 운영하는 체계가 현실적인 방향이다.
3. Meta Muse의 경쟁력은 모델 품질만이 아니라 GPU·VM·스토리지·자체 모델·소비자 유통을 묶은 수직 통합에 있다. AI 스타트업은 단순히 더 좋은 모델이 아니라 독립성, 크로스플랫폼 접근성, 특정 사용자군의 깊은 습관을 방어해야 한다.
4. Instinct는 팀과 초기 제품력이 뛰어나도 100억 달러 가치에서 충분한 매출과 현금흐름을 만들지 못하면 인수자 한 명에 의존하는 자산이 된다. 투자자는 뛰어난 팀에 감탄하는 것과 가격이 정당한지를 분리해야 한다.
5. Miro 사례는 성장률이 멈춘 SaaS의 과거 밸류에이션이 영구적인 권리가 아님을 보여준다. 강한 단일 소유자가 가격·비용·고객군을 재설계할 수 있지만, 고객과 직원은 구조조정과 가격 인상을 직접 부담한다.
6. Mistral의 조달은 민간 시장의 효율성만으로 설명되지 않는다. 핵심 AI가 외교·수출통제·국가안보와 연결될수록 유럽은 비효율을 감수하고도 자체 모델 공급자를 필요로 한다.
7. AI 시대의 승패는 새 기술을 보유하는 것만으로 결정되지 않는다. 성장률이 둔화하는 회사는 가치주로 재평가되고, 오래된 오픈소스·SaaS 기업은 생태계의 통제권과 현금흐름을 되찾지 못하면 경쟁에서 밀린다.

핵심 요약 (20줄)

1. 프론티어 AI를 늦추자는 요구는 통제 상실·사이버 공격·실업이라는 서로 다른 위험을 한데 묶는다.

2. 실제로 10%의 멸종 가능성을 믿는다면 CEO가 규제를 기다리지 말고 개발을 중단하거나 문제를 해결해야 한다.

3. AI가 통제 불가능하다고 믿으면서도 계속 개발하는 태도는 제품 책임과 정부 감독의 모순을 만든다.

4. 재귀적 자기개선은 세 가지 위험 중 유일하게 아직 해답이 없는 실질적 통제 문제로 남는다.

5. 초인적 코딩·신약 설계·바이러스 치료 능력에는 각각 해킹·독극물·병원체 제작이라는 어두운 버전이 따른다.

6. 오픈 웨이트 모델로 어두운 버전이 확산될 수 있어 가드레일과 공개 생태계의 긴장이 커진다.

7. 시장은 멸종 확률 10% 소식에도 반도체를 조금 조정하고 사이버보안 주식을 올리는 데 그쳤다.

8. AI 자본 과잉은 20억 달러를 스타터 라운드로 만들고 안전보다 빠른 성장의 유혹을 키운다.

9. Meta는 OpenClaw 이후 약 500명의 엔지니어를 Muse에 투입해 소비자용 AI 비서를 최우선 제품으로 만들었다.

10. Muse는 자체 LLM과 대규모 GPU·VM·스토리지를 결합해 독립 AI 비서보다 압도적인 원가 우위를 가진다.

11. Muse와 Instinct는 아직 플랫폼을 폭발시키는 단일 킬러 앱보다 여러 작업의 점진적 편의성을 제공한다.

12. Meta의 약점은 자체 플랫폼에 묶인 도달 범위와 Workplace처럼 장기 우선순위가 흔들릴 가능성이다.

13. Instinct는 뛰어난 창업자 Noah Shin과 강한 소비자 반응을 바탕으로 10억 달러를 100억 달러 가치에서 조달한다.

14. Instinct의 높은 지연시간과 컴퓨트 비용은 1,000만 사용자에게 연간 12억 달러가 필요한 구조적 부담을 드러낸다.

15. Instinct의 현재 가격은 현금흐름보다 대형 인수나 500억 달러급 출구를 전제로 한 위험한 베팅이다.

16. Miro는 175억 달러 가치에서 Bending Spoons에 약 13.5억 달러로 매각되며 구형 SaaS의 청산을 보여줬다.

17. Bending Spoons는 비용 절감·가격 인상·고객 이탈을 감수해 인수 기업을 현금흐름 기계로 바꾼다.

18. Mistral의 30억 유로 조달은 미국 프론티어 랩과의 동등한 경쟁보다 유럽 AI 주권을 위한 국가 전략이다.

19. Automattic·Adobe·Canva는 창업자 통제, 오픈소스 수익화, 성장주에서 가치주로의 전환 문제를 동시에 드러낸다.

20. AI 벤처 시장에서는 선두의 기술·자본·유통을 확보한 기업과 뒤처진 기업 사이의 가치 격차가 계속 벌어진다.