하나의 모델만 이긴다는 베팅이 틀린 이유와 OpenRouter의 다음 단계

URL: https://www.youtube.com/watch?v=dCX4PE2HxMs
날짜: 2026-09-26
채널: latentspacepod
Video ID: dCX4PE2HxMs

---

📌 핵심 질문 / 이 대화가 다루는 핵심 논점

==AI의 가치가 하나의 프런티어 모델과 그 모델을 가진 기업에 모두 집중될 것이라는 ‘One Model Wins’ 가설은, 모델을 실제 제품과 생태계로 바꾸는 유통·라우팅·보안·개발자 경험의 가치를 과소평가한다.==

• LLM(Large Language Model)은 검색엔진처럼 단일 사용자 인터페이스가 아니라, 그 위에 새로운 제품과 회사를 만들 수 있는 생산 인프라다.
• 여러 모델이 서로 다른 능력·속도·가격·정책을 제공하므로 개발자에게는 중립적인 발견·비교·라우팅 계층이 필요하다.
• 모델 연구팀은 체크포인트를 만드는 데 강하지만, 키 관리·엔드포인트·버전 관리·초기 사용자 확보·피드백 루프를 스스로 구축하는 데는 약할 수 있다.
• 토큰(token)이 새로운 인터넷 가치 단위로 커질수록 신용카드 도난뿐 아니라 계정 탈취·무단 재판매·런어웨이 에이전트(runaway agent) 같은 사기가 늘어나며, Stripe와 OpenRouter의 결합은 결제 제휴를 넘어 토큰 경제의 신뢰·안전 인프라가 된다.

OpenRouter는 단순한 API 래퍼나 얇은 프록시가 아니라, 모델 공급자를 연결하고 사용자가 모델을 발견하며, 실제 애플리케이션이 모델을 교체·조합·운영할 수 있게 하는 마켓플레이스이자 제어면(control plane)으로 설명된다. OpenRouter의 방향은 특정 모델의 승리를 예측하는 대신 여러 모델이 경쟁하고 서로의 결과를 보완하는 세계를 전제로 한다.

1. 토큰 경제와 OpenRouter의 제품 관점

토큰의 지속적인 흐름은 사람이 필요할 때 한 번 소비하는 상품과 달리, 에이전트와 애플리케이션이 계속 선택하고 교체하는 새로운 구독형 소비를 만든다.

1.1. ‘퍼블리시-서브스크라이브’로 보는 제품

1. 제품은 데이터 발행과 구독의 교차점이다

   1. 마켓플레이스의 기본 구조: 공급자는 특정 상품을 SKU로 발행하고, 소비자는 해당 SKU를 구독해 필요할 때 소비한다. 이 구조는 데이터를 발행하는 쪽과 소비하는 쪽을 연결하는 pub/sub(publication-subscription)로 볼 수 있다.
   2. 사람의 소비 방식: 사람은 구매 순간에만 집중하는 이산적·임시적 소비를 한다. 관심을 지속적으로 유지하지 않으므로 이 방식은 크게 확장하기 어렵다.
   3. 에이전트의 소비 방식: 에이전트와 추론(inference) 소비자는 계속 요청을 만들고, 사용 중인 SKU와 모델을 수시로 바꾼다. 모델 선택은 한 번의 구매가 아니라 지속적인 구독·라우팅 문제가 된다.

2. OpenRouter는 API와 마켓플레이스의 혼합형이다

   1. 모델 SKU: OpenRouter는 모델 슬러그(model slug), 자동 라우터(auto router), 여러 제품 SKU를 만들어 사용자가 모델을 발견하고 구독할 수 있게 한다.
   2. 지속적인 가치 파생: 애플리케이션은 모델을 고정해 한 번 호출하는 것이 아니라, 가격·속도·능력·실패 양상에 따라 다른 모델을 선택하며 지속적으로 결정을 만든다.
   3. 모델 교체 수요: OpenRouter가 시작했을 때는 모델을 바꿔 쓰는 수요와 네이티브 SDK(native SDK)를 쓰지 않으려는 수요가 지금처럼 합의된 사실이 아니었다. 그러나 거절(refusal), 품질 차이, 비용 차이가 누적되며 교체 가능한 중립 계층의 필요성이 드러났다.

1.2. 가치가 커질수록 토큰 사기도 커진다

1. 토큰은 인터넷을 흐르는 가치 단위다

   1. 온라인 결제와의 유사성: 온라인 결제는 1980~90년대에 시작해 다음 10년 동안 1조 달러를 넘는 규모로 성장했고, 그 과정에서 온라인 사기를 처리할 새로운 결제 솔루션이 필요해졌다.
   2. 토큰 경제의 예상 규모: 현재 토큰 흐름은 온라인 결제가 성장하던 초기 단계와 비슷하며, 향후 5년 안에 약 5조 달러 규모의 토큰 경제가 형성될 것으로 전망된다.
   3. 장기 전망: 향후 10년 토큰 흐름이 10조 달러에 이르지 않는다면 오히려 놀라운 일이라는 전망이 제시된다.
   4. 공격 표면의 확대: 전송되는 페이로드가 더 가치 있어질수록 악의적인 행위자는 그 가치에 접근하려 한다. 모델 호출량과 토큰 가격이 커질수록 신뢰·안전(trust and safety)은 선택 기능이 아니라 핵심 제품이 된다.

2. 초기부터 사기 신호가 나타났다

   1. 차단량의 급증: 최근 한 달에 차단한 달러 거래량은 바로 전 달의 10배였다.
   2. 사기 유형의 다변화: 도난 신용카드 외에 약관을 어긴 트래픽 재판매, 해킹된 계정, 회사 전체가 침해됐지만 알아차리지 못한 경우, 추론을 몰래 재판매하는 계정, 해킹은 아니지만 통제되지 않은 에이전트가 비용을 폭발시키는 경우가 모두 나타난다.
   3. 운영 모델: OpenRouter의 Trust & Safety 팀은 이런 유형을 탐지·차단하고, 관련 모델을 만들며 Stripe와 긴밀하게 협력한다.

2. OpenRouter가 태어난 배경: Llama, Alpaca, 그리고 개발자 계층

OpenRouter의 초기 확신은 오픈 모델이 단순한 연구 산출물이 아니라, 작은 팀도 데이터와 모델을 서비스로 바꾸게 하는 새로운 사업 모델이라는 관찰에서 나왔다.

2.1. Alpaca가 보여준 ‘데이터의 모델화’

1. 2022년 말의 시장

   1. 소수의 선택지: 2022년 말에는 OpenAI와 Cohere가 사실상 주요 선택지였고, 초기 오픈 웨이트(open-weight) 모델이 조금씩 등장하던 정도였다.
   2. Llama의 등장: 2023년 1월 Llama가 나왔을 때 GPT-3보다 한두 개의 벤치마크에서 앞섰지만, 바로 대화할 수 있는 매력적인 모델은 아니었다. 몇 가지 수정과 RLHF(Reinforcement Learning from Human Feedback)가 필요해 보였다.

2. Alpaca의 충격

   1. 낮은 학습 비용: Stanford 팀은 합성 데이터(synthetic data)를 만들고 Llama를 파인튜닝해 약 6백 달러로 Alpaca를 만들었다. 모델 규모는 대화 중 70억 또는 130억 파라미터로 언급됐으며, 핵심은 정확한 숫자보다 놀라울 정도로 낮은 비용이었다.
   2. 품질의 체감: 비행기 안에서 사용했을 때 여러 상황에서 ChatGPT와 Alpaca의 결과를 구별하기 어려웠다.
   3. 데이터의 압축·재판매: 가치 있는 데이터를 모델로 압축해 자신의 제품에 맞는 서비스로 만들고 판매할 수 있게 됐다. 이는 데이터 소유자가 API나 데이터셋만 파는 것이 아니라 모델 자체를 새로운 사업 단위로 판매하는 방식이다.
   4. 프런티어 연구의 생태계화: 한 회사가 만든 성공 사례를 작은 개발자 팀이 자기 방식으로 복제·변형할 수 있다. 단일 회사가 내리는 결정과 더 넓은 생태계가 만들 수 있는 변형 사이에는 큰 간극이 있으므로, 변형된 모델과 서비스를 발견할 마켓플레이스가 필요하다.

2.2. 기존 허브가 채우지 못한 빈자리

1. Hugging Face와의 차이

   1. Hugging Face는 가장 가까운 선례였지만, 당시에는 오픈 웨이트 중심이었고 폐쇄형 모델이 없었다.
   2. 모델을 실제로 사용하기 위한 엔드포인트와, 누가 왜 어떤 모델을 사용하는지 보여주는 사용 데이터도 부족했다.
   3. LLM의 본거지라면 모델 목록뿐 아니라 사용량, 사용자, 선택 이유, 실제 개발자 경험을 한곳에서 볼 수 있어야 한다.

2. OpenRouter가 제공한 계층

   1. 연구팀이 만든 체크포인트를 개발자가 곧바로 호출할 수 있는 API로 감싼다.
   2. 모델의 가격·속도·능력·사용 사례를 비교하고, 애플리케이션이 공급자와 모델을 교체할 수 있게 한다.
   3. 모델을 사람과 에이전트가 함께 탐색할 수 있도록 예시·그래프·시각 자료·코드 중심의 발견 경험을 제공한다.

3. Discord에서 발견한 폐쇄형 모델의 한계

Anjney Midha의 Discord 경험은 기업이 모델의 안전 정책과 가중치를 통제하지 못할 때 어떤 문제가 생기는지 보여줬고, OpenRouter의 시장 필요성을 확인해 줬다.

3.1. 2억 5천만 명 규모에서 발생한 거절 문제

1. Clyde와 콘텐츠 조정

   1. 두 가지 초기 활용처: Discord는 OpenAI의 GPT-3.5를 내부 배포하며 Clyde라는 Discord 내부 친구형 도우미와 콘텐츠 조정(content moderation)을 실험했다.
   2. 기업 규모: Discord는 월간 활성 사용자(MAU)가 2억 5천만 명이었고, 글로벌 콘텐츠 조정팀에는 5,000명 이상의 외주 인력이 있었다.
   3. 서버별 규범: 각 Discord 서버는 작은 배포 환경처럼 작동한다. 공개 커뮤니티마다 자체 규칙이 있고, 인간 조정자는 매일 각 메시지를 읽으며 그 규범을 적용했다.

2. 범용 안전 정책의 부정확성

   1. 프롬프트 거절: 콘텐츠 조정 업무에 모델을 투입하자 초기 사후학습(post-training)의 강한 가드레일이 프롬프트 자체를 거부했다.
   2. Harry Potter 팬 커뮤니티 사례: 특정 서버의 규범을 모델에게 문맥으로 주입해 맞춤 조정하려 해도, 상표 콘텐츠를 언급하면 거부하라는 OpenAI 정책 때문에 Harry Potter 팬 커뮤니티의 정상적인 메시지까지 처리하지 못했다.
   3. 탐정 소설 사례: 탐정 소설의 한 장에서 누군가 살해되는 폭력적 장면을 쓴다는 이유로, 모델이 그 장면만 도와달라는 요청 전체를 거부할 수 있었다.
   4. 필요한 통제: 2억 5천만 명에게 배포하는 모델이 조직이 정의한 규범대로 행동해야 하는데, 공급자의 가드레일이 이를 막으면 재앙적이다. 가중치 또는 충분한 조정 권한을 요구했지만 OpenAI는 폐쇄형 회사라며 제공할 수 없다고 답했다.

3.2. ‘다른 모델로 전환’해야 한다는 사용자 요구

1. 기업 관점의 제어면

   1. 기업은 특정 모델의 내장 안전 정책에 종속되지 않고, 능력·정책·비용·정확도를 기준으로 모델을 선택할 통제면이 필요하다.
   2. Llama가 등장하고 약 6개월 뒤 Mistral이 등장하면서, 오픈 모델을 배포·관리하기 위한 계층이 현실적인 선택지가 됐다.

2. 사용자 관점의 전환

   1. 주력 모델이 거절하거나 나쁜 결과를 내면 사용자는 문제를 LLM의 본질로 받아들이지 않고 다른 선택지가 있어야 한다고 느낀다.
   2. 이 긴장이 여러 모델을 비교하고 전환할 수 있는 마켓플레이스의 직접적인 동력이 됐다.

4. ‘Big Model Wins’ 반론과 분산 가능한 가치

초기 투자자들이 가장 많이 제기한 반론은 스케일링 법칙(scaling laws)과 네트워크 효과가 결국 하나의 모델 회사에 집중된다는 것이었다.

4.1. Google식 독점론

1. 초기 투자자들의 예측

   1. 모델 성능은 컴퓨트(compute)와 스케일에 따라 계속 좋아지고, 자연적 네트워크 효과가 가장 큰 회사에 누적된다.
   2. Google이 검색엔진 경쟁에서 압도적으로 이겼듯이, 한 회사가 LLM 시장을 독점하고 OpenRouter는 마지막에 남은 부스러기를 두고 싸우게 될 것이라는 논리였다.
   3. 이 경우 한 기업이 경제 전체의 의존점이 되므로 Google 수준의 독점도 오히려 작은 결과일 수 있다. LLM은 검색 결과를 보여주는 사용자 인터페이스일 뿐 아니라, 그 위에 완전히 새로운 사업을 세우는 생산 수단이기 때문이다.

2. 검색과 LLM의 차이

   1. 검색엔진은 비교적 단일 인터페이스와 결과 페이지 중심의 경쟁이었다.
   2. LLM은 API·에이전트·애플리케이션·코딩 도구 등 여러 제품의 기반이 된다. 좋은 모델을 만드는 경쟁과 그것을 유통·운영·조합하는 경쟁이 분리될 수 있다.
   3. 모델을 만드는 비용과 방식은 더 분산 가능하고, 서로 다른 연구팀이 서로 다른 양식(modality)·능력·가격의 모델을 만들 수 있다.

4.2. Anjney가 본 스케일링 법칙의 의미

1. 스케일링은 OpenRouter의 적이 아니라 전제다

   1. Anjney에게 스케일링 법칙은 하나의 독점 회사를 증명하는 결함이 아니라 OpenRouter의 가치를 키우는 특징이었다.
   2. OpenAI와 Anthropic이라는 두 개의 컴퓨트 스케일링 사례만으로도 여러 모델 회사가 생길 근거가 충분했다.
   3. 그는 Mistral, Black Forest Labs(BFL), Luma 등 여러 모델 팀에 투자했으며, 서로 다른 연구팀의 혁신이 실제로 동시에 일어나는 것을 봤다.

2. 연구팀과 개발자 제품의 단절

   1. 연구팀은 새로운 능력을 발견하는 데 강하지만, 학습이 끝나 체크포인트가 나온 뒤 개발자가 무엇을 해야 하는지에 대한 개발자적 사고는 부족할 수 있다.
   2. 초기 Anthropic·BFL·Mistral 팀에는 ‘체크포인트가 완성되면 API로 내놓고 끝’이라는 비슷한 기본 접근이 있었다.
   3. Claude의 첫 체크포인트는 외부 공개보다 약 1년 앞서 내부에서 완성됐지만, ChatGPT가 나온 뒤에야 외부 Claude 공개를 결정했다.
   4. 첫 Claude 블로그 글의 API 예시는 Discord 봇, Anjney의 아내 Vivian이 운영한 Junior Learning, 지인 팀과의 Notion 같은 사례였다. 이는 개발자 유통 계획이 마지막 순간까지 거의 없었다는 뜻이다.

3. 유통 인프라의 비대칭

   1. Google DeepMind는 새 체크포인트를 학습한 뒤 Google Docs부터 Android의 수십억 기기까지 하룻밤 사이에 배포할 수 있다.
   2. 모델 연구소가 이처럼 자체 유통망을 갖지 못하면 새 모델을 개발자에게 알리고 사용시키는 일이 막대한 부담이 된다.
   3. Anthropic은 첫 1,000만 달러 매출까지 12개월 이상 걸렸지만, OpenRouter는 BFL과 대화하며 “출시 당일 100만 개발자를 보낼 수 있다”고 제안했다. 현재 OpenRouter에는 중복 계정 정리 전 기준 1,000만 명이 넘는 개발자가 있는 것으로 언급된다.
   4. 모델 출시 첫날 1,000명의 개발자가 실제 추론을 실행하고 피드백을 주는 것만으로도, 연구소가 자체적으로 도달할 수 있는 규모를 넘어선다.

4.3. 중립적 마케팅과 ‘얇은 래퍼’ 오해

1. 모델은 어두운 방에 놓인 블랙박스다

   1. 모델은 웹페이지에서 기능 목록만 나열할 수 있는 전통적인 제품이 아니다. 오픈 웨이트 모델조차 사용자에게는 블랙박스다.
   2. 사용자는 어두운 방에 들어가 테이블 위 물건을 더듬으며 어떤 모델을 회사에 넣을지 알아내야 한다.
   3. 중립적인 제3자는 방의 구석구석에 빛을 비추듯 모델의 장점, 가격, 속도, 사용법을 드러내야 한다.

2. 마켓플레이스 운영의 전략적 가치

   1. 키 관리·프로비저닝(provisioning)·엔드포인트 관리·버전 통제·공급자별 장애 처리·라우팅은 단순히 API 세 개를 이어 붙이는 일이 아니다.
   2. 실제 프로덕션에서 이 기능을 안정적으로 운영하려면 엔지니어링과 커뮤니티 설계가 필요하며, 이는 저절로 생기지 않는다.
   3. 모델 연구팀이 스스로 하는 자기 홍보와 중립적인 플랫폼이 여러 모델을 함께 비교해 제공하는 마케팅은 사용자에게 다르게 받아들여진다.

3. ‘래퍼(wrapper)’라는 축소 프레임의 반박

   1. OpenRouter를 다른 사람 API 위의 프록시·얇은 레이어로만 부르는 평가는 실제 프로덕션 배포 경험이 없는 사람이 만들기 쉬운 단순화다.
   2. 여러 API를 신뢰성 있게 오케스트레이션(orchestration)해 개발자와 모델 공급자가 함께 쓰는 시스템으로 만드는 데 전략적 가치가 있다.
   3. “모든 것이 결국 래퍼”라는 식으로 보면 애플리케이션과 인프라가 사용자의 문제를 해결해 만들어내는 차별화된 가치를 놓치게 된다. 농담처럼 벤처캐피털도 LP의 래퍼라는 말이 오갔지만, 핵심은 레이어마다 가치가 생길 수 있다는 점이다.

5. 초기 부트스트랩: 커뮤니티, 시스템 사고, 사용자 경험

OpenRouter의 초기 성장 방식은 모델을 나열하는 데서 끝나지 않고, 문제가 실제로 발생하는 커뮤니티에 들어가 사용자의 흐름을 직접 고치는 방식이었다.

5.1. OpenSea와 Discord에서 배운 커뮤니티 플라이휠

1. Axi Infinity 커뮤니티

   1. Axi Infinity는 Discord 당시 가장 큰 서버였고, 필리핀 인구의 약 10%가 참여했다는 농담이 나올 만큼 규모가 컸다.
   2. 포켓몬처럼 생물을 번식·배틀하고, 거래 마켓플레이스에서 사고팔며, 플레이 투 언(play-to-earn)으로 보상받는 게임이었다.
   3. Discord에서 서버 한도를 계속 늘려야 할 정도로 성장했으며, 초기 OpenSea가 거의 모든 프로젝트의 커뮤니티를 직접 만들고 시장을 설명해야 했던 경험의 대표 사례였다.

2. 커뮤니티가 곧 발견·검증 채널이다

   1. 일대일로 사용자를 설득하는 것보다 커뮤니티 안에서 모두가 동시에 말하게 하는 편이 훨씬 높은 레버리지다.
   2. 커뮤니티가 정말 원하는 것을 만들고 직접 알려주면 사용자가 링크를 서로 공유한다. Discord에서 사람들이 OpenSea 링크를 반복해서 공유한 것은 중요한 신호였다.
   3. 첫 단계는 기술이 아니라 사람들이 실제로 막힌 간극을 찾는 것이다. 초기 LLM의 간극은 OpenAI가 프롬프트를 끝까지 완성하지 않는 문제와 모델을 맞춤화할 수 없는 문제였다.
   4. 가장 가치 있는 커뮤니티는 이런 문제에 완전히 막혀 있으며, 그곳에서 문제를 탐색하면 제품 요구와 초기 사용자를 동시에 얻는다.

5.2. 임베드 하나가 보여준 제품 철학

1. OpenSea-Discord 통합의 논쟁

   1. 당시 통합안은 Discord에서 링크를 클릭하면 사용자를 OpenSea로 내보내는 방식이었다. 기술적으로는 양쪽 PM 요구사항을 만족했다.
   2. Alex Atallah는 회의 중 유일하게 “이건 사용자 경험이 좋지 않다”고 지적했다.
   3. 그는 거래 경험을 Discord 안에 임베드된 iframe으로 넣어 사용자가 서버를 떠나지 않고 구매하게 하자고 제안했다.

2. 이해상충을 넘어선 사용자 우선

   1. Alex는 OpenSea 소속이 아니었고, 사용자를 Discord에 붙잡아 두는 것은 OpenSea의 단기 이익에는 불리할 수 있었다.
   2. 그럼에도 기술 구현 편의보다 최종 사용자의 흐름을 우선했다.
   3. 개발자 경험, 최종 사용자 경험, 머신러닝 커뮤니티 이해를 함께 가진 조합이 OpenRouter의 플라이휠을 돌리는 희귀한 역량으로 평가됐다.

5.3. Discord는 생성형 AI의 페트리 접시였다

1. Crypto에서 AI로 이어진 인프라

   1. Discord 플랫폼팀은 팬데믹 중 크립토·NFT·DAO 커뮤니티를 지원했다. OpenSea 거래가 Discord 안에서 일어나며 의미 있는 수십억 달러 규모의 NFT GMV가 흘렀다.
   2. 그 과정에서 피싱·소셜 엔지니어링·서비스 거부 공격(DOS)과 플랫폼 보안을 다뤘다.
   3. 크립토 커뮤니티를 위해 만든 규모·커뮤니티 운영 인프라가 곧 생성형 AI 앱이 실험할 공간이 됐다.

2. Midjourney의 성장

   1. David Holz가 만들던 텍스트-이미지 Discord 봇 Midjourney는 처음에는 작은 프로젝트였고, Magic: The Gathering을 함께 하던 친구 그룹에서 자주 논의됐다.
   2. 단독 웹 앱은 빈 입력창을 처음 만난 사용자에게 마비감을 줬다. 사용자가 cat이나 dog만 입력하고도 다음에 무엇을 해야 할지 몰랐으며, 웹사이트의 리텐션은 나빴다.
   3. Discord 서버에서는 다른 사람이 쓰는 프롬프트를 보고 복사·변형할 수 있었다. 여러 결과 중 가장 좋은 네 장을 고르는 피드백 루프도 학습을 도왔다.
   4. Midjourney가 출시 후 8개월도 안 돼 1억 달러 연환산 매출(run rate)에 도달했고, Axi Infinity에서 배운 확장 방식 덕분에 0명에서 1,000만 월간 활성 사용자까지 더 매끄럽게 성장했다.

3. Stable Diffusion이 만든 개발자 전환점

   1. Midjourney는 자체 모델을 학습하고 애플리케이션으로 배포하는 풀스택 회사였으며 초기에는 API가 없었다.
   2. Stable Diffusion이 나오자 개발자는 모델 가중치를 이용해 자기만의 Midjourney를 만들 수 있게 됐다.
   3. 창의적인 개발자와 오픈 모델을 연결하려면 가중치 호스팅, 추론 인프라, API를 대신 제공하는 계층이 필요했다. OpenRouter가 맡은 역할은 바로 이 지점에서 커졌다.

5.4. Discord와 OpenRouter의 차이

1. 최종 사용자 앱과 개발자 인프라의 구분

   1. Midjourney는 최종 사용자 애플리케이션이므로 2억 5천만 명의 소비자를 가진 Discord가 호스트가 되는 것이 자연스러웠다.
   2. OpenRouter는 코드베이스에 통합되는 개발자 인프라다. 예시를 읽는 것만으로는 부족하고, 모델에 접근하는 코드·조직 거버넌스·데이터 정책·권한 관리가 필요하다.
   3. Discord에서도 기술적으로는 개발자 경험을 만들 수 있지만, 코드 통합과 조직 운영을 위한 올바른 제품 형태는 아니다.

2. 기능을 보여주는 방식의 차이

   1. 이미지 모델은 채널에서 결과를 빠르게 보고 프롬프트를 복사하기가 쉽다.
   2. 언어 모델은 긴 텍스트를 읽고 코드에 통합해야 하므로 코드 예제·성능 차트·권한·지속적인 라우팅이 필요하다.
   3. 따라서 Discord는 초기 AI 앱의 페트리 접시였고, OpenRouter는 그 앱과 모델을 인터넷의 개발자 storefront로 연결하는 다음 계층이다.

6. Window AI, Mixtral, Arena: 모델 다양성을 제품으로 바꾸기

초기 실험들은 모델 마켓플레이스의 최종 형태가 처음부터 정해져 있지 않았음을 보여준다. 브라우저 확장, 가격 비교, 속도에 대한 인간의 판단, 평가 플랫폼과의 역할 분리가 차례로 드러났다.

6.1. Window AI에서 API·발견 경험으로

1. 브라우저 확장 실험

   1. OpenRouter 이전에 Alex는 크립토 지갑 MetaMask와 비슷하게 사용자가 자신의 모델을 가져오는 실험을 하고 싶었다.
   2. 당시 AI 앱과 API를 호출하는 게임의 수가 비슷할 정도로 시장은 원시적이었고, 웹 앱이 브라우저의 사용자 관리 모델을 호출하는 경로도 가능해 보였다.
   3. Alex는 Plasmo 위에 Window AI라는 Chrome 확장을 만들었고, Plasmo 창시자 Lewis Vichyi가 코드에 기여했다. Lewis는 이후 OpenRouter 공동창업자가 됐다.

2. 실험에서 얻은 결론

   1. 사용자가 웹페이지별로 모델을 설정하는 방식은 재미있는 실험이었지만 LLM의 적절한 제품 형태는 아니었다.
   2. 모델은 API여야 하고, 개발자 경험과 발견 경험이 더 풍부해야 했다.
   3. 작은 확장 프로그램에는 모델을 탐색할 공간이 부족했다. 사람과 에이전트가 함께 탐색하려면 시각 자료·그래프·예시·이미지·코드가 있는 넓은 제품 공간이 필요했다.

6.2. Mixtral 가격 전쟁과 속도 편향

1. Mixtral 8x7B의 가격 충격

   1. 2023~24년 유럽에서 Mistral의 Mixtral 8x7B가 출시되며 가격이 약 80% 내려갔다. 이를 ‘Mistral 가격 전쟁’이라 부를 정도로 호스팅 경쟁이 현실화됐다.
   2. 사람들은 Mixtral을 진지하게 “세계 최고의 모델”이라고 부른 첫 오픈 웨이트 모델로 받아들였다.
   3. AI 인플루언서들이 GPT-4를 능가한다는 사례를 퍼뜨리자 사용자들은 직접 시험하고 싶어 했다.

2. 속도가 지능처럼 느껴지는 현상

   1. Mixtral은 Mixture of Experts(MoE) 구조를 매우 효율적으로 실행해 반응이 빨랐다.
   2. 빠른 응답은 인간에게 더 똑똑하고 정확하다는 인상을 줄 수 있다. 객관적 평가에서 GPT-4가 더 나았더라도 체감 정확도는 속도 때문에 Mixtral 쪽으로 기울 수 있다.
   3. 대부분의 질의는 가장 어려운 추론 수준을 요구하지 않으므로, 빠르고 저렴한 모델이 많은 실제 요청에 충분했다.

3. 인간이 먼저 수행한 라우팅

   1. 사용자는 빠른 모델에 먼저 질문하고, 답이 충분하지 않으면 수동으로 더 비싼 모델로 올렸다.
   2. 이 ‘인간이 라우터인 단계’가 자동 라우터(auto router)로 이어졌다. OpenRouter는 사용자의 비용·품질·속도 선택을 시스템이 대신 최적화하는 방향으로 발전했다.

6.3. Arena와 OpenRouter는 왜 하나가 아니었나

1. 서로 다른 고객

   1. Arena는 Berkeley에서 출발한 AI Reliability Institute로, 모델 평가를 당시의 감에 의존하는 수준보다 신뢰성 있게 만드는 것이 출발점이었다.
   2. 공동창업자 Anastasia와 Whan의 연구는 수집 방식과 내재적 편향을 고려해 평가 추정치를 보정하는 통계 방법, 스타일 통제(style control) 등에 초점을 맞췄다.
   3. Arena의 가장 중요한 고객은 모델을 출시하기 전 평가하려는 포스트 트레이닝 연구자와 모델 연구소였다.
   4. OpenRouter의 고객은 연구 결과를 받아 세상에 배포되는 애플리케이션으로 만드는 개발자였다.

2. 데이터·브랜드·프라이버시의 차이

   1. Arena는 데이터를 수집하고 연구소에 제공하는 성격이 강한 반면, OpenRouter는 기본적으로 프롬프트와 완성 결과를 보지 않는다.
   2. 조직이 이를 분석하려면 명시적으로 옵트인하고 활성화해야 하며, 무료 엔드포인트에서도 기본적으로 프롬프트를 수집·수익화하지 않는다.
   3. 양쪽이 프롬프트 데이터를 모아 오픈소스 저장소를 만들자는 논의는 가능했지만, 두 서비스의 사명과 로드맵은 달랐다.

3. 집중의 가치

   1. AI 시대에도 한 가지 고객과 문제에 집중하는 것은 과소평가된 전략이다.
   2. 사람들은 자신이 가진 문제를 어떤 브랜드가 가장 깊이 신경 쓰는지 알아야 한다. 초점이 분명한 브랜드는 해당 문제의 기본 선택지가 된다.
   3. 여러 인접 영역을 모두 소유하려는 창업자의 욕망은 자연스럽지만, 여러 고객의 기대를 동시에 뛰어넘는 일은 훨씬 어렵다.

7. Anthropic과 OpenRouter가 선택한 집중, 그리고 버린 경로

7.1. Anthropic의 ‘AI 페어 프로그래밍’ 초점

1. 처음부터 정해진 사명

   1. Anthropic은 GPT-3 연구자들이 떠났다는 이유만으로 쉬운 출발을 한 회사가 아니었다. OpenAI보다 100억 달러 뒤에서 시작해 프런티어에 도달해야 했다.
   2. 씨앗 메모(seed memo)는 ‘책임 있게 상용화하는 AI 페어 프로그래머’였고, 첫날부터 코딩에 초점을 뒀다.
   3. 이미지·비디오처럼 당시 주목받던 영역도 있었지만, 핵심 역량을 코딩으로 제한했다.

2. 집중이 만든 결과

   1. Claude의 초기 마케팅은 프로그래밍과 긴 컨텍스트(long context)에 집중됐다.
   2. 회사의 주요 평가(evals)는 처음부터 코딩 평가와 장기 작업을 수행하는 에이전트형 프로그래밍이었다.
   3. 중간에 ChatGPT의 인기에 대응해 Claude를 범용 챗봇으로 시험한 순간은 있었지만, 장기적인 방향은 코딩으로 돌아왔다.
   4. 이처럼 최고 기대 고객을 정하고 그 기대를 넘는 데 집중한 것이 Anthropic과 OpenRouter 모두의 성장을 설명하는 요인이다.

7.2. 출시하지 않은 파인튜닝 서비스

1. YouTube에서 개인 모델 만들기

   1. OpenRouter는 사용자가 YouTube 영상 한두 개 또는 서너 개를 제공하면 자막을 추출하고, 그 사람처럼 말하는 파인튜닝 모델을 만들어 주는 소비자형 프로토타입을 만들었다.
   2. 개인이 좋아하는 영상과 크리에이터의 말투를 모델로 압축하는 쉽고 매력적인 아이디어였지만, 실제 사용자는 거의 없었다.
   3. 모델 마켓플레이스가 빠르게 성장하면서 핵심 초점이 흔들릴 만큼 테스트하지 못했고, 결국 출시하지 않았다.

2. ‘미니미’와 멘토 모델

   1. Anjney가 상상한 실용적 용도는 면접·채용·대중 연설을 연습할 때 자신을 비판해 주는 ‘미니미’였다.
   2. 타인에게 서비스를 팔기보다는 사용자가 선택한 다섯 명의 멘토를 모델로 만들어 그들과 대화하게 하는 방식도 흥미로운 방향으로 언급됐다.
   3. AI Steve Jobs처럼 유명 인물을 모델화하는 프로토타입은 흔하지만, 초상·권리 문제 때문에 그대로 허용되기 어렵다.

3. 파인튜닝과 RAG의 경계

   1. 영상 내용을 가중치에 넣든 외부 검색 증강 생성(RAG)으로 처리하든, 많은 경우 사용자는 답변보다 원본 영상을 직접 찾기를 원한다.
   2. 따라서 파인튜닝이 항상 진짜 차별화인지, 단순히 원문을 잘 찾는 RAG 봇인지 구분해야 한다.
   3. OpenRouter는 이미 각 inference provider가 커스텀 모델과 파인튜닝을 제공하도록 두고, 중립적인 라우팅·선택 계층에 집중했다.

8. 기능 선택과 모델 융합(Fusion)의 재발견

OpenRouter의 기능 로드맵은 커뮤니티가 실제로 쓰는 지표를 만들고, 기술이 충분히 성숙했을 때 과거의 아이디어를 다시 검증하는 방식으로 형성됐다.

8.1. 리더보드가 만든 시장의 공용 지도

1. 반복적으로 선택된 기능

   1. 모델 리더보드, 사용량·가격 차트, 플러그인, 코드 완성(completions)과 채팅 완성(chat completions)의 구분이 주요 기능으로 거론됐다.
   2. 모델만이 아니라 어떤 코딩 에이전트가 가장 많이 사용되는지 보여주는 애플리케이션 리더보드도 큰 역할을 했다.
   3. 리더보드는 모델·앱·공급자의 품질과 채택을 한곳에 보여주므로 시장의 공용 지도처럼 기능한다.

2. 리더보드의 역사성

   1. 과거 순위를 Wayback Machine으로 보면 AI 산업의 변화가 영화처럼 나타난다.
   2. 초기에는 Klein 계열 도구가 코딩 에이전트 리더보드 상위에 있었고, 이후 Claude·Roo Code 등 터미널·IDE 에이전트가 뒤를 이었다.
   3. Andrej Karpathy가 더 이상 LocalLlama를 읽지 않고 OpenRouter 리더보드로 간다고 말한 장면은 리더보드가 독립적인 시장 정보원이 된 ‘성년식’으로 묘사됐다.

8.2. 2024년의 Mixture of Models 실험

1. 초기 설계

   1. 2024년 초 OpenRouter는 여러 모델의 결과를 한데 융합하는 MoM(Mixture of Models) 프로토타입을 만들었다.
   2. 사용자가 여러 모델을 고르거나 시스템이 고른 뒤 각각에 요청하고, 최종적으로 세 모델 중 가장 똑똑한 모델이 결과를 합쳤다.
   3. 사용자는 큰 칸반 보드처럼 생긴 화면에서 각 모델의 중간 결과와 최종 결과를 모두 볼 수 있었다. 초기 LLM council 또는 멀티 에이전트 스웜(multi-agent swarm)에 가까운 형태였다.

2. 왜 실패했나

   1. 당시 최상위 모델과 2·3위 모델의 격차가 너무 커서, 융합 결과가 최상위 모델 단독 결과보다 나쁘거나 같았다.
   2. 기술이 이르렀고 제품 형태도 맞지 않았으며, 제대로 만들려면 여러 번의 반복과 커뮤니티 학습이 필요했다.
   3. 다른 핵심 과제에서 집중을 빼앗길 수 있어 코드를 삭제했다.

3. 2026년의 재검증

   1. 2026년 초부터 중반에 걸쳐 상위 프런티어 모델 두세 개 또는 네 개가 모두 강해지면서 모델 간 격차가 좁아졌다.
   2. Alex는 코드 변경의 아키텍처 계획을 여러 모델에 각각 주고, 결과를 융합한 뒤 각 모델에게 융합 결과가 자기 결과보다 좋은지 다시 물었다.
   3. 몇 차례의 개인 실험에서 모든 모델이 융합 결과가 더 좋다고 답했으며, 간단한 점검에서 가능성을 확인한 뒤 벤치마크 가능한 Fusion을 만들었다.
   4. 강화학습(RL)이 각 연구소 안에서 창의적 추론의 표면적을 넓혀 모델마다 다른 아이디어를 더 효과적으로 만들었기 때문에, 예전보다 융합의 이득이 커졌다는 가설이 제시됐다.

9. 성장 곡선과 새로운 에이전트 사용 패턴

9.1. 모델 출시가 만든 단계적 성장

1. 2024년 5월까지

   1. OpenRouter는 폭넓은 모델 다양성에 집중했지만, 실제 활용처는 넓지 않았고 코딩이 충분히 강하지 않아 애플리케이션이 모델 위에 많은 것을 만들기 어려웠다.
   2. Dream Tavern이 주요 앱 중 하나였고, 그 창업자는 나중에 Cognition의 Devon 제품 책임자가 됐다.

2. Claude Sonnet 3.5와 Mixtral

   1. 2024년 중반 Claude Sonnet 3.5는 코딩 능력에서 큰 도약을 만들었다.
   2. 그 뒤 OpenRouter 위에 애플리케이션을 만드는 흐름이 급증했고, 사용자들은 한 달 뒤 청구서를 보고 “무슨 일이 일어난 것인가”라며 비용 효율적인 대안을 찾기 시작했다.
   3. 이어서 Mixtral 8x7B가 강력한 오픈 웨이트 선택지를 제공하며 생태계를 보완했다.
   4. 프런티어 모델 출시로 사용량이 급증하고, 몇 달 뒤 오픈 웨이트 모델이 저렴한 선택지를 제공하는 ‘스윙 액션’이 반복됐다.

3. 토큰 흐름의 규모

   1. 주간 토큰 거래량 증가율은 약 9%로 언급됐다.
   2. 과거에는 약 100조 토큰을 기념하는 방식으로 이야기했지만, 최근에는 10일 단위로 그 규모를 처리하는 수준으로 표현됐다.
   3. 이 숫자는 특정 모델 한 곳의 승리보다 여러 공급자와 앱을 중립적으로 연결하는 라우팅 계층의 가치가 커지고 있음을 보여준다.

9.2. OpenClaw, Hermes, 그리고 에이전트의 자동 라우팅

1. OpenClaw가 연 새로운 사용자층

   1. 2025년 말 등장한 OpenClaw는 IDE나 터미널 기반 개발자만이 아니라 생산성 사용자와 인터넷 크리에이터를 AI로 끌어들인 새로운 폼팩터였다.
   2. 선택한 모델을 실제 작업뿐 아니라 주기적인 heartbeat에 호출해 에이전트가 살아 있는지 확인하는 구조를 사용했다.
   3. heartbeat는 빈번하지만 복잡하지 않은 호출이므로 비싼 모델을 쓰고 싶지 않다. OpenRouter의 자동 라우터가 비용과 능력을 동시에 맞추는 데 유용했다.

2. Hermes와 스킬·메모리

   1. Hermes는 자동 라우터를 활용하면서 스킬 관리(skill management)와 커뮤니티를 강화했다.
   2. 사용자가 에이전트 메모리를 쉽게 설정하고, 재사용 가능한 스킬을 만들 수 있는 경험에 집중했다.
   3. 메모리·스킬·샌드박스(sandbox)는 인접 영역이지만 OpenRouter가 직접 가져가지 않은 영역이다. 개발자마다 메모리에 대한 선호와 추상화가 달라 모든 개발자에게 맞는 공통 레이어를 만들기 어렵기 때문이다.
   4. Mastra처럼 이 문제를 꽤 잘 다루는 프레임워크가 있지만, OpenRouter는 모델 유통·라우팅이라는 주력에 집중했다.

10. Stripe와의 결합: 결제 회사가 아니라 토큰 경제의 보안 회사

OpenRouter와 Stripe의 결합은 새로운 결제 수단을 붙이는 거래보다, 토큰을 빠르게 유통하면서도 악의적인 사용자를 막는 보안 파트너십으로 설명된다.

10.1. 토큰 사기의 구체적 패턴

1. 사람이 만드는 현재의 사기

   1. 도난 신용카드로 토큰을 구매한다.
   2. 약관을 어기고 추론 트래픽을 재판매한다.
   3. 회사 계정을 탈취하거나 회사 전체가 침해됐는데도 구성원이 알아차리지 못한다.
   4. 합법적인 계정처럼 보이는 계정이 추론을 제3자에게 다시 판다.
   5. 해킹은 아니지만 런어웨이 에이전트가 무한히 호출해 회사 비용을 폭발시킨다.

2. 전문화 서비스로의 이동

   1. 범용 추론을 약간 포장해 재판매하는 서비스는 사기꾼의 표적이 되기 쉽다.
   2. 특정 지능 기능이나 작업을 수행하는 전문화된 제품은 상대적으로 표적이 되기 어렵다.
   3. 시장은 추론량에 마크업을 붙이는 모델에서 벗어나 특정 결과·작업·이벤트에 과금하고, 사용자가 자신의 추론(inference)을 가져오는 방향으로 이동할 수 있다.
   4. 인프라 기업은 Datadog의 가격 페이지처럼 발생한 이벤트와 지속적인 사용량에 따라 과금하고, 소비자 앱은 더 단순한 구독형 가격을 택할 가능성이 크다.

10.2. Midjourney 무료 체험이 멈춘 이유

1. 무료 체험의 악용

   1. Midjourney가 초기 사용자에게 약 10번 생성할 기회를 줬다. 이미지 10장을 만들어 보면 제품의 마법 같은 활성화 순간에 도달한다는 관찰에 기반했다.
   2. 어느 날 새로운 사용자가 갑자기 몰려 David Holz가 연락했고, 지리적 IP 주소를 조사하자 중국의 누군가가 무료 체험 구독을 재판매하고 있었다.
   3. Midjourney는 무료 체험을 중단했으며, 이 문제는 단순한 요금제 조정이 아니라 신뢰·안전 문제라 쉽게 해결되지 않았다.

2. 규모가 커지기 전부터 보인 경고

   1. 당시 Midjourney의 연환산 매출은 3억 달러 미만이었지만 무료 체험을 노린 공격이 이미 발생했다.
   2. 작은 규모의 전문 모델 앱에서도 가치가 흐르기 시작하면 사기가 발생한다는 뜻이다.
   3. 토큰 경제가 수조 달러로 커질 때 필요한 보안 인프라를 미리 만들어야 한다.

10.3. Stripe Radar의 선례와 새로운 ‘보안 보안관’

1. Stripe가 증명한 패턴

   1. Stripe는 기존 결제 도구처럼 KYC와 이메일 확인을 7일 동안 요구해 사기를 사전에 차단하는 대신, 초기 사기 비용을 고객 획득 비용으로 감당하고 개발자가 5분 안에 결제를 받게 했다.
   2. 이후 수년간 개발자·거래 데이터를 축적해 Stripe Radar를 만들었고, 오늘날 Stripe의 진짜 경쟁력은 결제 전송료가 아니라 뛰어난 사기 탐지다.
   3. Cloudflare와 Affirm에서도 가치가 대규모로 흐를 때 보안 인프라가 뒤따르는 같은 패턴이 반복된다.

2. AI 에이전트가 증폭할 공격

   1. 현재 인간이 하는 사기 행위는 향후 10년 동안 AI 에이전트가 자동화해 반복할 수 있다.
   2. 연구팀이 보는 데이터는 자기들이 훈련한 에이전트가 일탈하는 일부 사례뿐이며, 인터넷 전체에서 여러 모델·배포·개발자에 걸쳐 일어나는 악행을 보지 못한다.
   3. 여러 모델 연구소·사후학습 배포·개발자의 행동을 가로질러 관찰하고 방패를 만드는 새로운 ‘보안 보안관(sheriff)’이 필요하다.
   4. 10조 달러의 토큰 GMV와 세계 GDP 성장에서 사기·남용이 큰 비중을 차지하면 사용자는 토큰을 신뢰하지 못하고 시장 자체가 그 규모에 도달하지 못할 수 있다.
   5. 에이전트 사기는 쓰나미처럼 다가오고 있지만, 이 전체 토큰 경제를 방어하는 인프라는 아직 충분히 존재하지 않는다.

11. Stripe 이후의 OpenRouter

11.1. 단기 방향

1. 시장 진입과 상위 시장 확장

   1. Stripe와의 결합은 OpenRouter가 더 빠르게 시장에 진입하고 엔터프라이즈·상위 시장으로 올라가는 데 도움이 된다.
   2. 개발자가 자신의 추론을 가져오고, 토큰을 안전하게 받으며, 모델 위에 애플리케이션을 만들기 쉬워지는 ‘서로를 강화하는’ 조합이다.

2. 브랜드와 로드맵 유지

   1. OpenRouter라는 브랜드, 제품, 로드맵, 이름은 유지된다.
   2. 향후 6개월에는 독립 회사였다면 했을 대부분의 일을 같은 방향으로 수행하되 더 빠르게 움직이는 것이 목표다.
   3. 장기 계획은 아직 공개할 수 없지만, 토큰 경제의 유통·발견·라우팅·보안을 하나의 생태계 문제로 다룬다.

11.2. 최종 결론

1. 하나의 모델이 모든 가치와 사용 사례를 독점한다는 베팅은 모델의 이질성, 오픈 모델의 가격 경쟁, 개발자 유통의 복잡성을 놓친다.
2. 모델 연구의 성과가 클수록 이를 개발자에게 배포하고 사용 피드백을 모으는 중립적인 유통 계층의 가치도 커진다.
3. OpenRouter의 핵심 해자는 단순 API 연결이 아니라 모델 발견, 공급자 경쟁, 자동 라우팅, 개발자 경험, 커뮤니티 시스템, 신뢰·안전 데이터를 함께 운영하는 데 있다.
4. Arena와 OpenRouter처럼 인접해 보이는 제품도 연구소의 평가 문제와 개발자의 배포 문제를 각각 깊이 해결할 때 더 강해진다.
5. AI 에이전트가 토큰 흐름을 자동화할수록 결제 인프라는 보안 인프라가 되며, Stripe와 OpenRouter의 다음 과제는 좋은 사용자를 빠르게 통과시키면서 악성 자동화를 막는 것이다.
6. 대화의 마지막 비유처럼, 토큰 경제에는 더 많은 보안 보안관이 필요하다. OpenRouter는 하나의 승자 모델을 고르는 회사가 아니라 여러 모델이 성장하고 안전하게 거래되는 마을의 도로·시장·경찰을 만드는 역할에 가깝다.

주요 발언 모음

“에이전트와 추론 소비자는 계속 소비하고, 소비하는 SKU를 계속 바꾼다.”

“Alpaca를 만드는 데 600달러밖에 들지 않았다. 가치 있는 데이터를 모델로 압축해 서비스로 팔 수 있는 새로운 사업 모델이었다.”

“스케일링 법칙은 OpenRouter에 가치가 생기는 이유의 결함이 아니라 특징이었다.”

“체크포인트가 완성되면 API로 내놓고 끝이라는 식이면, 그 뒤에는 귀뚜라미 소리만 들린다.”

“OpenRouter를 단순한 래퍼라고 부르는 것은 프로덕션에 배포해 본 적이 없는 사람이 사용하는 지나치게 축약된 프레임이다.”

“어두운 방의 모든 구석에 빛을 비춰야 한다. 모델이 왜 좋은지 알려 주는 중립적인 제3자가 필요하다.”

“빠른 모델을 더 똑똑하다고 느끼는 경우가 있다. 인간이 먼저 라우터가 되고, 그다음 자동 라우터가 된다.”

“OpenRouter의 브랜드와 로드맵은 그대로 남고, 앞으로 6개월은 독립적이었다면 했을 일을 더 빠르게 하게 될 것이다.”

“AI 에이전트가 만들어 내는 사기 행위가 쓰나미처럼 다가오고 있다.”

“토큰 경제에는 새로운 보안 보안관이 필요하다.”

핵심 데이터 & 수치

• Alpaca 학습 비용: 약 600달러.
• 초기 Discord 배포 규모: 월간 활성 사용자 약 2억 5천만 명.
• Discord 콘텐츠 조정팀: 글로벌 5,000명 이상.
• Anthropic의 첫 1,000만 달러 매출: 첫 공개까지 12개월 이상 소요.
• OpenRouter의 개발자 도달력: BFL 출시일에 100만 개발자를 보낼 수 있다고 제안했으며, 현재 계정 중복 정리 전 1,000만 명 이상으로 언급.
• Midjourney 성장: 출시 후 8개월 이내 1억 달러 연환산 매출, 이후 약 1,000만 월간 활성 사용자까지 성장.
• Mixtral 8x7B 가격 변화: 출시와 함께 추론 가격이 약 80% 하락.
• OpenRouter 토큰 성장: 토큰 거래량 주간 약 9% 성장으로 언급.
• 토큰 사기 차단량: 최근 한 달 차단한 달러 거래량이 전월의 10배.
• 토큰 경제 전망: 5년 내 약 5조 달러, 10년 내 10조 달러에 근접할 가능성.
• Midjourney 무료 활성화 지점: 약 10회 생성 후 제품 가치를 체감하는 사용자 비율이 높았음.
• Stripe 선례: 전통적 결제 도구의 7일 검증 대신 수분 내 결제를 시작하고, 누적 데이터로 사기 탐지 시스템을 발전시킴.

핵심 요약 (20줄)

1. 하나의 모델이 모든 가치를 독점한다는 가설은 LLM이 새로운 제품과 사업을 만드는 생산 인프라라는 점을 놓친다.
2. OpenRouter는 모델을 SKU처럼 발행하고 구독하게 만드는 API와 마켓플레이스의 결합이다.
3. 에이전트는 사람처럼 한 번 구매하지 않고 지속적으로 추론을 소비하며 더 나은 모델로 계속 전환한다.
4. Alpaca는 약 600달러의 비용으로 가치 있는 데이터를 모델 서비스로 압축할 수 있음을 보여줬다.
5. Llama와 오픈 웨이트 모델은 작은 팀이 프런티어 연구를 복제하고 변형할 수 있는 생태계를 만들었다.
6. Hugging Face는 모델 허브였지만 폐쇄형 모델과 실제 사용·선택 데이터를 함께 제공하지 못했다.
7. Discord의 2억 5천만 사용자 환경은 공급자의 강한 가드레일이 기업의 맞춤 규범을 막는 문제를 드러냈다.
8. 서버별 콘텐츠 규칙과 Harry Potter 팬 커뮤니티 사례는 범용 안전 정책의 부정확성을 보여줬다.
9. OpenRouter는 여러 모델을 교체하고 조직의 데이터 정책과 권한을 관리하는 제어면으로 출발했다.
10. 연구소는 체크포인트를 만들지만 키 관리·버전 관리·개발자 유통·피드백 루프를 혼자 구축하기 어렵다.
11. 중립적인 마켓플레이스는 어두운 방의 모델마다 빛을 비추듯 가격·속도·능력·사용법을 드러낸다.
12. OpenSea와 Discord에서 배운 커뮤니티 시스템 사고는 초기 사용자를 모으고 제품을 검증하는 플라이휠이 됐다.
13. Midjourney는 다른 사용자의 프롬프트를 보게 만든 Discord 경험으로 빈 입력창의 마비감을 없앴다.
14. Stable Diffusion의 등장은 개발자가 자기만의 Midjourney를 만들 수 있게 해 API 계층의 필요성을 키웠다.
15. Mixtral 8x7B의 낮은 가격과 빠른 응답은 모델 경쟁과 인간의 수동 라우팅을 촉진했다.
16. Arena가 모델 평가 연구소를 돕는다면 OpenRouter는 연구 결과를 배포하는 개발자를 돕는다는 점에서 사명이 다르다.
17. 2024년 Mixture of Models는 기술과 제품 형태가 일러 삭제됐지만, 2026년에는 상위 모델 간 격차가 줄어 다시 가능해졌다.
18. Claude Sonnet 3.5와 코딩 에이전트는 OpenRouter 사용량을 크게 늘렸고 OpenClaw는 생산성 사용자까지 끌어들였다.
19. 토큰 흐름이 커질수록 도난 카드·계정 침해·추론 재판매·런어웨이 에이전트 같은 사기가 커져 보안 인프라가 필수가 된다.
20. Stripe와 OpenRouter의 결합은 하나의 모델을 고르는 베팅이 아니라 토큰 경제의 유통·라우팅·보안을 함께 확장하는 베팅이다.