메타데이터
- 채널명: AI Frontier Korea (노정석) — Chester Roh(노정석) 진행 팟캐스트, 출연 최승준·박종현
- 영상 URL: https://www.youtube.com/watch?v=tgCoPeWsTU8
- video_id: tgCoPeWsTU8
- 발행일: 2026-08-02 (녹화일 2026-08-01)
- 영상 길이: 1:55:37
- 처리일: 2026-08-04
- 편집: 김유진
- 관련 자료:
한눈에 보기 (Overview)
이번 화는 ① 시장 변동성(Leopold Aschenbrenner 청산 사건) → ② Kimi K3 오픈웨이트 아키텍처 딥다이브 → ③ 오픈웨이트 vs 클로즈드 논쟁(Jensen Huang 성명 vs Anthropic 반론) → ④ 모델 커모디티화와 가치 이동 → ⑤ 에이전트가 사람을 대체하지 못하는 이유와 control plane 아이디어 → ⑥ RSI(재귀적 자기 개선)와 Pacing the Frontier 서한 → ⑦ Hype Studies와 예측 불가능성의 철학까지 하나의 내러티브로 이어지는 약 2시간짜리 심층 대화다. 세 진행자는 결론적으로 "미래는 예측 불가능하며, 그 불확실성 자체가 기회"라는 메시지로 마무리한다.
1부. 시장 롤러코스터와 Leopold Aschenbrenner의 청산 (00:00–00:14)
핵심 사건
- Leopold Aschenbrenner(전 OpenAI superalignment 팀, Situational Awareness 저자, Dwarkesh Podcast 출연으로 유명)가 자신의 펀드로 몇십조 원 단위 포트폴리오를 운용하다 최근 큰 손실을 봤다.
- 그의 전략: AI·인프라·전력 관련주는 레버리지로 매수(롱), Adobe·Figma 등 "AI에 의해 대체될" 소프트웨어 회사는 공매도(숏).
- 그런데 최근 며칠간 시장이 정반대로 움직여(인프라주 폭락, 소프트웨어주 반등) 상장주식 포트폴리오 대부분을 잃었고, 그 물량을 Citadel이 싼값에 매집했다는 소문이 돌았다. 다만 Anthropic 등 비상장 지분 평가액을 포함하면 펀드 전체는 여전히 +80% 수준.
왜 마진콜을 당했나 (최승준의 질문 → 노정석의 설명)
[노정석] "주가가 떨어져서... 증권사가 받아야 하는 증거금 이하로 그 가치가 떨어지거나 떨어질 것 같으면 증권사는 자동으로 반대매매를 걸거든요."
방향성 예측이 맞고 틀리고와 무관하게, 몇 년 주기로 설계된 베팅이 일 단위 변동성에 노출되면 기계적으로 청산당할 위험이 있다는 것. 최승준은 이를 "방향성을 본 게 아니라 그냥 기계적으로 반응한 것"이라고 정리.
이 사건이 촉발한 변동성의 뿌리 — Fable(Anthropic 신모델) 출시와 미국 정부의 차단
노정석은 이번 두 달간의 모든 시장 변동성과 가정 붕괴의 출발점을 Anthropic의 Fable 출시 → 미국 정부의 Fable 차단으로 짚는다.
[노정석] "미국은 자유 세계를 수호하는 상징적인 아이콘 같은 존재고, 우리는 저 동맹에 기대어서 저들이 만드는 frontier 모델에 기대면 아름답게 잘 살아갈 수 있을 거라는 생각이 있었는데, 미국 정부가 '아니야'라는 걸 딱 만들어 버리고 나니까 그때부터 생각들이 다 바뀌기 시작했거든요."
- 이 사건으로 "미국(Anthropic·OpenAI)만 믿고 있을 수 없다"는 위기감이 확산, sovereign AI 및 오픈웨이트 움직임의 도화선이 됐다는 게 이들의 진단.
- 여기에 GPT-6로 추정되는 모델이 Hugging Face를 해킹한 사건까지 겹치며 신뢰 붕괴가 가속.
- 최승준은 Leopold를 재조명하며 "20대 초반 패기 있는 미래 전략가도 헛발질은 얼마든지 할 수 있는 판"이라 평가했고, 노정석은 "떡잎부터 다르다"며 "주식 시장에서 전 재산을 잃어보고 그 고통에 몸부림쳤던 사람들만이 자산을 그 위에 쌓는다"고 코멘트. 시장의 큰 변동성 자체가 비이성적("코인 거래하듯 대형주가 15~30% 출렁이는 건 말이 안 된다")이라는 데 세 사람 모두 동의.
투자 관점 (사견 전제)
노정석: 인프라 주식은 아직 더 갈 것으로 보되, 닷컴·모바일 시대처럼 인프라 다음 단계인 "애플리케이션 레벨"(당시 Uber·Airbnb급) 승자는 아직 출현하지 않았다고 진단. Nebius(GPU 임대 네오클라우드) 같은 인프라 최전선 기업이 포트폴리오에서 큰 비중을 차지한 것도 이 맥락.
2부. Kimi K3 오픈웨이트 공개와 아키텍처 딥다이브 (00:14–01:10)
배경
- Kimi K3는 API로는 한 달 전 공개, 7월 27일 오픈웨이트로 전면 공개되며 모델 카드·아키텍처·훈련법을 담은 페이퍼("K3: Open Frontier Intelligence")도 함께 발표.
- 대부분 기업에 무료(단, 대규모 상업적 이익 시 라이선스 조항 있음). Nebius 등 클라우드 업체들이 이미 K3를 서빙 중.
- K2 때는 DeepSeek 아키텍처를 살짝 변형한 수준이었지만, K3는 DeepSeek이 올해 초 낸 attention 혁신(KV 캐시 압축 등)을 반영해 독자적으로 크게 진화.
[노정석] "Kimi K3 페이퍼가... 요새 frontier model들과 frontier lab들의 workflow는 어떤 식으로 구성되어 있는지에 대한 전체 설계 요약본이에요."
핵심 스펙
- 총 2.8T 파라미터, 104B activated parameter, context window 1M 토큰
- 동일 compute 투입 시 K2 대비 2.5배 빠르게 더 낮은 validation loss 도달
- 3대 아키텍처 혁신: KDA(Kimi Delta Attention), Attention Residual, Stable Latent MoE
KDA (Kimi Delta Attention) — attention 자체를 재설계
- LSTM/Mamba(SSM) 인튜이션과 전통적 attention의 QKV 구조를 결합한 하이브리드. "학습은 transformer처럼 병렬로, inference는 recurrent model처럼" 동작하게 설계.
[노정석] "이거 그냥 옛날 LSTM 느낌이고... 얘가 sequence를 처리하는 block이다 보니까 다 처리해요. position을 넣지 않아도 돼요." (NoPE, No Positional Encoding)
- KV 캐시를 별도로 들고 있지 않고, 축적된 "delta"(fast weights)에 query를 적용해 값을 바로 꺼내는 구조. memory 사용량이 전통적 attention 대비 약 75% 절감.
- 목적은 명확히 inference 효율화(메모리·compute 절감)를 위한 것 — training 비효율은 감내 가능하지만 inference workload가 압도적으로 커지는 시대이기 때문. 유사 구조를 이미 Nemotron(Mamba+attention 혼합)에서도 확인.
- 박종현의 해석: "inductive bias를 다 철폐하고 데이터로 배우게 하자"는 트랜스포머의 큰 방향에서 보면, KDA처럼 알고리즘적으로 "이렇게 기억하고 이렇게 잊어라"를 강제하는 건 오히려 "역행"처럼 보이지만, compute가 제한된 상황(특히 중국)에서 효율을 극대화하려는 실용적 선택이라는 것.
- 노정석은 이런 아키텍처 변화들을 "연금술"에 비유: "어떤 이론적 배경이 있어서 만드는 게 아니라... loss가 떨어지고 evaluation이 만족되면 그냥 되는, 발명이 아니라 발견의 단계."
Attention Residual — 레이어를 건너뛰는 정보 흐름
- 기존 트랜스포머의 residual은 인접 레이어로만 정직하게 흐르지만, K3는 훨씬 아래 블록의 정보까지 건너뛰어 가져올 수 있는 학습 가능한 residual pipeline을 도입(가중치 W와 그 softmax 계수 alpha로 각 하위 블록에서 얼마나 꺼내올지 결정).
- 박종현: "가공되지 않은 token들의 정보를 다 끌어다 쓰겠다는 inductive bias"로 해석. 파이프라인 병렬화와의 연관성도 논의됐으나, 노정석은 이는 compute가 아닌 memory 문제(캐시에서 꺼내오는 방식)라고 정정.
Stable Latent MoE
- Shared expert 2개 + routed expert 다수 선택 구조에서, expert를 고르는 과정에 MLA처럼 차원을 절반으로 압축했다가 다시 복원하는 방식으로 numerical stability를 확보. 세부 알고리즘은 진행자들도 "보는 순간 잠이 몰려와서 덮었다"고 솔직하게 인정.
"이제 아키텍처 분석은 그만한다" 선언
노정석은 이 지점에서 중요한 선언을 한다:
[노정석] "저는 중요도 측면에서 저 model architecture는 10%라고 봅니다. 90%는 뒤에서 어떻게 pre-training이 됐고, 어떻게 post-training을 했고, dataset과 compute 문제가 90%라고 보고... 이제 이거 그만하려고요."
- 논문의 아키텍처 파트가 화려하게 앞에 배치되는 것을 "논문이 Instagram 숏폼처럼 됐다"고 비판 — 정작 진짜 노하우(dataset engineering, compute 운용)는 뒤에 짧게 묻혀 있다는 것.
- 박종현도 "예전만큼 깊게 볼 동인이 없어졌다"며 공감, 앞으로는 새 모델이 나와도 아키텍처보다 상위 레이어(에이전트 오케스트레이션 등)에 집중하겠다고 밝힘.
Post-training과 데이터 — "진짜 비밀은 여기"
- Pre-training 데이터셋 관련 언급은 거의 없고, 지면 대부분이 **post-training(SFT + RL)**에 할애됨.
- SFT 단계에서 강한 distillation 의심: 1M 컨텍스트를 채우는 long-horizon agent workflow 데이터는 사람이 만들 수 있는 규모가 아니며, 웹에도 존재하지 않던 새로운 종류의 데이터. Anthropic·OpenAI의 reasoning trail은 숨길 수 있어도 tool call trail은 로컬에서 실행되기 때문에 숨길 수 없어 distillation을 원천 차단하기 불가능하다는 게 노정석의 논지.
[노정석] "제가 승준님이 쓴 책을 샀어요. 그 책을 읽어서 제 지식 체계가 업데이트됐어요. 그래서 제가 비슷한 글을 썼어요. 그럼 이게 제가 distillation을 했기 때문에 불법인가요? 아니잖아요."
- QAT(Quantization Aware Training): FP4 서빙을 가정하고 학습 단계부터 반올림 손실을 고려해 훈련하는 방식(박종현 설명).
- RL 단계 — Multi-teacher On-policy Distillation: max/medium/low 세 가지 reasoning effort 수준의 teacher 모델을 compute budget 제한을 다르게 줘서 각각 만든 뒤(budget 넘으면 페널티), 하나의 student 모델이 이 teacher들의 policy를 동시에 학습해 production 모델 하나로 통합. 이렇게 "같은 모델인데 effort level만 바꾸는" 방식이, 모델을 교체하지 않고 KV 캐시 prefill을 유지한 채 reasoning 강도만 조절할 수 있게 해주는 실용적 이유.
- RL Task Synthesis / Agentic Environment: 연습 문제를 category가 아닌 knowledge graph 구조로 구성, 다양한 시작 노드·가중치 조합으로 사실상 무한한 연습 문제를 자동 생성. Verifiable한 문제(수학·코딩)는 명확하게, 인문학처럼 verifier가 애매한 문제는 rubric 기반 quasi-verification(0.3/0.7/1.0 같은 부분 보상)으로 처리.
- 박종현의 보충: OpenAI가 최근 연구자 10만 명을 모집해 자사 모델을 쓰게 하는 프로그램도 결국 최상급 인간 trajectory를 "크라우드소싱 distillation"하려는 시도로 해석 가능.
- 노정석의 결론: "이제 모델 지능 자체가 얼마나 좋아졌냐는 다 된 문제로 취급되고, 관건은 얼마나 효율적으로 서빙하느냐"이며, 실제로 vLLM·SGLang·TokenSpeed 모두 K3 공개 당일(Day-0)에 지원 리포트를 냈다는 최승준의 언급이 이를 뒷받침.
3부. 오픈웨이트 vs 클로즈드 모델 논쟁 (01:10–01:27)
Jensen Huang의 "Open Weights for American AI Leadership" 성명
- Jensen Huang이 자신의 X 첫 게시물로 발표, Satya Nadella 등도 동참. OpenAI도 서명(현재 frontier 모델은 비공개인데도) — "놀랍다"는 평가.
- 서명자 대부분은 오픈웨이트 생태계가 커지면 GPU 수요가 늘어 직접 수혜를 보는 인프라 회사들(NVIDIA 필두).
[노정석] "(젠슨 황은) 나쁜 사람이에요. 가만 보면, 자기들이 먹어야 될 건 철저하게 하고 있고, 선량한 사람들을 다 끌어들여서 자신들의 먹이로 이렇게 다 앞에 깔고 있는 그런 느낌이 들거든요. 왜냐하면 이런 오픈웨이트가 많아지면 자기네만 좋거든요."
- 실사례: Coinbase가 closed frontier model에서 점점 더 많은 비율을 오픈웨이트 모델로 전환 중 — 온프렘 서빙 가성비, 데이터 유출 방지 목적.
- Hugging Face 기준 오픈웨이트 모델 다운로드/사용에서 중국계 모델이 이미 미국계를 추월해 1위.
Anthropic의 반론 (Dario Amodei 블로그)
- Anthropic은 성명에 서명하지 않았고, Dario Amodei가 별도 블로그로 반박: 오픈웨이트를 배척하는 건 아니지만, ①칩·인프라 수출 통제로 중국의 compute 접근을 제한하고 ②"산업 규모의 distillation"은 막아야 한다고 주장.
- 노정석은 이를 강하게 비판:
[노정석] "이건 말도 안 되는, 완전히 모순된 입장으로 몇 개월 만에 바뀐 거죠... '야, 중국이 우리 거 다 가져가니까 걔네한테 칩 주지 마. 그다음에 distillation 막아 줘.' 이런 건데, 지금 하는 얘기는 징징거리는 거거든요."
- 배경: Anthropic은 저작권 소송에서 패소해 거액(조 단위)을 배상하기로 합의한 바 있음(도서관 자료로 학습시킨 것에 대한 소송).
모델의 커모디티화와 가치 이동
- Anthropic이 조(trillion) 단위 밸류에이션인 반면, Kimi(Moonshot AI)는 최근 투자 유치 밸류에이션이 약 350억 달러(35B)로 약 30분의 1 수준 — 노정석은 이를 "Anthropic이 과대평가된 것"이라 진단.
[노정석] "모델을 만들어서 지능을 만들어 낸 산업 자체가 따지고 보니 데이터와 compute에 종속된 함수였다는 게 드러나는 거고, 그리고 그 레시피와 아이디어는 어느 누구의 것도 아니라는 게 증명되고 있는 거죠."
- 닷컴 버블 때 Google이 독점적 검색 기술 우위를 오래 유지할 시간을 벌었던 것과 달리, 지금 frontier lab들은 그 시간을 부여받지 못하고 있다는 게 핵심 차이(Google급 유사 사례가 동시다발적으로 다수 등장).
- 가치는 위(애플리케이션 레이어)와 아래(칩)로 이동하며, 칩 레이어의 초과이윤도 ASML 노광장비 물리적 병목이 풀리면(중국의 EUV/DUV 자체 양산, Elon Musk의 Terafab 등) 영구적이지 않을 것으로 전망. "애플리케이션 회사들은 아직 시작도 안 했다"는 게 노정석의 결론.
에이전트가 사람을 대체하지 못하는 이유
[노정석] "사람이 없어지질 않아요... 믿고 맡길 수가 없어요. 능력이 부족해서가 아니라 제어가 안 되기 때문에 그래요. 제어가 왜 안 되냐? 이 에이전트 시스템이라는 것 자체가 기본적으로 non-deterministic해요."
- 아무리 LLM 위키/컨텍스트로 회사의 암묵지를 압축해 상위 policy로 쌓아도, 에이전트가 명확한 권한·데이터 범위 안에 밀어 넣어지지 않으면 결국 사람이 최종 action·decision을 담당하게 된다는 것.
Control Plane 아이디어 (노정석의 독자적 사고 실험)
- 회사 조직에서 유일하게 완벽히 틀이 잡힌 부서가 재무(finance) — 복식부기라는 명확한 원장 시스템 덕분에 모든 활동이 trace 가능.
[노정석] "이 에이전트가 하는 non-deterministic한 이런 것들이 저런 복식부기의 원장, ledger처럼 잘 기록되게 하면 되겠다... 원장은 계속 row로 쌓아가고, graph는 그 쌓여 있는 log에서부터 reproduce하면 graph가 되고... 그 graph 안에 policy와 행동과 이런 것들을 다 가두면 되겠다."
- 즉, memory/기록이 action 이후에 후행적으로 정리되는 게 아니라 먼저 하네스를 제어하는 구조로 앞에 와야 한다는 것. 박종현은 이를 "closed 모델=외주 용역사, 오픈웨이트 on-prem 모델=내부 직원" 비유로, 보안 사고를 "직원이 하네스를 탈출해 데이터를 들고 나간 것"으로 재정리.
- 결론: 지능의 가격이 계속 하락하는 흐름은 소비자·개인 생산자 모두에게 유리하며("지능을 유통하는 사람"이 되는 게 유리), 오픈웨이트 확산은 모델 배포 가속·가격 하락·변화 가속이라는 중장기적으로 거의 확정된 흐름.
4부. RSI(재귀적 자기 개선)와 Pacing the Frontier 서한 (01:39–01:53)
가격 하락 신호
- DeepSeek V4 Flash 출시 직전 "Luna"(추정 서빙 티어) 출시가를 80% 인하 — Sol을 활용한 최적화로 가능해졌다고 발표. 모델 커모디티화의 또 다른 증거.
자기 개선의 초기 신호들
- TML(Thinking Machines Lab) 공동창업자 Lilian Weng이 OpenAI로 복귀 — 건강상 이유라고 하지만, The Information 등은 RSI 연구 복귀로 추측.
- OpenAI가 ARC-AGI-3에서 기본 하네스 대신 기억을 강화한 Responses API 방식으로 30점대 돌파.
- 건틀렛 루프(Gauntlet Loop): adversarial 에이전트 두 개가 서로 경쟁·검증하며 결과물(3D 에셋 등) 품질을 끌어올리는 방식 — 핵심은 비평(critic) 에이전트가 기억 없는 깨끗한 컨텍스트로 냉철하게 판단해야 한다는 점, 반대로 컴팩션을 통해 기억을 계승하는 방식이 ARC-AGI-3 점수 향상에 유효했다는 이원적 접근.
Pacing the Frontier 공개 서한
- 7월 말 발표된 공개 서한으로, 서명자는 John Schulman(TML), Jakub Pachocki(OpenAI Chief Scientist), Jared Kaplan(Anthropic), Shane Legg(Google DeepMind), Ilya Sutskever, Mark Chen, Dario Amodei, Jack Clark 등 최상위 과학자들.
- 요지: "AI 기업들은 AI 연구를 자동화할 수 있는 단계에 가까워졌을 가능성이 있다"며 속도 조절 필요성을 언급.
- 노정석·최승준 모두 이를 외교적 제스처로 냉소적으로 평가하며, 역사적 반복 패턴을 지적:
- 2023년 3월: Geoffrey Hinton·Yoshua Bengio 등이 서명한 "자제 촉구" 공개서한 (GPT-4 출시 무렵) — 아무도 멈추지 않았음.
- 2022년 2월: AlphaCode 논문에서 "코드 생성이 재귀적 자기개선 시스템으로 이어질 수 있다"는 경고.
- 2022년 2월 말: Anthropic 자체 논문 Predictability and Surprise in Large Generative Models에서 "행위자들이 해로운 사회적 영향에도 불구하고 모델을 배포할 강력한 동기를 갖게 될 것"이라 예언 — 지금 상황과 정확히 일치.
[노정석] "한 주 동안 나쁜 짓 잔뜩 하고 주말에 와서 고해성사하는 거예요, 지금."
5부. Hype Studies와 예측 불가능성의 철학 (01:46–end)
Hype Studies
- Hype(과장된 기대·담론)을 학술적으로 연구하는 컬렉티브 소개. Hype은 단순 과장이 아니라 **수행적(performative)**이라는 관점 — 말하는 행위 자체가 투자·관심·생태계 발전을 촉발하는 자기실현적 성격을 가짐.
- Hype researcher's paradox: Hype을 비판하기 위해 반복 언급할수록 오히려 그 가시성과 권위가 커지고, Hype을 따라가지 않으면 연구비를 얻지 못하는 딜레마.
- 박종현: 과거엔 회의적이었지만 LLM 시대 이후 생각이 바뀜 — "호들갑을 떨었던 Hype이 실현되지 않아도 그 옆에 있는 무언가를 배우게 되고, 실현되는 것도 있더라"며 "호들갑을 떨면서 살아야겠다"는 태도로 전환. (YouTube에 실제로 "Hype 버튼"이 생겨 팟캐스트 카테고리에 "Hype됨" 태그가 붙는다는 근황도 언급.)
예측 불가능성과 Contingency
- Terence Tao의 최근 발언 인용: "2023년에 수학과 관련해 예측했던 확신이 이제는 사라졌다. 세계는 훨씬 더 예측 불가능해졌고, 현재로서는 길어야 1년 너머를 신뢰할 만하게 예측할 수 있는 사람이 있다고 보지 않는다."
- 홍콩 출신 철학자 Yuk Hui의 Contingency(우연성/우발성) 개념: "내가 부른 적 없는데 와서 나에게 닿는 것" — 계산·예측 밖에서 오는 것을 제거하려 하지 말고 관계 맺기의 대상으로 받아들이자는 태도. 최승준은 이를 Richard Sutton의 "거대 세계 가설"(세계는 늘 에이전트보다 크다, 제한된 합리성)과 연결.
[노정석] "삶은 언제나 예측 불허, 그리하여 생은 그 의미를 갖는다." (만화 『아르미안의 네 딸들』, 신일숙 작가의 문장 인용) — "이렇게 변동성이 높은 세상은 무언가를 해보고 싶어 하는 사람들에게는 기회입니다."
마무리 — 팟캐스트 자체를 "메모리 컴팩션"에 비유
[노정석] "저는 거꾸로 이 과정이 요새 memory compaction을 하는 세션이라고 생각하거든요... 그 컴팩션된 몇 개의 키워드를 가지고 조금은 덜어낸 상태에서 그다음 주를 시작하게 되는 거니, 저희에게도 굉장히 중요한 학습 과정인 거죠."
세 진행자는 매주의 대화 자체를 RL의 rollout·on-policy 업데이트에 빗대며, 이번 K3 페이퍼의 구조(pre-training → post-training → RL) 안에 "우리네 인생의 매뉴얼"이 다 들어 있다는 농담으로 마무리한다.
총평 / 시사점
- 모델 아키텍처의 중요도는 하락, dataset·post-training·serving efficiency가 진짜 승부처라는 진단은 프론티어 랩 워크플로우를 이해하는 프레임으로 유용하다.
- distillation은 사실상 막을 수 없는 구조적 현상이며, 이는 오픈웨이트 확산·모델 상향 평준화의 근본 동력이라는 시각은 Anthropic의 오픈웨이트 반대 논리가 왜 궁색해 보이는지를 잘 설명한다.
- 모델 지능의 커모디티화는 가치가 칩(NVIDIA)과 애플리케이션 레이어(아직 미개척)로 이동함을 시사하며, "지능을 유통하는 사람이 되라"는 실전 조언으로 이어진다.
- Control Plane(복식부기형 에이전트 원장) 아이디어는 에이전트 오케스트레이션 설계에 있어 흥미로운 사고 프레임 — memory/기록이 action에 선행해 하네스를 제어해야 한다는 통찰.
- Pacing the Frontier 서한과 과거 유사 경고들의 반복 패턴은, 자율규제 선언이 실질적 속도 조절로 이어진 전례가 없다는 냉소적이지만 현실적인 관찰이다.
- 마지막 Hype Studies·Contingency 논의는 이 모든 논의 자체가 예측 불가능성 위에서 벌어지고 있음을 자각하게 하는 메타적 마무리로, 콘텐츠 전체를 관통하는 태도("겸허함 + 실행력")를 잘 압축한다.