출연: Andy Beam(Lila Sciences CTO, 前 Generate Biomedicines 창립 ML 헤드), Rafa Gomez Bambarelli(Lila Sciences CSO for Physical Sciences, 공동창업자, 前 MIT 소재공학 교수) 진행: Brandon, RJ (Latent Space Science 팟캐스트)
계층 1 — 핵심 주장/결론
- 인터넷 데이터는 이미 고갈됐다. Ilya Sutskever의 비유대로 인터넷은 "우리가 이미 다 채굴한 화석연료"이며, AI의 다음 과제는 "다음 인터넷급 데이터셋은 어디서 오는가"이다. Lila의 답은 실험(experiment)을 새로운 스케일링 축으로 삼는 것이다.
- Lila는 바이오텍 회사가 아니라 새로운 유형의 AI 모델을 만드는 회사다. 자율주행 실험실(self-driving lab)은 목적이 아니라 데이터를 만들어내는 "토큰 생성기"일 뿐이며, 모델 자체가 회사의 최종 가치이자 해자(moat)다.
- 넓게 학습한 모델이 좁게 학습한 모델을 이긴다는 "데이터 효율성" 논제. 생명과학·화학·소재과학을 통합 학습시킨 범용 모델이 도메인 특화 모델을 능가하는 현상을 반복 확인했다.
- "제로 FTE 스타트업(Zero FTE Startup)" 비즈니스 모델. 파트너가 아이디어만 가져오면 Lila의 모델+플랫폼이 5년치 바이오텍/소재 개발 작업을 수개월, 총비용의 약 10%로 수행한다.
- 소재과학이 생물학보다 오히려 더 풀기 어려운 문제일 수 있다. 생물학에는 중심원리(central dogma)라는 통일된 프레임과 성숙한 고처리량 자동화가 있지만, 소재과학에는 그런 통일 원리도 성숙한 자동화 인프라도 없고, 상업·규제 생태계까지 근본적으로 다르다.
계층 2 — 주요 논점/근거/사례
1) "과학 = 무한 토큰 생성기" 테제
- LLM을 키운 원동력은 스케일 컴퓨트 + 스케일 데이터였고, 그 데이터는 인간이 만든 인터넷 텍스트였다. 그 자원은 이제 소진됐다.
- Post-pretraining 시대에는 RLVR(검증 가능한 보상을 통한 강화학습)이 등장해 모델이 스스로 데이터를 만들고 보상 신호로 걸러내는 방식으로 수학·코딩에서 성과를 냈다.
- Lila의 베팅: 과학적 방법론 자체가 이 프레임의 궁극 버전이다. 자연과 실험을 "검증자(verifier)"로 사용하면 무한히 확장 가능한 검증된 데이터를 만들 수 있다. 이를 "AI Science Factory"라고 부른다 — 과학을 위한 스케일된 검증기(scaled verifiers)로, 대규모 사후학습(post-training)을 가능케 한다.
2) 실험실 = 그래프, 모든 것은 API 호출
- 각 장비(instrument)는 그래프의 노드이고, 노드 간 엣지는 물리적 이송 레이어다. 96웰 플레이트가 자석으로 부상해 트랙을 따라 이동하는 planar motor 시스템을 사용하며, 이를 컴퓨터의 "PCI 버스"(신규 장치를 꽂으면 자동으로 인식·연결되는 범용 버스)에 비유한다.
- 자동화가 안 되는 부분(예: 테스트 튜브 뚜껑 여는 일)은 사람이 대신하지만, 이 역시 "API 호출의 일부"로 취급된다 — "가끔은 API를 부르면 로봇팔이 움직이고, 가끔은 사람 팔이 움직인다."
- 회사는 **자동화 지상주의자가 아니라 "토큰 생성 지상주의자·유연성 지상주의자"**라고 스스로를 규정한다. 자동화는 의미 있을 때만 하고, 아닐 때는 사람 손을 쓴다(사람이 0.1초 만에 할 일을 굳이 자동화하지 않음).
- 실험 프로토콜 설계 관련 사례: 특정 유전자 편집 발현 프로토콜에서 모델이 제로샷으로 80% 성공한 반면, 인간은 같은 조건에서 0% 성공했다. 완전 개방형 자유 실험 설계는 아직 목표 단계이며, "그 방향으로 가는 중"이라고 밝혔다.
3) 안전(safety) 접근
- 악의적 행위자에 대한 우려보다는, 모델이 잘못된 실험 제안(장비 과부하, 화학물질 오혼합 등)을 할 가능성에 대한 실험실 안전(EHS) 레이어를 처음부터 구축했다.
- "능력 곡선은 시그모이드 형태라, 갑자기 예상 못 한 능력이 튀어나올 수 있다"는 이유로 안전 문제를 뒤로 미루지 않고 선제적으로 대응 중이라고 강조.
- 특정 실험 도메인(예: 항체 설계)에서는 모델에게 해당 도메인과 무관한 위험 장비(가스 캐니스터 등)에 대한 접근 권한 자체를 주지 않는 방식으로 위험을 도메인 단위로 제한한다.
4) RL 훈련 중 관찰된 흥미로운 실패/패턴
- 96웰 플레이트 재구성을 요청했을 때 모델이 짜증을 내며 욕설 섞인 사고사슬(chain of thought)을 출력한 사례(어디서 학습했는지 불명 — "인터넷 어딘가에 있었을 것").
- 사고사슬이 붕괴해 같은 최종 답을 반복 출력하는 패턴("pathological repetition")이 때때로 더 높은 보상으로 이어지는 원인 불명의 현상 관찰.
- 사고사슬이 중간 추론/실험 단계를 건너뛰고 곧장 답으로 가는 경우가 있는데, 일부 사례에서는 이게 실제로 나쁜 전략이 아니었다("이미 실험을 해본 경우"). 사고사슬은 모델이 실제로 하는 계산의 "신뢰할 수 없는 서술자(unreliable narrator)"라는 통찰.
5) CAR-T 심층 사례 — "제로 FTE 스타트업" 모델의 증거
- CAR-T(Chimeric Antigen Receptor T-cell) 치료의 배경: 1980~90년대 시작, 2010년대 혈액암 치료로 각광. 환자의 T세포를 추출해 항원 수용체를 붙여 재주입하는 방식으로 회당 약 40만 달러, 매우 느리고 비쌈.
- 최근 트렌드는 mRNA를 지질나노입자(LNP)에 담아 주입만으로 T세포를 체내(in vivo)에서 재프로그래밍하는 방식. 자가면역질환(예: 루푸스)까지 적용 확대 중. 관련 기업 Capstan Therapeutics(노벨상 수상자 연구실에서 스핀아웃, 약 1억 달러 R&D)는 2026년 AbbVie에 21억 달러에 인수됐다.
- Lila는 binder design(항체/수용체 설계), LNP formulation(지질나노입자 제형), mRNA design(mRNA 설계) 세 역량을 모두 사내에 보유하고 있었고, 2~3인 팀이 6개월 만에 비인간 영장류 실험에서 B세포 고갈 효과가 Capstan 데이터보다 유의하게 우수한 결과를 냈다. mRNA 발현 지속성을 좌우하는 UTR(비번역영역)을 자체 설계해 모더나·화이자 대비 약 10배 개선했다고 언급.
- 이 성과를 임상시험용 신약(IND) 신청 직전 단계까지 끌어올렸지만, Lila는 직접 임상시험을 하지 않는다 — 대신 이 역량을 "제로 FTE 스타트업" 상업 모델의 증명 사례로 활용해 여러 파트너십을 체결했다.
- 상업 구조: 플랫폼 접근료 + 시약/운영비 실비 + 업사이드 쉐어링. 파트너(대학 연구자, 스타트업 아이디어를 가진 사람 등)는 랩도 팀도 만들 필요 없이 Lila 위에서 "가상 스타트업"을 운영한다.
6) 세렌디피티를 시스템화하려는 시도
- Emily Whitehead 일화: 초기 CAR-T 소아암 치료를 받은 소녀. 치료 중 심각한 IL-6 관련 열 반응이 발생했으나, 담당 의사가 마침 자기 딸의 소아 관절염 치료 경험 덕분에 IL-6 항체를 써야 한다는 걸 알고 있어 생명을 구했다. 이 "우연한 지식의 결합"이 없었다면 CAR-T 역사가 달라졌을 수 있다는 지적("2% 성공확률이 그 의사가 그 자리에 있었다는 이유만으로 98%가 됐다").
- Lila의 논지: 이런 종류의 세렌디피티(서로 무관해 보이는 도메인 간 지식 결합)를 광범위한 통합 학습을 통해 의도적으로 재현 가능하게 만들자는 것이 회사의 핵심 베팅 중 하나.
7) Open-endedness 팀 (Ken Stanley)
- 진화 알고리즘/오픈엔디드니스(open-endedness) 분야의 선구자이자 『Why Greatness Cannot Be Planned』 저자 Ken Stanley가 Lila의 오픈엔디드니스 팀을 이끈다.
- 목표는 모델이 "어려운 질문에 답하는 것"뿐 아니라 "흥미로운 질문을 스스로 던지는 것" — 순수 RL로 훈련된 모델은 "매우 유능한 시험 응시자"이지만 창의성/취향(taste)은 부족하다는 문제의식.
- 연내(2026년 하반기) 관련 성과를 공개할 예정이라고 언급.
8) 실험실 투어(영상) 하이라이트
- 플레이트 실러, 자석 부상 방식 planar motor 이송 시스템("PCI 버스"), 로봇팔의 트래픽 제어(정체 시 대기).
- 소재과학 예시: 스핀코터로 촉매 잉크를 코팅, 마그네트론 스퍼터링 장비로 원자를 증발시켜 박막(thin film) 제작 — 극소량 재료로 촉매/부식/기계적 특성 테스트 가능.
- 상당수 장비는 벤더가 서로 통신하도록 설계되어 있지 않아 자체 드라이버·펌웨어를 직접 개발("세계 최대의 무효화된 보증서 컬렉션"이라 농담). 일부 장비는 여전히 Windows 95로 구동되며, 이를 제어하기 위해 비전-언어 모델이 화면을 보고 버튼을 누르는 방식까지 사용.
- 현재 실험대는 사람이 접근하기 쉬운 가슴 높이("V0/V0.5" 단계)지만, 미래의 실험실은 사람보다 데이터센터 서버랙처럼 밀도 높고 에너지 효율적인 형태(수직 확장, Z축 적층)로 설계될 것이라는 비전.
9) 스케일링의 여러 차원
- 96웰 플레이트가 실험 자동화의 "원자 단위". 소재과학에도 이 포맷을 역으로 적용.
- 스케일이 커질수록 문제 자체가 질적으로 바뀐다는 원칙(수 개 → 수백~수천 대 장비를 어떻게 오케스트레이션할지는 "Slurm 큐" 같은 스케줄링 문제, 일종의 제약충족문제(CSP)).
- 속도(round-over-round iteration) vs 폭(pooled/multiplexed assay): 모델이 해당 도메인에 이미 어느 정도 능숙하면 빠른 반복이 유리하고, 완전히 무지한 도메인이면 크고 느린 대량 데이터 주입이 유리하다는 판단 기준.
- Pooled assay 사례: DNA-encoded library처럼 수백만 개 실험을 한 번에 던지고 결과에서 "승자"만 걸러내는 방식.
- BET(가스 흡착) 측정 사례: 전통적 방식은 샘플당 하루 소요, Lila는 대안 프록시 측정으로 96개 MOF 샘플을 1시간에 처리 — 약 2,500배 속도 향상.
10) 데이터/모델 규모
- 실험적으로 검증된 추론 트레이스(reasoning trace) 10조(10 trillion) 토큰 축적 — 생명과학, 화학, 소재과학 전 영역 통합. 이는 대형 파운데이션 모델(Evo, Nucleotide Transformer 등)이 쓰는 데이터의 약 1/2000 규모지만, 사전학습 코퍼스가 통상 15~30조 토큰인 점을 감안하면 "에머전트 능력이 나타나는 규모"에 도달했다고 판단.
- 이 토큰은 시퀀스(DNA/단백질 등)를 직접 토크나이즈한 것이 아니라, 모델이 생성하고 실험으로 검증된 영어+툴콜+실험 피드백 혼합 추론 토큰이다.
- 처음부터 사전학습을 하지 않고, Nvidia와 파트너십으로 확보한 오픈웨이트 모델(Nemotron 등, 사전학습에 약 30조 토큰 투입됨) 위에 자체 10조 토큰으로 사후학습을 얹는 전략을 택했다 — "이미 기브된(gifted) 수십억 달러 규모의 컴퓨트"라고 표현.
- 내부적으로 약 1,000개의 고유 과학 RL 환경으로 구성된 벤치마크 스위트를 구축했고, 이 중 일부(및 관련 데이터)는 향후 오픈소스로 공개할 계획.
11) Flagship Pioneering과의 관계
- Lila는 바이오텍 인큐베이터 Flagship Pioneering(110개 이상 스타트업 창립, Moderna·Generate Biomedicines 등 배출) 소속이지만, 전형적인 Flagship 회사와 다르다.
- 통상 Flagship 회사는 시리즈A까지 Flagship 단독 투자, 이후 외부자본 유입인데, Lila는 시리즈A 이전에 외부 투자자가 리드했다.
- 소프트웨어 엔지니어링/GPU 지출 비중이 전형적 바이오텍보다 훨씬 크다 — "우리를 바이오파마라고 불렀다면 세계 상위 3위권 GPU 클러스터를 보유했을 것"이라는 발언.
- CAR-T 자산을 직접 라이선스/파트너 아웃하지 않고, 대신 그 성과를 여러 "가상 스타트업" 파트너십의 증명 사례로 활용하는 전략을 택함.
12) 소재과학 vs 생물학 — 무엇이 더 어려운가
- 소재과학은 생물학의 "중심원리(central dogma)" 같은 통일된 프레임워크가 없다 — "소재과학이 정확히 뭘 의미하는지도 아직 명확히 모르겠다"는 발언.
- 생물학은 고처리량 자동화가 상대적으로 성숙했지만 소재과학은 그렇지 않다.
- 상업 구조도 다르다 — 생물학은 임상시험 통과 = 명확한 수익화 경로가 있지만, 소재는 공급망, 디바이스, 실사용 수명 예측의 불확실성 등으로 훨씬 복잡("qualification"이 임상시험에 대응하는 개념).
- 소재/화학은 정부·안보 주도 연구(국가 안보 관련 소재 혁신)가 큰 축을 차지해 개방형 혁신 생태계가 약하고, 대형 소재 기업은 대체로 "이름 없이 성공한" 폐쇄적 회사가 많다(슈퍼컨덕터 제조사를 아는 사람이 거의 없다는 예시).
13) 병목(bottleneck) 질문에 대한 답
- Rafa: 물리 기반 시뮬레이션의 "sim-to-real 갭" — 분자/전자구조 시뮬레이션은 실사용을 예측할 만큼 정확하지 않다. 이 갭 때문에 소재과학용 자율주행 랩을 만들 수밖에 없었다고 설명. Heather Kulik의 "소재과학에는 AlphaFold가 없다"는 발언을 인용하며, 아이러니하게도 AlphaFold 자체는 시뮬레이션이 아니라 실험 데이터로 학습됐다는 점을 짚음.
- Andy: RL 훈련의 MFU(Mean Flop Utilization, GPU 이론 최대 성능 대비 실사용 비율)가 5~6%에 불과하다는 점. 100% MFU를 달성할 수 있다면 답에 더 빨리 도달하고, GPU 구매를 줄여 그 자본을 랩에 재투자할 수 있다고 언급.
계층 3 — 구체적 발언/인용/데이터 포인트
- "We have but one internet. It's the fossil fuel we fracked, we got every ounce of data that we could out of the internet, but it's gone." (Ilya Sutskever, NeurIPS 인용, Andy Beam 재인용)
- "We think that like the lab of the future should feel like a data center. Rows of server racks as densely packed as possible and also as energy efficient as possible."
- "Science is an infinite token generator to train models at scale. Why would I want to work on anything other than creating a new frontier model that can solve scientific problems." — Andy Beam이 학계를 떠난 이유
- "The lab platform is the token generator. That is the data generation mechanism that ultimately is the moat for Lila."
- "Model gets like 80% of that zero shot. Humans get 0% of that zero shot." (특정 유전자 편집 발현 프로토콜 설계 비교)
- "It's a 96-well plate. Come on man. Like it's not that hard." — RL 훈련 중 관찰된 모델의 짜증 섞인 발화(플레이트맵 재구성 요청 시)
- "The chain of thought is often an unreliable narrator for what the model — the computation the model's actually doing."
- "We're not automation maximalists. We are actually sort of like token generation maximalists and flexibility maximalists."
- "We have the world's largest collection of voided warranties in biology" — 장비를 커스텀 드라이버로 개조한 것에 대한 농담
- "We actually have a vision language model controlling a Windows 95 machine."
- CAR-T 프로젝트: 6개월, 2~3인 팀, 약 1억 달러 규모 투자로 비인간 영장류에서 Capstan 대비 우수한 B세포 고갈 데이터 확보. mRNA 발현량 모더나/화이자 대비 약 10배.
- Capstan Therapeutics: AbbVie가 약 21억 달러(2.1 billion)에 인수.
- "It's better to throw a loaded die than it is a fair die and so we're just trying to like make the die as loaded as possible." — 임상시험 성공률(5~8%가 IND→승인)에 대한 비유
- 실험적으로 검증된 추론 토큰: 10조(trillion) 토큰. 사전학습 코퍼스 통상 15~30조 토큰. Nemotron 등 오픈웨이트 모델 사전/사후학습 투입량 약 30조 토큰.
- BET 가스 흡착 측정: 전통 방식 샘플당 1일 vs Lila 방식 96개 MOF/시간 → 약 2,500배 속도 향상.
- MFU(Mean Flop Utilization): RL 훈련 시 통상 5~6% 수준.
- "If we called ourselves a biopharma, we probably would have a top three GPU cluster in the world."
- Emily Whitehead 일화: "2% success probability... just because that person happened to be in the room" 그 확률이 98%로 바뀌었다는 표현.
- Ken Stanley: 『Why Greatness Cannot Be Planned』 저자, 오픈엔디드니스 개념 창시자, Lila 오픈엔디드니스 팀 리드.
- Lila 샌프란시스코 오피스: 181 Fremont Street, 다운타운 SF, 현재 약 20~30명, 웹랩 없음(순수 컴퓨테이셔널).
- 새 시설: 매사추세츠 Cambridge, 약 10만 평방피트(100,000 sq ft), autonomous mobile robot(AMR) 도입 예정.
계층 4 — 실행 시사점/액션 아이템
- AI+과학 투자/파트너십 트렌드 관찰: "자율주행 랩(self-driving lab)"과 "AI science factory" 개념이 신규 스케일링 축으로 부상 중 — AI 인프라/에이전트 관점에서 "실험을 검증기로 쓰는 RL"이라는 패턴은 소프트웨어 외 도메인(로보틱스, 화학, 제조)에도 적용 가능한 프레임으로 참고할 만하다.
- "제로 FTE 스타트업" 모델은 도메인 지식+아이디어만 있는 개인/소규모 팀이 대규모 인프라 없이도 딥테크를 실행할 수 있는 새로운 사업 구조로, 유사한 접근이 다른 산업(예: 소프트웨어 외 R&D 집약 산업)에 적용될 가능성을 시사한다.
- **RL 훈련의 실사용 효율(MFU 5~6%)**이 업계 전반의 병목이라는 점은, GPU 인프라 투자 대비 실제 활용률 개선이 AI 스타트업들의 향후 핵심 경쟁 포인트가 될 수 있음을 보여준다.
- "넓게 학습 → 도메인 성능 향상" 원칙은 자체 AI 프로덕트/에이전트 설계 시에도 참고할 수 있는 통찰 — 좁은 태스크 특화보다 인접 도메인 데이터를 함께 학습시키는 것이 데이터 효율을 높일 수 있다는 시사점.
- Lila Sciences는 사후학습(post-training)·도메인 AI(생명과학/소재과학) 인력을 SF 오피스(181 Fremont St)에서 적극 채용 중 — 관련 채용/파트너십 소식은 추후 팔로우업 가치가 있다.
- 연내(2026년 하반기) Ken Stanley의 open-endedness 팀 성과 공개 예정 — AI의 "질문을 스스로 던지는 능력"에 관한 연구로 후속 확인 필요.