"나도 못따라가겠다" (젠슨 황, 엔비디아) — LangChain × Nemotron 인터뷰

URL: https://www.youtube.com/watch?v=Irq5LupJIIw 날짜: 2026-08-03 (영상 발행일 기준, upload_date) 채널: BZCF | 비즈까페 (원본은 LangChain 측 인터뷰 클립을 한국어 채널이 재게시) 길이: 약 11분 26초 출연: 젠슨 황(Jensen Huang, 엔비디아 CEO) + 인터뷰어(LangChain/Nemotron 연합 소속 인물로 추정, 자막상 화자 구분 표기 없음)

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

이 영상은 ==지난 6개월 사이 AI 에이전트 기술이 폭발적으로 발전한 이유가 "모델 자체"가 아니라 모델을 감싸는 "하네스(harness)"의 발전에 있으며, 엔비디아가 왜 오픈 에이전트 생태계(LangChain + Nemotron)에 베팅하는지==를 다룬다.

• 젠슨 황은 AI를 15년간 연구해왔지만 "지난 6개월이 모든 것을 바꿨다"고 단언한다
• 그 변화의 핵심은 LLM 자체의 발전이 아니라, LLM을 실제로 쓸모 있게 만드는 "하네스"(그라운딩, 툴 사용, 메모리, 안전장치, 반복 개선 능력)의 성숙이다
• 엔비디아의 오픈 모델 Nemotron 3 Ultra가 LangChain의 Deep Agents 하네스와 결합해, 자체 벤치마크에서 Claude Opus(87점)에 근접한 86점을 기록했고, 비용은 Opus 대비 10분의 1 수준이라는 구체적 수치가 공개된다

전체 논지: AI가 "유용해진" 지금, 기업들은 저마다 도메인 특화 AI(super-agent)를 원한다. 이를 실현하려면 (1) 충분히 똑똑한 모델, (2) 그 모델을 도메인 지식·툴·메모리에 연결하는 오픈 하네스, (3) 하네스 안에서 모델을 지속적으로 포스트트레이닝하는 플라이휠, 이 세 가지가 함께 필요하며, 엔비디아는 이 오픈 스택(하드웨어+모델+하네스)을 기업들에게 제공하는 것이 미래 "회사"의 운영체제가 될 것이라 본다.

---

1. 지난 6개월, 무엇이 바뀌었나 — "하네스"의 시대

AI 자체보다 AI를 감싸는 소프트웨어 레이어(하네스)의 성숙이 실사용을 가능케 했다는 것이 이 섹션의 핵심 주장이다.

1.1. LLM에서 에이전트로: 하네스 개념의 등장

1. LLM은 "필수 재료"일 뿐, 제품이 되려면 하네스가 필요하다

   1. 인터뷰어의 오랜 지론: 인터뷰어(LangChain 측)는 "대형언어모델은 필수적인 재료(essential ingredient)이지만, 이를 쓸모 있는 제품으로 바꾸려면 지금 '하네스'라 불리는 것으로 감싸야 한다"는 비전을 오래전부터 가지고 있었다고 젠슨 황이 언급
   2. LangChain의 초기 역할: "옛날에는 LangChain을 대형언어모델을 프롬프트 가능한 API로 바꾸는 데 썼다"고 회고. RAG를 만들고, 단계별(step by step)로 발전시킨 것이 오늘날의 에이전트로 이어졌다

2. 지난 6개월의 돌파구는 '에이전틱 시스템'

   1. 네 가지 핵심 요소: 최근 돌파구를 만든 에이전틱 시스템의 특징은 (a) 지식에 그라운딩되어 있고 (b) 검색 등 툴을 사용할 수 있으며 (c) 스스로 관리하는 메모리를 갖고 (d) 안전장치(safeguard)를 가지며 (e) 목표를 달성할 때까지 반복(iterate)하는 능력을 갖췄다는 것
   2. 모델 성숙이 방아쇠가 됨: 이 모든 게 가능해진 것은 결국 모델이 특정 역량 수준(capability threshold)에 도달했기 때문이며, 그 순간 "Claude Code"가 에이전틱 시스템의 상상력을 실제로 촉발시킨 계기가 됐다고 언급 ("That's where Cloud Code really kind of brought the imagination of agentic systems")
   3. 함께 언급된 사례: "Open Claw"(자막 원문 그대로 — ASR 오인식 가능성이 있어 정확한 고유명사 확인 필요)도 큰 사건이었다고 언급하며, deep agents 관련 작업들도 언급. "우리도 그걸 직접 쓰고 있다"고 덧붙임

1.2. 엔비디아가 오픈 에이전트 생태계에 투자하는 이유

1. AI는 범용 기반 기술이며, 도메인별 특화가 필수

   1. 첫 유스케이스는 언어·인지 지능이지만 그게 끝이 아니다: 과학자, 디지털 생물학자, 디자이너, 로보틱스 연구자, 학생, 연구자, 기업 IT 부서 등 모든 사람이 도메인 특화 문제를 풀기 위해 에이전틱 시스템을 쓰는 미래를 그린다
   2. 도메인 지식은 외부에 없다: 많은 문제는 외부에 존재하지 않는 특화된 도메인 지식을 모델에 직접 임베딩·구축해야만 풀 수 있다

2. 플라이휠(flywheel) 구조가 진짜 슈퍼 에이전트를 만든다

   1. 사용 → 학습 → 재사용의 순환: AI를 쓸수록 똑똑해지고, 똑똑해질수록 더 많이 쓰게 되는 구조를 만들 때 AI가 궁극적으로 "슈퍼 에이전트"가 된다고 설명하며, "인간과 똑같다(Kind of like us)"고 비유. 인터뷰어는 이를 "시간이 지나며 학습한다(Learns over time)"고 요약
   2. 엔비디아의 포지셔닝: 앤트로픽·오픈AI·구글이 하는 일은 모두 훌륭하지만, 그들의 모델은 특화되지 않은 범용/독점(proprietary) AI다. 반면 사람들이 만들고 싶어하는 것은 "특화되고(specialized), 도메인 특화(domain-specific)이며, 독자적인(proprietary)" AI이고, 엔비디아는 그런 세계가 가능하도록 만드는 역할을 하고 싶다고 명확히 밝힘

---

2. AI 시스템을 어떻게 '특화'시키는가 — 모델·하네스·컨텍스트의 3중 최적화

에이전트를 도메인에 맞게 특화시키는 방법론과, 이를 실증한 Nemotron 3 Ultra 사례를 다루는 섹션이다.

2.1. 특화의 출발점: "충분히 똑똑한 모델" + 하네스

1. Nemotron이 좋은 모델이 되는 것과, "믿을 수 없이 훌륭한" 모델이 되는 것은 다르다

   1. 모델 단독으로는 '시작점'일 뿐: 젠슨 황은 Nemotron Ultra 자체도 훌륭하다고 자평하지만, 여기에 LangChain 프레임워크(하네스)를 씌워 도메인 특화 정보에 그라운딩시킬 때 비로소 "믿을 수 없이 훌륭한(incredible)" 모델이 된다고 강조
   2. 인간 비유: "똑똑한 사람도 중요한 정보에 접근할 수 있을 때 비로소 정말 유용해진다"며, 정보 접근성의 중요성을 인간 지능에 빗대어 설명

2. 하네스 안에서 모델을 포스트트레이닝하는 것이 다음 단계

   1. 하네스에 맞춰 모델을 훈련: 모델이 자신을 감싸는 하네스를 더 잘 활용하도록, 하네스 내부에서(against the harness) 모델을 포스트트레이닝하는 단계까지 플라이휠을 확장하고 있다고 언급
   2. 오픈 하네스의 필요성: "이 순간이 왔지만, 우리가 직접 만들고 적용하고 시간이 지나며 개선할 수 있는 오픈 하네싱 시스템이 필요하다"고 강조

2.2. 실증 사례 — Nemotron 3 Ultra × LangChain Deep Agents 벤치마크

1. 구체적 벤치마크 수치가 공개됨

   1. 86점 vs Claude Opus 87점: 인터뷰어(LangChain)는 자체 내부 벤치마크에서 하네스(프롬프트·툴)를 모델별로 다르게 튜닝한 결과, Nemotron 3 Ultra가 86%를 기록했고 이는 Claude Opus의 87%와 거의 동급이라고 밝힘
   2. 경쟁 오픈 모델과의 비교: DeepSeek와 MiniMax 계열 모델은 82~83점대로, Nemotron 3 Ultra보다 낮았다고 언급하며 "최근 오픈 웨이트 모델들이 프론티어 성능에 근접하고 있다"고 평가
   3. 비용 우위: 성능이 거의 동급인데도 Nemotron 3 Ultra는 Claude Opus 대비 10배 저렴하다는 점이 "그만큼 중요한 사실"이라고 강조. 젠슨 황은 이 말을 듣고 "so proud"라며 웃음(청중/발화자 반응으로 [laughter] 표기됨)

2. 모델별로 하네스 튜닝이 필요하다는 실무 팁

   1. 다른 모델 = 다른 프롬프트/툴: 인터뷰어는 "서로 다른 모델은 서로 다른 프롬프트, 다른 툴을 필요로 한다는 걸 발견했다"며, 이 튜닝을 통해 Nemotron 3 Ultra의 Deep Agents 성능을 끌어올렸다고 설명

2.3. 비용 효율이 바꾸는 것 — "더 빨리 생각하면 더 넓게 탐색한다"

1. 저비용 지능은 단순 절약이 아니라 '탐색 공간'을 넓힌다

   1. 더 많이 쓰게 된다: 비용 효율적인 지능이 있으면 사람들은 그냥 더 많이 쓴다(use more of it)는 것이 첫 번째 효과
   2. 더 넓은 탐색 → 더 나은 답: 비용 효율적인 에이전트는 더 큰 탐색 공간(search space)을 반복 탐색할 수 있어 결과적으로 더 나은 답을 찾을 수 있다고 설명. Nemotron이 계산적으로 효율적이라 빠르게 생각하고, 빠르게 탐색하고, 빠르고 효율적으로 반복(iterate)할 수 있다는 것이 핵심
   3. 인간 비유 재등장: "사람도 빨리 생각할 수 있으면 더 넓은 공간을 탐색할 수 있고, 더 빨리 시도해볼 수 있으면 더 나은 답을 찾을 수 있다"고 재차 비유

2. 환경(하네스)이 모델의 잠재력을 끌어낸다는 결론

   1. "모델만이 아니라 환경을 조정하라": 인간에게 가장 똑똑한 사람을 채용하는 것을 넘어, 툴과 정보에 대한 접근권을 주고 그들이 잠재력을 발휘할 수 있는 환경을 만들어주는 것처럼, AI도 모델 자체뿐 아니라 주변 환경(하네스)을 조정해야 한다고 결론. "이 지점이 바로 LangChain이 들어오는 지점"이라고 젠슨 황이 직접 언급

---

3. 프론티어 모델 vs 오픈소스 모델 — 언제 무엇을 쓸 것인가

기업이 AI 스택을 설계할 때 프론티어 모델과 특화 오픈 모델을 어떻게 병행해야 하는지에 대한 실무적 가이드가 제시된다.

3.1. "지능/토큰 수요"를 과소평가했다는 인터뷰어의 고백

1. AI 선도적이라 자부했음에도 놓친 것
   1. 토큰 수요의 규모를 과소평가: 인터뷰어는 스스로 "AI-forward"하다고 생각했음에도, 지능과 토큰에 대한 수요가 이렇게까지 거대한 시장이 될 줄은 과소평가했다고 인정. 모델이 저렴해지고 빨라질수록 이 경향이 최근 특히 뚜렷해졌다고 언급

3.2. 젠슨 황의 실무 원칙: "항상 프론티어에서 시작한다"

1. 왜 프론티어부터 시작하는가

   1. 유용성이 검증됐다: 프론티어 모델은 비용이 조금 더 들더라도, 일을 끝내는 데 걸리는 시간(내 시간)을 확실히 단축시켜주기 때문에 항상 프론티어 모델로 작업을 시작한다고 밝힘
   2. 프론티어의 성장 여력은 여전히 크다: 스케일링 법칙은 계속 유지될 것이고, 하네스도 계속 개선되며, 워킹 메모리·장기 메모리 기술, RAG, 지식 그래프 등 프론티어 모델 API에 통합되는 기술도 빠르게 발전 중이라고 전망

2. 하지만 특정 업무는 '슈퍼 서브에이전트'로 대체

   1. 범용 AI로는 못 푸는 최적화 문제들: 엔비디아 사내에는 공급망 최적화, 칩 설계 최적화, 플로어플래닝 최적화처럼 극도로 어려운(insanely hard) 최적화 문제들이 있는데, 일반 AI가 이를 그냥 붙잡고 풀게 해서는 좋은 답을 기대할 수 없다고 설명
   2. Deep Agents + Nemotron 3로 구축한 슈퍼 서브에이전트: 이런 문제마다 LangChain의 Deep Agents와 Nemotron 3를 내장한 "슈퍼 서브에이전트"를 만들고, 특화된 툴에 연결한다. 이 에이전트는 "출장 예약이나 일정 관리를 하려는 게 아니라, 오직 공급망 최적화만을 위해 만들어졌다"고 구체적으로 설명
   3. 전담 팀까지 배치: 이런 슈퍼 서브에이전트마다 방대한 독점 지식(proprietary knowledge)과 독점 스킬을 연결하고, 이를 다듬는 데 전담하는 팀이 따로 있다고 언급

3.3. "회사"의 정의가 바뀐다 — 비즈니스 프로세스에서 하네스로

1. 회사는 곧 특화된 워크플로우의 집합이다

   1. 젠슨 황의 정의: "회사는 결국 여러 개의 매우 독점적이고 중요한 워크플로우들의 집합"이라고 정의하며, 이제는 LangChain + Deep Agent + Nemotron 3 Ultra 조합이 이런 워크플로우 각각에 필요한 통제력과 효율적인 툴 접근을 제공한다고 설명. "그게 미래다(that's the future)"라고 단언

2. 인터뷰어의 보충: 하네스가 회사의 '운영체제'가 된다

   1. 비즈니스 프로세스 → 하네스: 오늘날 대부분의 회사는 비즈니스 프로세스 위에 세워져 있지만, 미래의 대부분 회사는 하네스 위에 세워질 것이라고 전망
   2. LangChain = 운영체제를 만드는 도구: LangChain이 각 회사가 자신만의 특화된 하네스를 만드는 도구, 즉 회사의 "운영체제(operating system)"를 만드는 도구가 될 것이라고 설명. 과거의 워크플로우를 표현한 이 하네스가 이제는 자율적(autonomous)이고 에이전틱하며 훨씬 효율적으로 작동하게 된다는 것이 핵심 주장

---

4. 다음 프론티어 — 하네스 안에서 모델까지 포스트트레이닝하기

4.1. 세 가지 최적화 축: 하네스, 모델, 컨텍스트

1. 최적화 지점이 여러 개라는 재확인

   1. 하네스 / 모델 / 컨텍스트: 인터뷰어는 "하네스가 있고, 모델이 있고, 그 주변의 모든 컨텍스트가 있으며, 이 모든 것이 서로 다른 시점에 최적화될 수 있다"고 정리
   2. Nemotron 3 사례의 의의: 프롬프트를 바꾸고 툴을 바꾸는 등 "하네스 쪽에서 ROI가 매우 높은 작업"을 한 좋은 사례가 Nemotron 3 작업이었다고 자평

2. 다음 단계는 '하네스 안에서의 포스트트레이닝'

   1. 시간은 더 걸리지만 상한선을 높인다: 인터뷰어는 Nemotron 3를 하네스 안에서 포스트트레이닝하는 실험을 기대하고 있다며, "시간이 조금 더 걸리지만, 성능의 천장(ceiling) 자체를 끌어올릴 것"이라고 전망

4.2. 젠슨 황의 마무리 — "이전에 존재한 적 없는 능력"

1. 하네스가 자리잡은 이후의 진화 경로
   1. 정보 개선 → 하네스 튜닝 → 모델 자체 개선: 하네스가 이미 구축되어 비즈니스 프로세스의 일부로 성공적으로 작동 중일 때, 그다음 질문은 "이걸 어떻게 더 좋게 만드는가"이며, 계속 정보를 개선하고 하네스를 튜닝할 수 있을 뿐 아니라 이제는 하네스 안의 대형언어모델(Nemotron 3 Ultra) 자체까지 개선할 수 있다고 설명
   2. "완전한 돌파구"라는 평가: 젠슨 황은 이를 "완전한 돌파구(complete breakthrough)"라 부르며, "이전에는 결코 존재한 적 없던 능력(never a capability that's never existed before)"이라고 재차 강조하며 "매우 흥분된다(super excited)"고 인터뷰를 마무리

---

주요 발언 모음

"AI is a fundamental technology. It can only be useful if applied in a whole bunch of different use cases." — 젠슨 황 "Today most companies are built on business processes. In the future, most companies will be built on harnesses." — 인터뷰어(LangChain) "When you have cost-effective intelligence, people just use more of it. When you have a cost-effective agent, then you can iterate across a larger search space." — 젠슨 황 "That's never a capability that's never existed before and I'm super excited about that." — 젠슨 황 (인터뷰 마지막 발언)

핵심 데이터 & 수치

• Nemotron 3 Ultra Deep Agents 벤치마크 점수: 86% (LangChain 자체 내부 벤치마크 기준)
• Claude Opus 비교 점수: 87% (Nemotron 3 Ultra와 거의 동급)
• DeepSeek / MiniMax 계열 오픈 모델 점수: 82~83%대 (Nemotron 3 Ultra보다 낮음)
• 비용 비교: Nemotron 3 Ultra는 Claude Opus 대비 약 10배 저렴
• 영상 길이: 약 11분 26초 (686초)

결론 및 시사점

1. AI 에이전트의 실사용 가능 여부를 가르는 것은 모델 자체보다 모델을 감싸는 "하네스"(그라운딩·툴·메모리·안전장치·반복 능력)이며, 하네스 설계 역량이 실전 성능을 좌우한다.
2. 오픈소스/오픈웨이트 모델(Nemotron 3 Ultra)이 하네스 튜닝만으로 프론티어 폐쇄형 모델(Claude Opus)에 근접한 성능을 10분의 1 비용에 낼 수 있음이 실증됐다 — 비용 효율은 단순 절감이 아니라 더 넓은 탐색·더 많은 반복을 가능케 해 결과 품질 자체를 높인다.
3. 실무 전략은 이분법이 아니다: 범용 작업은 프론티어 모델로 시작하되, 공급망·칩설계처럼 극도로 좁고 어려운 도메인 문제는 오픈 모델+전용 하네스로 만든 "슈퍼 서브에이전트"에 위임하는 하이브리드가 최적이다.
4. 앞으로 기업 경쟁력의 단위는 "비즈니스 프로세스"가 아니라 "하네스"가 될 것이며, 이는 곧 각 기업의 사실상 운영체제가 된다 — AI 도입을 설계할 때 프로세스 자동화가 아니라 하네스(모델+도구+메모리+안전장치) 설계로 접근해야 한다.
5. 다음 단계는 하네스 안에서 모델 자체를 지속적으로 포스트트레이닝하는 것 — 정보 개선, 하네스 튜닝에 이어 모델 개선까지 한 사이클 안에서 반복 가능한 플라이휠이 완성되는 시점이 임박했다.

---

메타데이터

• video_id: Irq5LupJIIw
• 채널: BZCF | 비즈까페 (@B_ZCF)
• 원 제목: "나도 못따라가겠다" (젠슨 황 엔비디아)
• 발행일(upload_date): 2026-08-03
• URL: https://www.youtube.com/watch?v=Irq5LupJIIw
• 처리일: 2026-08-04
• 자막 소스: 영어 자동 자막 (한국어 자동 자막은 429 에러로 확보 실패, 영어 자막 기반 전문 번역)