돈으로 살 수 없는 인사이트와 통찰

URL: https://www.youtube.com/watch?v=KbJgFlC0X1w
날짜: 2026-09-01
채널: B_ZCF

---

📌 핵심 질문 / 이 대화가 다루는 핵심 논점

==군중이 이미 확신하는 아이디어를 조금 변주하는 일보다, 틀릴 가능성을 감수하고도 소수의 비주류 가설에 높은 확신으로 베팅하는 일이 압도적인 가치를 만든다.== AI 시대에는 이 원칙을 연구·창업·제품 설계·안전·교육에 동시에 적용해야 한다.

• 2015년 AGI 연구는 극소수만 시도하던 비합의적 영역이었지만, 지금의 대중적 AI 열풍만 모방하면 새로운 통찰이 나오기 어렵다.
• 기술은 급격히 발전해도 사람과 기업의 습관, 기존 공급자, 조직의 의사결정은 훨씬 느리게 변하므로 제품과 사회의 전환 속도를 과대평가하면 안 된다.
• AI의 장기 목표는 사람의 자율성과 영향력을 빼앗는 것이 아니라, 더 많은 사람이 더 작은 비용으로 생각하고 만들고 창업하도록 역량을 넓히는 데 있어야 한다.
• 가장 안전한 학습 방식은 현실과 단절된 연구실에서 모든 위험을 예측하는 것이 아니라, 실제 사용자를 통해 사고를 발견하고 투명하게 기록하며 개선하는 것이다.

대화는 Sam Altman의 OpenAI 창업과 연구 운영 경험, Toby Lütke의 손에 잡히는 AI 활용, YC의 반복적 실행 철학, 인간의 습관과 아날로그 관계, AI 안전 및 권력 집중의 위험, 그리고 성공에서 얻는 패턴 학습의 힘을 연결한다.

1. 비주류 가설이 만드는 비대칭적 가치

1.1. 2015년 AGI와 사진 공유 앱의 대비

1. OpenAI의 출발점은 비합의적 선택이었다

   1. 2015년 말 OpenAI가 시작될 때 전 세계에서 AGI를 시도하는 조직은 매우 적었다. DeepMind와 한두 곳 정도가 떠올랐고, AGI를 목표로 삼는 일은 주류의 합의와 거리가 멀었다.
   2. 같은 시기에는 사진 공유 앱을 시작하는 창업자가 수천 명에 달했을 가능성이 높았다. 사진 공유 앱이 나쁜 제품이라는 뜻이 아니라, 이미 많은 사람이 몰린 방향을 다시 택하는 일은 비대칭적인 기회를 만들기 어렵다는 뜻이다.

2. 새로운 아이디어는 아직 좋아 보이지 않을 수 있다

   1. 지금은 많은 사람이 AI 연구소를 만들고 싶어 하지만, 진짜 비주류 기회는 두세 명 정도가 시도하는, 아직 좋은 아이디어처럼 보이지 않는 분야에 숨어 있을 수 있다.
   2. 스타트업 투자자가 찾고 싶은 대상은 시장의 마지막 성공 사례를 얇게 복제한 창업자가 아니라, 기술적으로나 사업적으로 아직 검증되지 않았어도 자신만의 가설에 높은 확신을 가진 사람이다.

1.2. 진짜 독창성과 가짜 반대 의견

1. 군중을 따르면서 독창적인 척하는 패턴

   1. 지난 천 명이 설명한 아이디어와 거의 같은 내용을 조금 다르게 포장한 창업자는 스스로도 완전히 새롭다고 믿을 수 있지만, 실제로는 무리에 편입되려는 경우가 많다.
   2. Peter Thiel이 “다르게 하라”고 말한 내용을 흉내 내면서 실제로는 모두가 하는 방식으로 창업하려는 태도는 비주류 정신이 아니다.

2. 높은 확신은 틀릴 가능성까지 포함한다

   1. 다르게 생각하고 인기가 없는 확신을 끝까지 지키는 사람은 틀릴 수도 있다.
   2. 그러나 맞았을 때는 모두가 조금씩 개선한 아이디어보다 훨씬 큰 결과를 낸다. 투자와 연구 모두 위험이 크다는 이유만으로 배제할 것이 아니라, 성공했을 때의 가치가 얼마나 큰지 함께 봐야 한다.

2. Toby Lütke가 보여주는 ‘직접 해본 CEO’의 통찰

2.1. 기술의 경계에서 제품을 이해하는 방식

1. Toby Lütke는 초기부터 AI에 가장 빠르게 기울었다

   1. 그는 AI가 발전하는 모든 단계에서 가장 전향적으로 움직인 CEO로 묘사된다.
   2. 직접 소프트웨어를 쓰고, 모델을 실험하고, 제품을 손수 만들며, 모델의 능력과 제품 제안에 대해 매우 구체적인 피드백을 보낸다.

2. 에이전트 전환을 남보다 먼저 받아들였다

   1. Toby는 회사가 단순한 NPC 기업으로 남아서는 안 되며 에이전트를 채택하지 않으면 곤란해진다고 일찍부터 말했다.
   2. 다른 사람이 만든 도구를 기다리기보다 스스로 구축하려 했고, 그 결과 CEO인지 아닌지를 떠나 누구보다 기술의 가장자리에 서 있었다.

3. 과장 대신 현재 능력과 다음 단계를 구분한다

   1. Toby의 말에는 AI가 지금 실제로 할 수 있는 일, 곧 할 수 있을 것으로 보이는 일, 회사가 그 능력을 어떻게 밀어붙일지가 분리되어 있다.
   2. 2024년 무렵 “먼저 AI가 문제를 해결할 수 있는지 확인해야 한다”고 쓴 편지는 당시 많은 사람에게 터무니없다는 반응을 받았지만, 이후의 발전은 그 관점을 점점 더 현실적인 것으로 만들었다.

2.2. 2026년 ‘모든 사업이 열리는 해’라는 전망

1. AI 네이티브 Shopify를 직접 만들겠다는 선언

   1. Toby는 2026년을 모든 사업이 다시 경쟁에 열리는 해로 되돌아볼 것이라며, 누군가 AI 네이티브 Shopify를 만들 것이고 그 사람이 자신일 것이라고 말했다.
   2. 그는 밤마다 현재 기술로 사업을 처음부터 다시 시작한다면 무엇을 만들지 직접 재구성한다.

2. 손수 쓰는 경험이 제품 감각을 만든다

   1. 대기업 CEO가 여러 단계의 관리자와 팀에 제품 사용을 맡기면, 조직이 거친 부분을 다듬어 보고하거나 CEO를 만족시키려는 과정에서 실제 사용감이 사라질 수 있다.
   2. Toby는 도구를 직접 쓰고, 직접 코드를 작성하고, 자신의 업무 흐름을 다시 설계하면서 기술이 실제로 어디까지 왔는지 체감한다.

3. 전망에는 시기와 범위의 조정이 필요하다

   1. 모든 사업이 문자 그대로 AI에 의해 열리는 것은 아니다. AI가 좋아질수록 진정성 있는 비기술적 경험, 스포츠팀처럼 AI와 직접 관계가 적은 영역은 오히려 경쟁력이 커질 수 있다.
   2. 다만 소프트웨어 사업 다수는 상당히 크게 재편될 수 있다. Sam Altman은 방향에는 동의하지만 2026년이라는 시점은 조금 이르다고 본다.

3. 기술보다 느린 인간과 경제의 적응

3.1. GPT-4 이후의 시간표 재평가

1. 예상보다 느린 소프트웨어 파괴

   1. GPT-4가 나온 2023년에는 곧바로 소프트웨어 사업 대부분이 열리고 크게 흔들릴 것이라고 예상했다.
   2. 실제로는 경제에 강한 관성이 있었다. 사람들은 기존에 사던 회사에서 계속 사고, 익숙한 도구를 같은 방식으로 사용하며, 하던 일을 계속했다.

2. 느린 적응은 전환을 부드럽게 만든다

   1. 이 관성은 기회를 늦추지만 사회가 감당할 수 있는 속도로 변화하게 하는 긍정적 기능도 있다.
   2. AI가 인류가 발명한 가장 놀라운 기술 중 하나여도 사회와 경제의 적응 속도는 훨씬 느리므로, 기술의 가능성과 도입의 시간표를 분리해야 한다.

3.2. 역사 속 행동 변화의 저항

1. Larry Ellison이 말한 ‘사람의 문제’

   1. 1980년대 소프트웨어를 둘러싼 Larry Ellison의 핵심 관찰은 문제가 소프트웨어 자체가 아니라 사람이라고 설득하는 일이었다.
   2. 기술이 준비되어도 사용자가 행동을 바꾸지 않으면 혁신은 일어나지 않는다.

2. Netflix와 Blockbuster의 사례

   1. Netflix가 스트리밍 전부터 DVD를 배송했을 때도 사람들은 여전히 Blockbuster에 갔다.
   2. 새 방식이 분명히 편리해도 익숙한 행동을 반복하는 힘은 기술 전문가들이 생각하는 것보다 훨씬 강하다.

3. AI 도입도 두 세계를 오간다

   1. 사람들은 기존 컴퓨터 사용법과 AI가 컴퓨터를 새 방식으로 조작하는 방법을 모두 갖고 있지만, 언제 어떤 방식을 써야 할지 아직 확신하지 못한다.
   2. 이런 마찰은 사용자의 의지 부족만이 아니라, 새 인터페이스를 충분히 매끄럽게 만들지 못한 제품의 실패이기도 하다.

4. AI의 ‘아이폰 순간’과 제품 철학

4.1. Codex를 알면서도 옛 방식으로 일하는 심리

1. 20년 동안 굳어진 생산성의 정의

   1. Sam Altman은 20년 동안 컴퓨터를 거의 같은 방식으로 사용했다. 이제 Codex라는 강력한 도구가 있지만 메시지 앱 사이를 오가며 복사·붙여넣기하고, 읽기 싫은 이메일을 스크롤하며, 할 일 목록의 반복 작업을 직접 처리한다.
   2. 그렇게 하는 방식을 좋아한다고 말하지는 않지만, 실제 선택으로 드러난 선호를 보면 그 방식이 일하고 생산적이라는 느낌을 은밀히 좋아하는 듯하다.

2. 습관은 점진적으로 바뀐다

   1. 개인의 깊이 각인된 업무 흐름을 한 번에 바꾸기는 어렵고, 새로운 방식은 점진적으로 스며드는 편이 현실적이다.
   2. 더 좋은 제품은 사용자가 기존 방식과 새 방식을 오가는 부담을 줄여야 한다.

4.2. Palm Treo에서 아이폰까지

1. 기술 부품과 제품 경험의 차이

   1. 2003~2004년의 Palm Treo 같은 초기 스마트폰에는 많은 기술적 요소가 이미 있었지만, 아이폰을 아이폰으로 만든 제품 아이디어와 인터페이스는 없었다.
   2. Sidekick도 멋져 보였지만, 멀티터치 같은 기술의 부재보다 더 큰 문제는 사람들이 기술과 상호작용하는 방법을 완전히 바꿀 제품 발상이 없었다는 점이었다.

2. AI에도 인터페이스의 전환점이 필요하다

   1. 현재 AI에는 충분한 기술 조각이 모여 있지만, 아직 아이폰처럼 컴퓨터와 상호작용하는 방법 자체를 바꾸는 순간은 오지 않았다.
   2. AI의 다음 도약은 모델 성능만의 문제가 아니라 사용자가 기술을 자연스럽게 받아들이는 제품 경험의 문제다.

4.3. Steve Jobs와 ‘환자 0번’ 방식

1. 자신이 가장 까다로운 첫 사용자 되기

   1. Josh Kushner는 Sam의 방식이 Steve Jobs와 비슷하다고 본다. Jobs는 코드를 직접 쓰거나 하드웨어를 직접 조립하지 않았지만 자신이 원하는 제품을 스스로 써보는 ‘환자 0번’이었다.
   2. Apple의 제품은 본인이 원하는 것이 무엇인지에서 출발했고, 사용자의 손에서 느껴지는 즉각성을 극단적으로 밀어붙였다.

2. MacBook 부팅 지연 사례

   1. 팀이 새 MacBook을 설명하기 위해 긴 프레젠테이션을 준비했지만, Jobs는 노트북을 켜고 끄는 버튼을 누른 뒤 곧바로 열었다.
   2. 화면이 뜨기까지 지연되자 “이걸 즉시 되게 만들라”고 말하고 방을 나갔다. 제품의 핵심 결함은 한 시간짜리 발표보다 직접 사용한 몇 초에서 더 선명하게 드러났다.

5. OpenAI가 우선하는 모델·컴퓨트·플랫폼

5.1. 제품보다 먼저 해결할 고레버리지 문제

1. 스마트한 모델을 풍부하고 효율적으로 제공하기

   1. Sam의 현재 주된 노력은 제품보다 연구와 컴퓨트에 있다. 좋은 제품을 생각하는 사람들은 회사 안에 있지만, 가장 중요한 일은 스마트한 모델을 만들고 많은 사람이 효율적으로 충분히 쓰게 하는 일이다.
   2. 높은 레버리지를 가진 어려운 문제를 찾아 지수적 성장을 이어가야 한다는 철학에 따라, OpenAI는 모델과 컴퓨트를 핵심 문제로 본다.

2. 컴퓨트는 여러 산업의 교차점이다

   1. 대규모 컴퓨트에는 복잡한 공급망, 다양한 파트너십, 막대한 자금 조달이 필요하다.
   2. 자체 칩 설계, 팹과 랙을 만드는 공급업체, 전력 시스템, 에너지, 데이터센터 건설이 모두 연결된다. 기술·사업·정책·공급망·물류를 함께 다뤄야 하므로 Sam의 관심과 잘 맞는다.
   3. 이 프로젝트는 이미 역사상 가장 비싼 인프라 사업이거나 빠르게 그렇게 되어가는 사업으로 묘사된다.

5.2. ChatGPT와 Codex를 잇는 단일 인터페이스

1. 개인과 기업의 AGI를 한곳에서 사용한다

   1. ChatGPT와 Codex를 합쳤고, 이전에는 ChatGPT·Codex·API가 따로 있었다. Codex라는 이름은 코딩 전용처럼 들리지만 실제로는 어떤 종류의 일도 할 수 있어 혼란을 만들었다.
   2. 대부분의 사람에게 필요한 것은 개인이나 회사의 AGI에 무엇이든 요청할 수 있는 단일 인터페이스와, 그 위에 원하는 것을 만들 수 있는 API다.

2. 비용·성능 곡선 전체를 담당한다

   1. 과학 발견에 필요한 최고급 AI와 대량의 단순 업무를 빠르게 처리하는 저비용 AI를 모두 제공해야 한다.
   2. 사람들은 많은 AI를 낮은 비용으로, 빠르고 안정적으로, 자신의 맥락을 이해하는 방식으로 쓰기를 원한다. AI가 새로운 유틸리티나 상품처럼 작동하려면 성능뿐 아니라 속도와 맥락, 매끄러운 경험이 필요하다.

3. 고객과 경쟁하지 않는 범용 플랫폼

   1. 채팅에서 시작한 인터페이스는 코딩 에이전트를 거쳐 지속적으로 곁에 있는 에이전트가 될 수 있다.
   2. OpenAI가 모든 제품 카테고리를 직접 만들거나 모든 고객과 경쟁하거나 경제 전체를 흡수할 필요는 없다.
   3. 하나의 직접 인터페이스와 하나의 API를 제공해 1억 개의 새로운 사업체와 80억 명의 사람이 각자 새로운 방식으로 활용하게 하는 것이 플랫폼의 방향이다.

5.3. 좋은 아이디어를 버리고 위대한 것에 집중하기

1. Sora와 Atlas를 정리한 이유

   1. Sora는 재미있고 좋은 제품이었지만 컴퓨트를 많이 사용했고 Codex만큼 중요하지 않아 중단했다.
   2. Atlas 웹 브라우저는 최고의 브라우저라고 생각했지만, 그 인재를 다른 곳에 투입하는 편이 더 중요해 중단했다.

2. 자원 제약이 집중을 강제한다

   1. 컴퓨트·사람·자원이 제한된 상황에서 지식 노동과 과학을 위한 범용 지능이 가장 중요하다고 판단했다.
   2. 자체 칩과 데이터센터, 인프라 소프트웨어, 모델 학습처럼 지능 생성의 상류에 해당하는 영역에 집중하고, 그 AI를 지적 작업·과학 발견·개인 생산성에 서비스로 제공한다.
   3. 좋은 아이디어를 죽이는 일은 모든 기업가가 가장 힘들어하는 교훈이며, Sam도 자신이 이 일에 서툴다는 점을 인정한다.

6. 스타트업 투자와 AI 연구의 공통 구조

6.1. 연구 프로그램을 운영하는 일은 투자와 닮았다

1. 비합의적 베팅을 고르는 능력

   1. 스타트업 투자와 연구 모두 어디에 확신을 둘지, 지수적 성장이 어떤 모습인지, 특이한 재능을 어떻게 발견하고 관리할지 판단해야 한다.
   2. 평균적인 연구자와 창업자는 겉보기에는 다르지만, 새 접근법을 택하고 불확실성을 견디는 방식에는 공통점이 있다.

2. 파워 법칙에 맞춰 판단한다

   1. 투자에서 최고의 한 건은 나머지 모든 투자 성과를 합친 것보다 더 크게 기여할 수 있고, 두 번째 투자는 그다음 나머지 전부보다 더 크게 기여할 수 있다.
   2. 인간의 뇌는 이런 분포를 자연스럽게 받아들이지 못하므로, 성공 가능성이 낮아 보여도 맞았을 때 가치가 압도적인 선택을 일부러 고려해야 한다.

6.2. AGI와 대규모 언어 모델에 대한 초기 확신

1. 두 번의 비웃음을 견뎠다

   1. 2015년 AGI를 목표로 한다고 했을 때 해당 분야의 지적 거장들에게 강하게 비판받았다.
   2. 이후 대규모 언어 모델에 집중했을 때도 완전히 터무니없다는 반응을 받았다.

2. 높은 위험에는 높은 성공 가치가 필요하다

   1. 실패할 위험이 큰 베팅도 성공했을 때의 가치가 매우 크다면 선택할 수 있다.
   2. 높은 에너지와 신선한 접근법, 비표준적인 사고를 가진 연구자는 마지막 성공 기법을 좇는 연구자보다 연구실에 더 큰 돌파구를 가져올 수 있다.

3. ‘수도승 연구자’의 가능성

   1. Demis Hassabis는 거대한 자본을 요구하는 대형 플레이어가 더 등장하기는 어렵지만, 지금까지 아무도 생각하지 못한 각도로 접근하는 한 명의 수도승 같은 연구자가 돌파할 가능성은 작게나마 남아 있다고 말했다.
   2. 정확한 확률은 정할 수 없지만 그런 가능성이 연구를 계속 흥미롭게 만든다는 데 의견이 모였다.

7. AI에 끌린 어린 시절과 과학 발견의 약속

7.1. ‘불가능해 보여도 해보자’라는 성향

1. AI는 평생의 관심사였다

   1. Sam은 컴퓨터를 좋아하고 금요일 밤에 컴퓨터를 만지거나 공상과학을 읽는 아이였다.
   2. 대학에 진학한 이유 중 하나도 AI를 공부하기 위해서였고, 신입생과 2학년 사이 여름에는 AI 연구실에서 일했다.

2. 2005년의 잘못된 확신

   1. 당시 한 교수는 여러 연구 방향을 제시하면서도 딥러닝만큼은 오랫동안 시도했지만 작동하지 않았고, 확실히 나쁜 경력을 만드는 길이라고 말했다.
   2. 영향받기 쉬운 대학생이었던 Sam은 그 말을 사실로 받아들였고, 당시 AI는 실제로 작동하지 않는다고 생각했다. 이후 우연히 스타트업에 들어갔고 스타트업을 깊이 사랑하게 되었다.

3. 불가능할수록 커지는 호기심

   1. AI를 좋아한 이유는 컴퓨터 괴짜라면 누구나 꿈꿀 만한 일이었기 때문이다. 차이는 대부분의 사람이 “멋지지만 불가능하다”고 멈출 때 “확실한가, 왜 안 되는가, 한번 해보자”고 생각한 데 있다.
   2. AI는 사람에게 다른 어떤 단일 기술보다 더 많은 능력을 주고, 무엇이든 할 수 있게 해줄 가능성이 있었다. 기술의 역사가 사람에게 더 큰 힘을 주는 과정이라면 AI는 그 가장 강한 형태다.

7.2. 로봇에서 과학 발견까지

1. 움직이는 물체에 대한 초기 매력

   1. 학교 로봇 동아리 활동을 했고, 컴퓨터로 바닥이나 테이블 위의 작은 거북이를 조종하는 실험을 가장 멋진 일로 기억한다.
   2. 컴퓨터의 명령으로 물리적 세계가 움직이는 경험은 AI에 대한 초기 상상과 연결된다.

2. AI의 가장 중요한 역할은 이해의 확장일 수 있다

   1. AI가 새로운 물리 법칙을 발견하고 질병을 치료하며 수학의 새 문제를 푸는 일은 다른 업무의 자동화보다 더 중요할 수 있다.
   2. David Deutsch의 『The Beginning of Infinity』를 현재의 관점에서 다시 읽으면, AI가 세계를 가능한 한 많이 이해하게 하는 기술이라는 생각이 강해진다.
   3. Star Trek식 풍요와 번영, 과학을 통해 세계를 이해하고 예측하며 지금은 할 수 없는 일을 하는 능력이 장기적 매력으로 제시된다.

8. AI 이후에도 사람과 현실 세계가 중요한 이유

8.1. Shannon과 Turing이 상상한 AI

1. 1940년대의 예측

   1. Claude Shannon과 Alan Turing은 Bell Labs에서 매일 커피를 마시며 AI를 이야기했고, 당시 아날로그 컴퓨터만 존재하던 상황에서도 AI가 필연적으로 등장할 것이라고 생각했다.
   2. 두 사람은 약 15년 뒤인 1955년쯤 인간보다 똑똑한 컴퓨터가 나올 것이라 예상했다.

2. AI가 해야 할 일에 대한 오래된 목록

   1. 수학 문제를 풀고, 시를 쓰고, 질병을 치료하는 일이 그들이 AI에 기대한 기능이었다.
   2. 현재 AI가 새 수학 문제를 풀고 과학을 돕고 시와 음악, 팟캐스트를 만드는 모습을 보면, 그들이 살아서 이 장면을 보았다면 “드디어 해냈다”고 했을 것이라는 감탄이 나온다.

3. 현재의 인간을 기준으로 미래를 제한하는 오류

   1. 음악 업계는 AI가 훌륭한 음악을 만들지 못할 것이라고 말하고, 사람들은 AI가 팟캐스트를 만들 수 있을지 묻지만, AI가 결국 인간이 할 수 있는 일을 대부분 더 잘할 것이라는 전망은 일관된다.
   2. 지금 자신이 살아 있는 시점의 능력을 AI가 영원히 넘지 못할 것이라고 생각하는 태도에는 깊은 심리적 오류가 있다.

8.2. 인간의 연결과 아날로그 경험

1. 사람에 관한 일은 더 가치 있어질 수 있다

   1. 두 AI가 사람보다 더 흥미로운 대화를 만들더라도, 사람들은 자신이 좋아하거나 싫어하는 실제 인물이 대화하는 데 계속 관심을 가질 가능성이 크다.
   2. 사람의 연결, 사람에게 사랑받는 일, 사람과 사람 사이의 관계를 다루는 직업은 AI 이후 오히려 더 가치 있어질 수 있다.

2. 디지털 노동과 아날로그 삶은 공존한다

   1. Sam은 전 세계로 방송되는 디지털 일을 하지만 물리적 책을 읽고, Zoom보다 직접 만나 대화하는 아날로그 삶을 원한다.
   2. 대화 상대도 전자책보다 종이책을 좋아하고 Zoom 회의보다 현실에서 사람을 만나는 일을 선호한다고 말한다.

3. 대다수 인간은 여전히 인간을 원한다

   1. 컴퓨터와만 소통하고 사람을 싫어하는 소수의 괴짜는 존재하지만, 인류 대부분은 다른 사람과 함께 있고 교류하기를 원한다.
   2. 초지능이 등장해도 사람을 근본적으로 인간답게 만드는 욕구는 크게 달라지지 않는다. 인간을 방해물이나 위험 요소로만 보는 사람이 권력을 갖지 못하게 해야 한다.

9. AI 안전, 자율성, 권력 집중

9.1. 가장 걱정되는 두 가지 위험

1. 통제 상실

   1. AI가 지나치게 강력해져 인간이 원하는 통제를 보장하지 못하는 상황이 첫 번째 위험이다.
   2. 인간이 스스로 미래를 선택하는 대신 모델에 통제권을 넘기는 일은 사람을 믿지 않는 반인간적 태도다.

2. 권력의 중앙집중

   1. 하나의 회사, 모델, 사람에게 너무 많은 권력이 모이는 일이 두 번째 위험이다.
   2. 안전을 이유로 다른 사람이 기술에 접근하지 못하게 하고 소수 기업에 사용 권한과 의사결정을 집중하면, 사람의 자율성과 미래에 미치는 영향력이 함께 줄어든다.

9.2. ‘안전을 대가로 자유를 넘기라’는 나쁜 판매 제안

1. 반인간적 거래 구조

   1. 일부 AI 관점은 질병 치료, 값싼 물질, 훌륭한 엔터테인먼트를 주는 대신 사람들이 미래에 대한 자율성과 영향력을 포기하라고 요구하는 것처럼 보인다.
   2. 소수는 엄청난 부와 권력을 얻고 다수는 적당히 좋은 것만 받는 극단적인 불평등도 이 거래에 포함된다.

2. 두려움과 권력 추구의 결합

   1. AI 위험의 규모에 압도된 사람들은 자유를 안전과 맞바꾸어야 한다고 생각하기 쉽다.
   2. 그러나 위험을 강조하는 언어는 실제 안전을 넘어 권력을 집중하려는 행동을 정당화하는 도구가 될 수도 있다.

9.3. 파국론을 반박하는 현실 접촉형 안전

1. 동의하는 부분과 동의하지 않는 부분

   1. AI가 강력한 기술이므로 각 단계에서 안전을 우선하고 신중하게 행동해야 한다는 파국론자의 주장에는 동의한다.
   2. 반면 안전 문제가 원천적으로 풀 수 없다는 주장에는 동의하지 않는다. 2015년에는 10년 안에 AGI가 나올 리 없고, 만약 나오면 세계가 파괴될 것이라는 의견이 널리 퍼져 있었다.

2. 예측을 현실에 맞춰 업데이트하기

   1. 실제로 많은 사람이 AGI와 비슷하다고 평가할 만한 시스템이 만들어졌고, 좋은 일들이 일어났으며, 세계가 끝난다는 예측은 일어나지 않았다.
   2. 이 경험은 미래 예측을 업데이트해야 한다는 근거다. 앞으로의 과제는 여전히 더 어렵지만, 불가능하다고 단정할 이유는 없다.

3. 실제 사용이 안전성을 만든다

   1. 스타트업은 제품을 세상에 내놓고 고객이 어디서 깨뜨리는지, 무엇을 좋아하는지, 어떤 요구가 있는지 관찰하며 좋아진다.
   2. 안전한 AI도 같은 방식으로 실제 사용을 통해 guardrail을 완화해야 할 정당한 사용 사례, 정렬 실패, 안전 시스템 실패를 발견하고 개선해야 한다.
   3. ChatGPT는 출시 후 4년이 채 되지 않은 기간에 매주 약 10억 명이 사용하는 제품으로 성장했고, 민감하고 중요한 일에도 사용되면서 대체로 안전한 제품이라는 평가를 얻었다. 이런 진전은 현실과 단절된 상아탑만으로는 만들기 어려웠다.

9.4. 항공 안전에서 배우는 사고 기록

1. FAA식 명확한 사후 분석

   1. 항공은 처음에는 매우 위험해 보였지만, FAA와 업계는 사고를 강력하게 보고하고 원인을 명확히 분석하며 한 가지 사건에서도 최대한 많은 정보를 추출했다.
   2. 사고를 얼버무리지 않고 투명한 postmortem을 남기는 방식이 비행을 일상적으로 신뢰할 수 있는 활동으로 만들었다.

2. AI와 사회는 함께 진화한다

   1. AI의 영향을 연구실 안에서 모두 예측할 수는 없다. 사회와 모델은 서로 영향을 주며 함께 진화한다.
   2. 기술의 힘을 사람들의 손에 두고, 사용 중 발생한 사고를 연구하며, 배운 내용을 다른 AI 개발자와 공유하는 과정이 좋은 제품과 안전한 제품을 동시에 만든다.
   3. 모델이 인간 최고 수준의 지능에 가까워지고 곧 그 경계를 넘어설수록, 상대적으로 같은 난이도라도 절대적 문제는 더 어려워진다. 언제 개발을 늦출지, 언제 현실 접촉을 선택할지에 대한 판단이 중요해진다.

10. 사람들이 AI를 사랑하면서도 싫어하는 이유

10.1. 급격한 사회경제 변화에 대한 본능적 저항

1. 산업혁명의 반복

   1. 산업혁명 때도 사람들은 기술 변화에 보편적으로 따뜻한 감정을 보이지 않았다.
   2. 급격한 변화에 회의적이고 일정한 관성을 갖는 인간의 본능은 혼란스러운 시기에 사회를 보호하는 기능이 있을 수 있다.

2. AI 업계의 공포 중심 메시지

   1. AI를 만드는 사람들이 세계가 파괴될 확률을 25%라고 말하면서도 나쁜 사람들이 먼저 하기 전에 경쟁해야 한다고 말하거나, 1년 안에 일자리의 50%가 사라질 것처럼 말하면 대중이 두려워하는 것은 당연하다.
   2. 보편적 기본소득이나 일이 선택 사항이 될 것이라는 대답만으로는 사람들이 왜 더 강한 자율성과 미래 설계 권한을 가져야 하는지 설명할 수 없다.

10.2. 기업가 정신을 확장하는 AI

1. 자율성은 경제의 핵심 동력이다

   1. 최근 수세기의 경제적 기적은 사람들이 새 일을 하고, 회사를 만들고, 기술을 발명하고, 자신의 생각을 밀어붙일 자유를 얻은 데서 나왔다.
   2. AI가 사람의 힘을 늘리는 대신 소수의 안전한 결정에 복종시키면, 기업가가 아니더라도 미래에 영향을 주고 싶어 하는 사람에게 위협으로 느껴진다.

2. 소규모 사업의 역사적 붐

   1. 대기업을 만들고 싶지 않은 사람도 작은 회사를 시작하고 싶어 하지만, 지금까지는 특권·운·자원 때문에 어려웠다.
   2. AI는 작은 사업을 시작하는 데 필요한 능력과 자본의 문턱을 낮춰 역사상 가장 큰 소규모 창업 붐을 만들 수 있다.
   3. AI 업계는 이런 긍정적 변화를 충분히 설명하지 않았고, 그 붐을 가속할 제품도 아직 충분히 만들지 못했다.

10.3. 기술 산업이 해야 할 교육

1. AI와 기업가를 함께 키우는 관계

   1. Toby Lütke는 자신과 대화 상대가 같은 사업을 한다고 말했다. Shopify는 기업가를 위한 인프라를 만들고, Founders 팟캐스트는 기업가를 위한 교육과 영감을 만든다.
   2. AI도 사람들이 기술을 이해하고 자신이 원하는 사업과 삶을 설계하도록 돕는 교육적 역할을 해야 한다.

2. Intel의 교육 캠페인

   1. 『The Intel Trinity』는 Bob Noyce, Andy Grove, Gordon Moore가 집적회로에서 마이크로프로세서로 나아갈 때 기술이 잠재 고객을 겁먹게 할 수 있다는 사실을 깨달은 이야기를 전한다.
   2. 세 사람은 일을 멈추고 고객·투자자·국가 전체를 교육했고, 한때 지역 커뮤니티 칼리지가 제공하는 전체 강좌 수보다 더 많은 교육을 열었다.
   3. AI 업계는 변명할 수 없으며, 현재처럼 기술의 가능성과 사용법을 대화하고 교육하는 일을 훨씬 더 많이 해야 한다.

11. 지능보다 맥락이 중요한 다음 단계

11.1. AI에 더 많은 개인 맥락을 제공하기

1. 모델 지능 다음의 병목

   1. 최신 모델은 충분히 똑똑해졌고, 사용자를 제한하는 것은 모델의 지능보다 AI가 사용자에 대해 알고 있는 유용한 맥락의 양일 수 있다.
   2. 모든 내부 Slack 글, 고객이 제품을 잘 쓴 사례와 실패한 사례, 읽을 만한 연구 논문을 한 사람이 직접 읽을 시간과 정신적 에너지는 부족하다.

2. 개인 자문 에이전트

   1. AI가 사용자의 업무와 관심사에 대한 더 많은 맥락을 계속 읽고 이해하며, 사용자가 직접 처리하기 싫거나 처리할 수 없는 일을 맡아야 한다.
   2. 사람보다 훨씬 많은 정보를 짧은 시간에 정확하게 활용해 큰 결정을 내릴 때 조언하는 에이전트는 새로운 업무 방식이 될 수 있다.
   3. 수만 페이지의 맥락을 몇 초 안에 읽고 정확히 사용할 수 있는 사람은 없지만, AI는 이 일을 할 수 있다.

11.2. 기억을 외부화하는 개인 도구

1. 책과 대화 기록을 검색 가능한 지식으로 만들기

   1. 대화 상대는 2018년 이후 읽은 모든 책의 메모와 하이라이트, Founders 팟캐스트의 모든 에피소드 기록을 데이터베이스에 넣은 개인 AI 도구를 만들었다.
   2. 책을 직접 읽고 메모한 내용도 7년이 지나면 잊기 때문에, Claude Shannon 에피소드를 만들 때 과거 기록에서 특정 인물이 무엇을 말했는지 검색해 활용한다.

2. 기억보다 중요한 것은 적절한 순간의 회수다

   1. 기업가와 대화할 때 과거 전기에서 특정 일화가 떠오르면 큰 도움을 줄 수 있지만, 사람이 모든 일화를 정확히 기억하기는 어렵다.
   2. AI는 방대한 기록을 상황에 맞는 순간에 꺼내어 사람의 판단과 통찰을 보강한다.

12. 연구실을 세우고 운영한 경험

12.1. 투자자에서 창업자로 돌아간 드문 경로

1. 투자자가 본 크럭스 결정의 데이터

   1. 일반적인 실리콘밸리 경로는 창업자가 회사를 매각하고 투자자가 되는 것이지만, Sam은 투자자로 먼저 여러 회사를 관찰한 뒤 회사를 운영하는 방향으로 갔다.
   2. 투자자는 매일 회사를 운영하지는 않지만, 전략 전환·임원 해고·중대한 실수·성공적 결정을 여러 회사에서 반복해 본다. 그 넓은 데이터 세트는 한 회사에서 5~10년 동안 겪는 제한된 경험보다 다양한 선택지를 제공한다.

2. 실패한 첫 창업의 한계

   1. Sam의 첫 창업은 크게 성공하지 못했으므로, 창업자에서 투자자로 갔다가 다시 창업자로 돌아온 경로를 완전히 성공한 창업자의 전형으로 부르기는 어렵다.
   2. 그럼에도 투자자 경험은 OpenAI를 운영할 때 과거 사례를 떠올려 판단하는 데 큰 도움을 주었다.

3. 역사 속 기업가를 학습하는 방식

   1. Daniel X는 대화 상대를 역사상 가장 위대한 기업가들의 기록으로 학습한 대규모 언어 모델에 온도를 높인 사람이라고 표현했다.
   2. 죽은 기업가에 집착하듯 전기를 읽고, Carnegie나 Rockefeller가 비슷한 문제에 어떻게 대응했는지 현재 창업자의 상황에 연결하는 방식은 상황별 패턴을 제공한다.
   3. 원칙은 존재하지만 적용 방식은 창업자의 성격과 목표에 따라 달라진다. 간결한 글과 번호 매기기를 좋아하는 두 사람의 사고 방식도 이런 공통된 원칙을 반영한다.

12.2. OpenAI 초창기의 ‘할 일이 없는’ 순간

1. Greg Brockman의 아파트에 모인 첫날

   1. 2016년 새해 직후 월요일 또는 화요일 오전 9시~9시 30분쯤, 약 11~12명이 Greg Brockman의 아파트에 모였다.
   2. 첫 등교처럼 모두 들떠 있었지만, 곧 누군가 “이제 무엇을 하지?”라고 물었다. 화이트보드가 필요하다는 말이 나와 누군가 구해 왔지만, 화이트보드가 도착한 뒤에도 할 일을 아는 사람은 없었다.

2. 제품 스타트업과 다른 연구 조직

   1. 제품 스타트업이라면 제품을 만들고 고객과 이야기하면 되지만, AGI 연구소는 “AGI를 만들고 싶다”는 선언만 있을 뿐 다음 행동이 명확하지 않았다.
   2. 논문을 쓸지, 아이디어를 생각할지조차 정하지 못한 채 모두가 자신이 무엇을 하는지 모르는 시간을 겪었다.

3. 혼란에서 연구의 리듬으로

   1. 여러 시도를 실패한 뒤 연구를 만들고 평가하는 리듬을 찾아갔다. 완벽하지는 않았지만, 어디로 나아가는지 보여주는 경사와 진척도를 만들었다.
   2. 똑똑한 사람에게 필요한 자원을 제공하고 연구가 완전히 길을 잃지 않게 하는 방법도 배웠다.
   3. 비지도 감정 분석 논문은 GPT-1로 이어졌고, 스케일링 손실 연구는 더 많은 컴퓨트와 모델 확장에 대한 확신으로 이어졌다.
   4. Dota 2에서 강화학습으로 사람을 이기려 할 때는 아이디어별 성과를 공개 리더보드로 보여줘 연구자들이 객관적인 신호를 확인하게 했다. 외부 데모로 연구자가 존경하는 사람을 감탄시키는 방식도 효과가 있었고, 반대로 가짜 신호처럼 작동한 시도도 있었다.

12.3. 연구 프로그램에 외부 신호를 대체하는 법

1. 역사 속 연구소에서 배우기

   1. Bell Labs와 Xerox PARC의 전성기를 다룬 책이 유행하던 시기에 OpenAI가 시작되었고, 과거의 훌륭한 연구소 운영자들에게 조언을 구했다.
   2. Alan Kay 등에게 좋은 연구실의 조건을 물었고, 일부 조언은 유용했지만 현재의 AI와 조직 환경에 그대로 옮겨지지 않는 내용도 있었다.

2. Bell Labs와 달랐던 재정 조건

   1. Bell Labs와 Polaroid는 사실상 독점에 가까운 수익 창출 기계가 연구를 뒷받침했다. Honda의 창업자도 Honda Cub가 수십 년 동안 수백만 대 팔린 뒤 연구개발을 회사와 분리해 운영해야 한다고 보았다.
   2. 초기 OpenAI에는 그런 수익 독점이나 현금 창출 기계가 없었고, Sam의 가장 선명한 기억은 돈을 마련하려고 고생한 일이다.

13. 반복 실행, 멘토, YC의 운영체제

13.1. Peter Thiel의 단순한 집중 조언

1. 작동하는 것을 버리지 말라

   1. ChatGPT가 출시된 뒤 빠르게 성장했지만 사람들이 무엇에 써야 할지 몰랐고 가치가 불안정해 보였기에, 회사 안에서는 다른 다섯~여섯 가지 방향을 찾아야 한다는 의견이 나왔다.
   2. Peter Thiel은 성장하고 있는 제품을 두고 다른 일을 하는 것은 명백한 실수라며 ChatGPT에 집중하라고 했다.

2. 구글 검색창의 단순한 힘

   1. ChatGPT에는 피드, 네트워크 효과, 사용자가 쌓아가는 맥락과 잠금 효과 같은 당시 실리콘밸리가 선호하던 요소가 없었다.
   2. 그러나 무엇이든 입력하면 적절한 일을 해내는 Google 검색창의 힘이 있었고, 20년 동안 모두가 Google의 사업 모델을 좇았던 것처럼 빈 텍스트 상자의 가능성에 집중해야 했다.
   3. OpenAI는 결국 ChatGPT에 매우 강하게 베팅했고 큰 성과를 얻었다. 단순한 통찰이 때로는 가장 중요한 전략이 된다.

13.2. Paul Graham과 빠른 반복

1. ‘무엇을 해야 하는지 알지?’라는 열린 질문

   1. YC 창업자들은 Paul Graham의 오피스 아워에서 “뭘 해야 하는지 알지?”라는 말을 듣곤 했다. 뒤에 나온 조언이 항상 옳았던 것은 아니지만, 가능한 방향을 열어두고 많이 시도하는 창의적 분위기가 핵심이었다.
   2. Paul Graham은 초기 버전을 빠르게 내고 고객 피드백으로 개선하라는 반복적 배포 철학을 스타트업 생태계에 강하게 심었다.

2. 부끄러운 제품도 먼저 내놓기

   1. Sam은 ChatGPT를 출시하기 전 Paul에게 허락을 구하지 않았지만, 아직 이르고 다소 부끄러운 제품이어도 사람들 앞에 내놓고 피드백을 받아야 한다는 말을 들을 것을 알고 있었다.
   2. YC 창업자들을 오랫동안 관찰한 결과, 빠르게 움직이고 반복하는 능력은 성공과 놀라울 정도로 강하게 연관되어 있었다.

13.3. YC가 만든 운영체제와 생태계

1. 운영 철학의 전파

   1. YC의 영향력은 전통적인 기업가치나 시가총액만으로 측정하기 어렵다. 지난 20년의 기술 산업·스타트업·기업가 정신 전체를 바꾼 영향이 더 크다.
   2. OpenAI는 제품을 세상에 내놓는 방식뿐 아니라 연구실을 운영하는 철학에서도 YC의 영향을 받았다.

2. 사람과 실행에 대한 원칙

   1. 반복적 배포, 기술자가 의사결정의 중심에 서는 구조, 경험은 적어도 에너지와 야망이 큰 젊은 사람에게 베팅하는 태도가 YC의 운영체제를 이룬다.
   2. 2004년의 기술만 2016년으로 가져오고 자본 흐름과 창업자에 대한 인식은 그대로 두었다면 OpenAI는 가능하지 않았을 것이다.
   3. YC는 젊은 기술 창업자에게 더 많은 레버리지와 자본을 주고, 검증된 이력이 없어도 야심찬 일을 시작하게 하는 생태계 변화를 만들었다.

14. 실패보다 성공에서 더 많이 배우는 이유

14.1. 실패의 교훈과 성공의 교훈

1. 실패는 원인 규명이 어렵다

   1. 실패에서 인내와 결단력, 다시 하지 말아야 할 일을 배울 수 있다.
   2. 하지만 대부분의 일이 실패하는 데는 여러 원인이 섞여 있어 정확한 인과관계를 분리하기 어렵다. 실패의 교훈은 이미 알고 있던 일반론이 되거나 다른 좋은 선택을 방해할 수도 있다.

2. 성공은 재현할 요소를 더 선명하게 보여준다

   1. YC나 OpenAI에서 무엇이 실제로 작동했는지 관찰하면, 다음 조직에 적용할 수 있는 구체적이고 긍정적인 원칙을 얻는다.
   2. 실패와 성공 모두에서 배워야 하지만, 성공에서 얻은 교훈이 자신의 경험에서는 더 유용하고 적용 가능했다는 판단이 제시된다.

14.2. 창업자에서 투자자로, 다시 창업자로

1. 흔하지 않은 경로의 가치

   1. 창업 후 회사를 팔고 투자자가 되는 경로는 흔하지만, 투자자로 많은 회사를 본 뒤 직접 회사를 운영하는 경로는 드물다.
   2. Doug Leone이 VC 어소시에이트로 일하다가 나와 Nubank를 세운 창업자를 자신의 유일한 사례처럼 이야기한 것도 이 경로가 드물다는 점을 보여준다.

2. 끝까지 운영하는 사람에 대한 존중

   1. 회사를 매각한 뒤 투자자가 되는 사람보다 사업을 평생 운영하는 사람을 선호한다는 의견이 나온다.
   2. Sam은 자신의 첫 회사가 크게 성공하지 않았다는 점을 인정하면서도, OpenAI를 남은 커리어 동안 계속 운영하고 싶다는 의지를 밝혔다.

15. 통찰을 보존하는 기록과 반복되는 교훈

15.1. Charlie Munger의 오랑우탄 이론

1. 말하는 것만으로 생각이 정리된다

   1. Charlie Munger의 ‘오랑우탄 이론’은 비교적 똑똑한 사람이 오랑우탄에게 문제와 머릿속 내용을 모두 설명한 뒤, 오랑우탄이 아무 말도 하지 않아도 더 나은 상태로 떠난다는 비유다.
   2. 누군가에게 생각을 구조화해 말하는 행위 자체가 문제를 해결하는 데 도움을 준다.

2. Buffett도 사고 정리 상대가 필요했다

   1. Munger는 Warren Buffett에게 이 역할을 했고, Buffett처럼 위대한 투자자도 자신의 생각을 다른 사람에게 정리해 말할 필요가 있었다.
   2. 아무리 뛰어난 사람도 적절한 질문과 맥락을 제공하는 상대가 있으면 더 나은 결정을 내릴 수 있다.

15.2. 일화를 기록해야 하는 이유

1. Sam이 의지하는 세 종류의 상대 중 드러난 두 축

   1. OpenAI에 오래 남은 연구자들과는 함께 겪어온 사건을 통해 언어·직관·기준을 공유한다. 회사 밖에서는 이런 공통 감각을 재현하기 어렵다.
   2. 사업과 세상에 관한 비자명한 문제는 오랫동안 배운 Paul Graham과 Peter Thiel에게 가져간다. 두 사람은 다음에 어떤 말을 할지 예측하기 어려울 정도로 비선형적으로 생각하며, 전혀 고려하지 않은 선택지를 보여준다.

2. 일요일 편지의 기억

   1. 첫 아이가 태어난 뒤 Sam은 밤에 아이를 재우며 하루의 어려움과 걱정을 이야기했고, 언젠가 아이에게 의미가 있을 것 같아 매주 일요일 편지를 쓰기 시작했다.
   2. 실제로는 여덟 통 정도만 썼지만, 아이에게 쓰면 자신을 숨길 수 없고 아이가 미래에 자신을 어떻게 평가할지 생각하게 된다는 점이 강한 자기 점검 장치가 되었다.

3. Michael Moritz의 『The Little Kingdom』

   1. Michael Moritz가 쓴 『The Little Kingdom』은 Apple의 첫 6년을 기록하며, Steve Jobs가 Apple에서 쫓겨나기 전 시점에서 끝난다.
   2. 훗날 창업자가 60~70세가 되어 회고록을 쓸 때는 40세 시절의 세부 장면을 되살릴 수 없으므로, 지금 기록하지 않으면 중요한 통찰과 감정이 시간 속에서 사라진다.

15.3. ‘기업가를 위한 교회’라는 반복의 구조

1. 오래 살아남는 조직의 공통점

   1. 회사보다 도시가, 도시와 국가보다 종교가 더 오래 지속되는 경향을 보인다.
   2. 오래 지속된 종교는 공유 지식과 책, 정기적인 모임, 같은 이야기와 교훈의 반복을 갖는다.

2. Founders 팟캐스트의 역할

   1. 역사 속 기업가가 배와 기술 중 무엇을 만들었는지만 다를 뿐 같은 성향을 반복해서 보여준다는 관찰이 있다.
   2. Founders 팟캐스트는 기업가를 위한 교회처럼 같은 긍정적 교훈을 끊임없이 상기시키는 역할을 한다.

3. 기억해야 할 긍정적 원칙

   1. 사용자를 더 자주 만나고, 제품을 더 일찍 출시하고, 더 많은 피드백을 받아야 한다.
   2. 채용 기준을 높이고, 좋은 사람을 더 빠르게 영입해야 한다.
   3. 컨퍼런스와 만찬 같은 주변 활동을 줄이고 제품을 만들거나 제품을 팔아야 한다. 만들고 있지 않다면 팔고 있어야 하며, 그 외의 일은 우선순위가 낮다.

주요 발언 모음

“다르게 생각하고 인기가 없는 확신을 지키는 사람은 틀릴 수도 있지만, 맞았을 때는 정말 크게 맞을 것이다.”

“문제의 핵심은 기술이 아니라 사람이다. 사람들이 기술을 실제로 사용하도록 행동을 바꿔야 한다.”

“AI가 사람의 미래에 대한 자율성과 영향력을 줄이는 방식으로 사용되어서는 안 된다. 사람은 이 모든 일의 목적이다.”

“현실과 접촉하고 실제 사용자에게 내놓아 어디서 깨지는지 배우는 방식이 좋은 제품을 만드는 방법이며, 안전한 제품을 만드는 방법이기도 하다.”

“좋은 아이디어를 버리고 위대한 아이디어를 좇는 일은 모든 기업가가 배우기 가장 어려운 교훈이다.”

“작동하는 제품을 두고 다른 일을 시작하는 것은 명백한 실수다. 무엇이든 입력하면 올바른 일을 하는 텍스트 상자의 힘에 집중해야 한다.”

“제품을 만들고 있지 않다면 제품을 팔고 있어야 한다. 실제로 해야 할 일은 그것뿐이다.”

핵심 데이터 & 수치

• 2015년 AGI 조직 수: OpenAI 출범 당시 DeepMind와 한두 곳 정도만 떠오를 만큼 극소수였다.
• 사진 공유 앱 창업자: 같은 시기 수천 명이 유사한 사진 공유 앱을 만들고 있었을 가능성이 제시됐다.
• Toby Lütke의 시간 전망: 2026년을 사업이 다시 열리는 해로 예상했지만 Sam은 방향에는 동의하면서 시점은 더 늦을 수 있다고 봤다.
• 기술 적응의 역사: Palm Treo는 2003~2004년, GPT-4는 2023년, OpenAI의 첫 제품은 창업 후 4년 반 만에 출시됐다.
• OpenAI 창업 첫날: 2016년 초 Greg Brockman의 아파트에 약 11~12명이 모였고, 화이트보드를 구한 뒤에도 무엇을 할지 몰랐다.
• ChatGPT 사용 규모: 출시 후 4년이 채 되지 않아 매주 약 10억 명이 사용하는 제품으로 언급됐다.
• AI 위험 담론의 사례: 세계 파괴 확률 25%, 1년 안에 일자리 50%가 사라질 수 있다는 식의 공포 중심 메시지가 비판됐다.
• AI 플랫폼의 목표 규모: 1억 개의 새로운 사업체와 80억 명의 사람이 OpenAI 플랫폼을 새로운 방식으로 사용한다는 구상이 제시됐다.
• 개인 기록 데이터: 대화 상대는 2018년 이후 모든 책의 메모·하이라이트와 Founders 팟캐스트의 모든 에피소드 기록을 개인 AI에 넣었다.
• 기억의 시간 한계: Sam은 아이에게 일요일 편지를 약 여덟 통 썼고, 창업자들은 대개 40세가 아니라 70세 무렵 회고록을 쓰므로 세부 기록을 잃기 쉽다.

결론 및 시사점

1. 비주류를 숫자가 아니라 확신의 질로 평가하라: 남들과 달라 보이는 포장이 아니라, 실제로 인기 없는 가설을 이해하고 틀릴 위험까지 감수하는지 확인해야 한다.
2. 기술의 속도와 채택의 속도를 분리하라: 모델이 빠르게 좋아져도 습관·조직·시장·사회 규범은 느리게 변하므로, 제품은 점진적 전환을 지원해야 한다.
3. 최고의 제품은 직접 쓰는 사람에게서 나온다: CEO와 창업자가 자신을 가장 까다로운 첫 사용자로 삼고, 몇 초의 실제 경험에서 불필요한 마찰을 발견해야 한다.
4. 핵심 자원은 고레버리지 문제에 집중하라: 좋은 제품을 모두 만들려 하기보다 모델·컴퓨트·인프라처럼 다른 가능성을 열어주는 상류 문제를 해결해야 한다.
5. 안전은 현실 접촉으로 만든다: 사고를 숨기지 않고 보고하며, 실제 사용자 피드백·투명한 postmortem·공유 가능한 학습을 축적해야 한다.
6. AI의 정당성은 인간의 자율성에서 나온다: 질병 치료나 물질적 풍요를 약속하더라도 사람의 의사결정권과 창업·창작의 자유를 빼앗는다면 반인간적 제안이 된다.
7. AI는 소규모 창업을 넓히는 도구가 되어야 한다: 더 많은 사람이 자본과 특권의 장벽을 넘어 작은 사업을 시작하도록 교육·인프라·제품을 제공해야 한다.
8. 성공의 원인을 기록하고 반복하라: 실패에서 일반적인 교훈만 얻지 말고, 무엇이 실제로 작동했는지 구체적으로 보존해 다음 결정에 적용해야 한다.
9. 통찰은 기억보다 회수 시스템에서 강해진다: 책·대화·고객 피드백을 AI가 검색 가능한 맥락으로 정리하면, 잊힌 일화가 적절한 순간의 판단을 보강한다.
10. 반복되는 좋은 원칙을 의식적으로 상기하라: 사용자와 대화하고, 제품을 일찍 내고, 피드백을 받고, 높은 기준으로 채용하고, 만들고 파는 일에 집중하는 기본기가 시대가 바뀌어도 남는다.

핵심 요약 (20줄)

1. 2015년 AGI 연구는 DeepMind와 한두 조직만 시도하던 비합의적 선택이었고, 사진 공유 앱처럼 군중이 몰린 방향과 대비됐다.

2. 높은 확신을 가진 비주류 연구자와 창업자는 틀릴 수 있지만 맞았을 때 군중의 아이디어를 훨씬 뛰어넘는 가치를 만든다.

3. Toby Lütke는 소프트웨어와 AI 모델을 직접 사용하며 제품의 실제 능력을 남들보다 앞서 파악하는 손수 쓰는 CEO로 평가된다.

4. Toby Lütke는 2026년 모든 사업이 다시 열리고 자신이 AI 네이티브 Shopify를 만들 것이라고 전망했지만, Sam Altman은 시점이 늦어질 수 있다고 봤다.

5. GPT-4 이후 소프트웨어 파괴가 예상보다 느린 이유는 사람들이 기존 회사와 도구, 업무 습관을 쉽게 버리지 않기 때문이다.

6. Netflix가 DVD를 배송한 뒤에도 사람들이 Blockbuster를 찾은 사례는 새로운 기술보다 인간의 행동 변화를 설득하는 일이 어렵다는 점을 보여준다.

7. AI에는 Palm Treo와 아이폰의 차이처럼 기술 부품을 넘어 컴퓨터와 상호작용하는 방식을 바꿀 제품 경험이 필요하다.

8. OpenAI는 모든 제품 범주와 고객을 직접 차지하기보다 최고급부터 저비용까지의 AI와 단일 인터페이스, API를 제공하는 플랫폼을 지향한다.

9. Sora와 Atlas를 중단한 결정은 제한된 컴퓨트와 인재를 지식 노동과 과학을 위한 범용 지능에 집중한 사례다.

10. 스타트업 투자와 AI 연구는 파워 법칙, 비합의적 베팅, 지수적 성장, 특이한 인재의 발견과 관리라는 공통 구조를 가진다.

11. Sam Altman은 어린 시절부터 불가능해 보일수록 시도하고 싶어 하는 성향으로 AI에 끌렸으며, AI가 인간의 능력을 가장 크게 확장할 기술이라고 봤다.

12. AI의 장기적 가치는 업무 자동화뿐 아니라 새로운 물리학, 수학, 질병 치료 같은 과학적 이해를 넓히는 데 있다.

13. 초지능 시대에도 사람들은 실제 사람과의 관계와 아날로그 경험을 원하므로 인간의 연결을 다루는 일은 더 가치 있어질 수 있다.

14. AI의 핵심 위험은 통제 상실과 권력 집중이며, 안전을 명분으로 소수에게 자율성과 미래 결정권을 넘기는 거래는 반인간적이다.

15. AI 안전은 상아탑에서 완성되는 것이 아니라 실제 사용, 사고 기록, 투명한 postmortem, 반복적인 제품 개선을 통해 발전한다.

16. AI 업계가 파국과 일자리 상실만 말하고 자율성·창업·창작의 확대를 충분히 설명하지 못한 점이 사람들이 AI를 사랑하면서도 싫어하는 이유다.

17. AI는 지금까지 특권과 운, 자원이 필요했던 소규모 창업을 역사상 가장 큰 규모로 확장할 잠재력을 갖는다.

18. 모델이 충분히 똑똑해진 뒤의 다음 병목은 사용자의 Slack, 고객 사례, 연구, 기록을 읽고 의사결정에 활용할 맥락의 양이다.

19. 성공에서 작동 원인을 구체적으로 추출하고 책·대화·업무 기록을 보존하면 잊힌 통찰을 적절한 순간에 다시 사용할 수 있다.

20. 사용자와 대화하고 제품을 일찍 출시하며 피드백을 받고, 만들고 팔며, 좋은 원칙을 반복해서 상기하는 기본기가 통찰을 실행 가능한 결과로 바꾼다.