AI를 전기처럼 풍부하게 만드는 법 — 샘 올트먼의 G20 대화

URL: https://www.youtube.com/watch?v=LFlk6VJOR9Q
날짜: 2026-09-04
채널: B_ZCF
원문 제목: 열심히 번역하고 있습니다 잘봐주세요 (샘알트먼 G20)

---

📌 핵심 질문 / AI를 국가의 필수 인프라로 받아들여야 하는가

각국은 AI를 단순한 신기술이 아니라 ==전기처럼 누구나 저렴하게 이용해야 하는 지능 인프라==로 받아들여야 한다. 다만 안전장치, 사이버보안, 바이오 위험 관리, 권력 집중 방지까지 함께 해결해야 AI의 경제적 혜택이 실제로 널리 퍼진다.

• 경제적 근거: AI는 자본·전문가·복잡한 공급망을 갖추지 못한 사람도 사업과 아이디어를 실행하게 해 창업과 소기업의 폭발적 성장을 만들 수 있다.
• 역사적 근거: 전기와 조명은 생산량 확대와 효율 혁신을 거치며 부유층의 사치품에서 모두의 일상적 공공재로 바뀌었고, AI도 같은 풍요의 경로를 따라야 한다.
• 위험 관리 근거: 사이버보안과 바이오보안 실패, 초기 컴퓨팅 투자에 따른 권력·불평등 집중은 도입을 늦추거나 AI의 평등화 효과를 뒤집을 수 있다.

샘 올트먼은 OpenAI가 모든 맥락과 사용법을 정해 주는 회사가 아니라 범용 지능 엔진을 제공하는 회사라고 설명한다. 각국의 기업과 시민이 자기 사회의 문제와 목표를 그 엔진에 연결해야 하며, 정부는 도입을 미루기보다 안전하게 풍요를 만드는 방법을 찾아야 한다.

1. AI를 동경하던 아이가 OpenAI를 세우기까지

1.1. 2012년의 전환과 2015년의 결단

1. 어린 시절부터 이어진 AI 집착

   1. SF와 AI에 대한 동경: 샘 올트먼은 어린 시절부터 진짜 SF 너드였고 AI를 가장 멋진 기술로 여겼다.
   2. 현실적인 포기와 우회: AI를 공부하려고 학교에 갔지만 당시에는 제대로 작동하는 것이 거의 없었고, 결국 AI 연구를 포기한 채 기업가라는 사이드 퀘스트로 방향을 틀었다.

2. 딥러닝이 다시 작동하기 시작한 순간

   1. 2012년의 워터셰드: 딥러닝이 갑자기 작동하기 시작했고 계산량을 늘릴수록 성능이 좋아지는 현상이 나타났다.
   2. 놓치기 쉬웠던 변화: 당시 사람들은 이 전환점에 충분히 주의를 기울이지 않았지만, 샘 올트먼은 이후 몇 년 동안 이 흐름을 집중적으로 관찰했다.

3. OpenAI 창업

   1. 2015년의 확신: 2015년이 되자 AI가 실제로 일어날 일이라고 판단했고, 인류 역사상 가장 중요한 일이 될 수 있으니 시도해야 한다고 생각했다.
   2. 창업 시점: OpenAI는 2015년 말에 발표됐고 실제 첫 업무일은 2016년 1월이었다.

1.2. 언어 모델 이전의 실험과 GPT의 도약

1. 처음부터 목표가 선명했던 것은 아니다

   1. 확실히 알았던 것: 계산량을 문제에 투입해 학습시키면 시스템이 똑똑해지고, 계산량을 더 늘릴수록 능력이 커진다는 마법 같은 성질을 알고 있었다.
   2. 몰랐던 것: 어떤 종류의 시스템을 만들지, 언어 모델이 핵심이 될지, 최종적으로 어떤 제품이 나올지는 전혀 알지 못했다.

2. 초기 실험

   1. 로봇 손: 로봇 손으로 루빅스 큐브를 맞추는 과제를 훈련하려고 했다.
   2. 게임과 알고리즘: 비디오게임을 플레이하는 시스템을 만들며 알고리즘을 발전시키고, 우주가 가진 학습 가능성의 작동 원리를 이해하려고 했다.

3. GPT 계열의 단계적 진전

   1. 2018년: 지도학습(supervised learning)에서 의미 있는 진전이 시작됐다.
   2. GPT-1: 초기 GPT 모델을 만들며 언어를 학습하는 접근의 가능성을 확인했다.
   3. 2020년 GPT-3: GPT-3는 샘 올트먼이 실용성의 문턱을 넘었다고 본 첫 모델이었다. 세상 대부분은 일관된 문장 하나를 생성하는 정도로 받아들였고, 경제나 사회에 무슨 의미가 있는지는 아직 보이지 않았다.

4. 스케일링 법칙과 큰 계산량

   1. 발견한 법칙: 계산량을 크게 늘리면 모델 능력이 계속 향상된다는 스케일링 법칙을 확인했다.
   2. 1조 달러 계산의 문제: 1조 달러 규모의 계산 자원을 투입하면 놀라운 일이 일어날 수 있다고 봤지만, 사람들은 그렇게 많은 계산을 투입할 수 없으니 의미가 없다고 말했다.
   3. OpenAI의 태도: 샘 올트먼과 동료들은 “왜 안 되는가? 시도해 보자”라고 답하며 불가능하다는 전제를 받아들이지 않았다.

2. GPT-4가 지식을 담는 병처럼 보인 순간

2.1. 내부 회의론이 무너진 시점

1. 전환점으로서의 GPT-4

   1. 시점: OpenAI 내부의 대체적인 합의는 GPT-4 무렵에 형성됐다. 샘 올트먼은 출시 시점을 2023년 3월쯤으로 기억하지만 정확한 연표는 틀릴 수 있다고 덧붙였다.
   2. 출시 전 검증: OpenAI는 GPT-4를 공개하기 전 약 8개월 동안 내부에서 사용하며 모델을 충분히 알아갔다.
   3. 회의론자의 변화: 처음에는 접근법을 의심하던 내부 인력조차 GPT-4를 보고 이 기술이 아주 멀리 갈 것이라고 판단했다.

2. 현재 능력의 비정상적인 폭

   1. 지식 발견: AI가 새로운 지식을 찾아내고 과학 연구를 수행할 수 있게 됐다.
   2. 경제적 산출물: 막대한 경제적 가치를 만들고 복잡한 소프트웨어의 전체 구성 요소를 만들어 낼 수 있게 됐다.
   3. 빠른 후속 발전: 샘 올트먼은 새 모델 출시가 임박했고, 그 뒤에도 여러 단계의 진전이 곧 이어질 것이라고 말했다.

2.2. G20 국가가 받아들여야 할 변화

1. AI는 창업의 문턱을 낮춘다

   1. 기회의 재분배: 좋은 아이디어가 있어도 자본을 모으지 못하거나 전문가를 고용하지 못했던 사람이 AI의 도움으로 사업을 시작할 수 있다.
   2. 복잡한 문제의 접근성: 새로운 과학을 발명하는 데 필요한 일을 파악하거나 복잡한 공급망을 운영하는 일도 AI에 맡길 수 있다.

2. 세탁소 사업자의 사례

   1. 사업의 위기: 샘 올트먼은 ChatGPT 출시 뒤 만난 세탁소 운영자의 이야기를 가장 오래 기억에 남은 사례로 꼽았다. 세탁소는 일반적으로 좋은 사업이라는 사실도 그에게는 처음부터 자명하지 않았지만, 그 사업체는 잘 굴러가지 않고 있었다.
   2. AI의 실제 업무 투입: 사업자는 ChatGPT로 마케팅 자료를 만들고, 법률 계약에 관한 조언을 받고, 공급업체와의 관계를 관리하는 등 거의 모든 일을 처리했다.
   3. 시기의 의미: 지금은 흔한 활용법처럼 보이지만 2023년에는 달랐다. 당시 ChatGPT는 망가져 있고 부끄러운 수준인 부분도 있었는데, 그 도구로는 운영할 수 없었던 사업을 운영하게 만든 사실 자체가 놀라웠다.

3. 에이전트가 만드는 다음 단계

   1. 2025년의 가속: 코딩 에이전트와 화이트칼라 업무 에이전트가 등장하며 활용 속도가 크게 빨라졌다.
   2. 지속형 협력자: 곧 장기간 상태를 유지하며 실제 가상 동료처럼 계속 도움을 주는 에이전트가 등장할 것이라고 전망했다.

3. 각국이 AI를 도입해야 하는 이유와 맥락의 주체

3.1. “비협상적” 도입과 국가 경쟁력

1. 규제 방식은 달라도 도입은 피할 수 없다

   1. 국가별 선택: 국가마다 AI를 규제하고 환영하며 활용하는 방식은 달라질 수 있다.
   2. 공통의 전제: 어떤 방식을 택하든 AI를 사용해야 한다는 점만큼은 비협상적이다. 경제 성장과 시민에게 돌아갈 혜택이 너무 커서 외면할 수 없기 때문이다.

2. “지능을 병에 담아” 제공한다는 비유

   1. 국가에 온 지능: AI는 세계에서 가장 똑똑한 사람들이 한 나라로 이주해 그 나라의 언어를 배우고, 원하는 문제를 해결하며, 필요한 것을 발견하는 것과 비슷한 능력을 제공한다.
   2. 인프라 선택권: 어떤 국가는 데이터센터를 직접 짓고, 어떤 국가는 자국에 데이터센터를 두고 싶지 않아 다른 나라의 데이터센터를 빌릴 수 있다.
   3. 혜택의 범위: OpenAI만이 아니라 산업 전체가 지능과 교육을 병에 담아 각국에 전달해야 한다. 의료, 교육, 아이디어 실행, 부유층만 누리던 서비스의 대중화가 모두 여기에 포함된다.

3. 일상적 삶의 질 상승

   1. 의료와 교육: 지금까지 매우 부유한 사람만 이용하던 의료·교육 서비스가 누구에게나 제공될 수 있다.
   2. 실행 속도: 개인이 떠올린 아이디어를 훨씬 빠르게 현실로 옮기면서 개인의 삶의 질과 국가의 경제 생산성이 동시에 높아질 수 있다.

3.2. AI 엔진과 사회적 맥락의 분업

1. 범용 엔진은 OpenAI의 몫이다

   1. 제공할 것: OpenAI는 무엇이든 원하는 데 쓸 수 있는 강력한 AI라는 범용 상품과 엔진을 제공한다.
   2. 제공하지 않을 것: 각 사회와 기업이 어떤 질문을 던지고 어떤 문제에 적용할지까지 OpenAI가 결정하지 않는다.

2. 맥락은 현장의 창의성이 만든다

   1. 질문의 책임: 세계 각지의 사람과 조직이 AI에 무엇을 시킬지, 어떤 아이디어와 문제를 투입할지 찾아야 한다.
   2. 사회별 차이: 특정 사회나 회사에서 중요한 맥락은 그곳의 사람들이 가장 잘 안다. OpenAI가 모든 맥락을 대신 정의하는 것은 적절하지도, 잘할 수 있는 일도 아니다.

3. 스마트한 손님만으로는 저녁 식사가 되지 않는다

   1. 질문의 문제: 세계에서 가장 똑똑한 사람들이 동네로 이사 와서 일해 준다고 해도, 무엇을 시킬지 모르면 그들과 식탁에 앉아 할 대화가 없다.
   2. 실행의 문제: AI의 잠재력은 똑똑한 엔진 자체가 아니라 현장의 목표·문제·맥락과 연결될 때 실제 결과로 바뀐다.

4. AI는 단절된 마지막 혁명이 아니라 연속된 지수 성장이다

4.1. 농업·산업·컴퓨터 혁명을 다시 보는 관점

1. 어린 시절의 역사관

   1. 세 번의 단절: 샘 올트먼은 어릴 때 농업혁명, 산업혁명, 컴퓨터혁명이 서로 완전히 다른 몇 번의 사건이며 각각 따로 이해해야 한다고 생각했다.
   2. 산업혁명의 실제 모습: 산업혁명만 보더라도 수백 년에 걸쳐 개발된 20~30개의 중요한 기술이 한 방식으로 결합한 결과였다.

2. 성인이 된 뒤의 역사관

   1. 하나의 혁명: 기술의 역사는 앞 세대의 발판 위에 다음 세대가 벽돌을 하나 더 얹는 단일한 지수적 혁명으로 이어진다.
   2. 더 높이 보는 구조: 사람들은 이전 세대가 만든 비계(scaffolding)를 타고 조금 더 높은 곳을 보며 새로운 일을 시작한다.
   3. AI의 기반: AI는 이전의 농업·산업·컴퓨터 혁명, 사회 전체의 과학적 발견, 세계 경제의 집단적 기여가 겹겹이 쌓여 가능해졌다.

4.2. AI 다음에도 이어질 발판

1. 현재의 혁명을 마지막으로 착각하지 않기

   1. 반복되는 과장: 지금이 마지막이자 가장 큰 혁명이라고 말하고 싶어지는 유혹이 있지만, AI 뒤에는 더 크고 현재 상상하기 어려운 일이 이어진다.
   2. AI의 역할: 다음에 올 무언가를 발명하는 일에도 AI가 사용될 것이다.

2. 기술만이 아니라 사회 전체의 지수 성장

   1. 사회적 토대: 기술이 꽃피려면 사회적 유대와 세계의 복잡한 구조가 함께 작동해야 한다.
   2. 연속적 포용: 기술·경제·사회의 흐름을 계속 포용해야 다음 단계에 올라설 수 있다.
   3. 도입 지연의 대가: 시민과 기업이 AI를 활용하도록 만들지 못한 국가는 다음 발판을 발명할 기회를 잃을 수 있다.

5. OpenAI가 표방하는 정체성: 실용적 중도와 인간 중심

5.1. 낙관론과 파국론 사이의 “실용적 중도”

1. 복잡성을 인정하는 태도

   1. 두 극단의 회피: OpenAI는 맹목적 낙관론에도, 모든 것을 비관하는 둠어리즘(doomerism)에도 빠지지 않으려 한다.
   2. 동시에 존재하는 현실: AI에는 흥분과 불안, 변혁과 위험이 함께 있다. 어느 한 극단에 끌려가면 눈앞의 문제를 해결할 수 없다.

2. 세계의 신뢰할 수 있는 파트너

   1. 플랫폼의 성격: OpenAI는 AI를 세계를 위한 서비스이자 플랫폼으로 본다.
   2. 주권 존중: 각국이 서로 다른 방식으로 사용하도록 허용하되, 재앙적 위험을 막을 충분한 제약은 시스템에 넣어야 한다.
   3. 불편한 사용도 감수: OpenAI가 모든 사용 방식을 좋아하지 않을 수 있지만, 샘 올트먼은 사람들이 전기로 하는 모든 일을 좋아하지 않아도 모두가 전기를 가져야 한다고 비유했다.

5.2. 독점보다 전체 생태계와 인간을 앞세우기

1. 한 회사가 모든 가치를 가져서는 안 된다

   1. 세계 경제의 성공: OpenAI는 유일한 승자가 되거나 모든 가치를 흡수하고 싶어 하지 않는다.
   2. 안정성의 이유: 한 기업의 가치 독점은 세계의 안정성에 좋지 않고, 사람들이 번영하는 데 필요한 구조와도 맞지 않는다.

2. 모든 규모의 조직을 돕기

   1. 대상: 기업가, 정부, 세계의 대기업이 AI와 함께 번영하도록 돕는 것이 목표다.
   2. 중심에 둘 주체: 사람은 경제와 사회, 세계적 의사결정의 중심에 남아야 한다.

3. 팀 휴머니티(Team Humanity)

   1. 도구의 목적: OpenAI는 사람을 위한 도구를 만들고 사람의 삶을 더 좋게 만들고자 한다.
   2. 미래의 통제권: AI 시대의 미래는 AI 자체가 아니라 사람이 운영해야 한다.

6. 기업가정신이 AI를 현실의 가치로 바꾸는 불씨다

6.1. 스타트업이 자본주의에서 갖는 역할

1. 액셀러레이터에서 얻은 확신

   1. 앞자리에서 본 변화: OpenAI를 만들기 전 스타트업 액셀러레이터를 운영했고, 대학에 들어간 뒤 기업가정신에 관심을 갖기 시작했다.
   2. 새로운 힘: 여러 산업을 가까이서 지켜본 뒤 기업가정신이 자본주의에서 가장 중요한 새로운 힘일 수 있다고 확신하게 됐다.

2. 스타트업의 발명력

   1. 아이디어의 원천: 지난 20년 동안 기술 산업에서 중요한 새 아이디어의 큰 비중은 대기업이 아니라 스타트업에서 나왔다.
   2. 생활형 사업도 포함: 모두가 거대 기업을 만들 필요는 없다. 많은 사람은 기업의 부품이 되기보다 훌륭한 라이프스타일 사업을 운영하고 싶어 하며, 그런 선택도 가능하게 만들어야 한다.

3. 대기업과 정부를 넘어선 기회

   1. 기존 조직의 변화: AI는 대기업과 정부도 바꾸겠지만, 아이디어를 빠르게 세상에 내놓으려는 사람에게 특히 큰 힘을 준다.
   2. 아이디어의 실험: 빠른 제작과 고객 피드백이 가능해지면 실패와 개선의 주기가 짧아지고 결국 더 나은 제품을 얻는다.

6.2. 3개월의 스타트업 업무가 17분이 되는 변화

1. 속도의 극적인 압축

   1. 과거의 기준: 샘 올트먼이 운영하던 액셀러레이터는 3개월 동안 스타트업을 지원했고, 그 기간에 달성해야 할 업무량을 기준으로 삼았다.
   2. 현재의 기준: Codex를 사용하면 당시 3개월 동안 기대하던 코딩 업무를 약 17분 만에 해낼 수 있다고 말했다.

2. 아직 따라오지 못한 세계

   1. 경제적 의미: 이 변화는 단순히 생산성이 늘었다는 뜻을 넘어, 훨씬 많은 아이디어와 기업이 시도될 수 있다는 뜻이다.
   2. 사회적 의미: 사람들이 만들고, 실제 고객에게 보여 주고, 피드백을 받고, 다시 개선하는 속도를 세계가 아직 충분히 따라잡지 못했다.

7. AI를 전기처럼 만드는 풍요의 조건

7.1. “AI가 없는 나라”는 “전기가 없는 나라”와 같다

1. 국가의 필수 능력

   1. 전기와 같은 수준: AI를 국가에 들이지 않겠다고 결정하는 것은 100여 년 전 전기를 들이지 않겠다고 결정한 것만큼 나쁜 생각이다.
   2. 사회 전체의 수요: 모든 사람과 기업, 사회의 전체 기계가 시민이 요구할 만한 삶의 질을 제공하려면 AI가 필요하다.

2. 전기가 보이지 않게 된 과정

   1. 초기의 복잡성: 전기도 위험과 복잡성을 동반했고 안전하게 만드는 데 시간이 걸렸다.
   2. 일상의 기반: 지금은 전등이 켜지고, 마이크가 작동해 사람들이 소리치지 않고 말하고, 휴대전화가 놀라운 일을 해내는 일을 당연하게 여긴다. 전기가 끊기면 사회가 제대로 작동하기 어렵지만 평소에는 전기 자체를 거의 생각하지 않는다.

3. AI의 미래상

   1. 10년 뒤의 예측: 10년 뒤에는 AI라는 말을 지금만큼 자주 하지 않을 것이다. 모든 제품과 서비스에 지능이 들어가는 일을 당연하게 여기기 때문이다.
   2. 세대의 경험 차이: 오늘 자라는 아이는 AI보다 똑똑한 사람이 되지는 못하지만, 모든 제품과 서비스가 똑똑하고 유능하며 도움을 주지 않았던 세계를 이해하지 못하는 세대가 된다.
   3. 기대의 변화: 사람들은 좋은 제품을 원하고, 아이디어가 생기면 즉시 만들기를 원하며, 필요한 소프트웨어가 즉시 만들어지기를 원한다. 질병이 생기면 치료법도 매우 빠르게 발견되기를 기대하게 된다.

7.2. 효율 개선만으로는 부족한 컴퓨팅 인프라

1. 효율성의 지속적 개선

   1. 칩: 더 많고 더 나은 칩을 만들어 같은 계산을 더 효율적으로 수행해야 한다.
   2. 알고리즘: 더 똑똑한 알고리즘을 개발해 필요한 계산량을 줄이는 일도 계속된다.
   3. 투자의 지속: 효율이 좋아져도 거대한 투자는 여전히 필요하다.

2. 토큰 사용량으로 본 수요의 폭발

   1. 2020년 초: 당시 세계에서 토큰을 가장 많이 쓰던 사람은 OpenAI 직원이었고 한 달에 약 10만 토큰을 사용했다.
   2. 2026년 중반: 샘 올트먼이 아는 최고 사용자는 한 달에 수천억 토큰을 사용했다. OpenAI 밖에 더 많이 쓰는 사람이 있을 가능성은 열어 두었다.
   3. 6년 반 동안의 증가: 최고 사용량은 약 6년 반 사이 수백만 배 증가했다.
   4. 평균 사용량: 지구 평균 인당 사용량은 사실상 0에서 한 달 10만 토큰으로 늘었다.

3. 앞으로 6년 반의 투사

   1. 평균 수요: 같은 증가를 단순하게 연장하면 평균 사용량은 한 달 1000억 토큰까지 올라간다.
   2. 최고 사용자 수요: 세계 최고 사용자는 한 달 100 quadrillion(10경) 토큰을 사용할 수 있다고 추정했다. 샘 올트먼은 말하는 과정에서 1 quadrillion과 100 trillion 등을 헷갈렸다가 최종적으로 100 quadrillion이라고 바로잡았다.
   3. 결론: 토큰은 사람에게 중요한 단위가 아니라 지능 사용량의 대략적인 대리 지표일 뿐이지만, 효율이 크게 좋아져도 훨씬 더 많은 인프라가 필요하다는 사실을 보여 준다.

7.3. 조명 가격 하락이 보여 준 AI 민주화의 공식

1. 빛의 초기 가격

   1. 노동으로 치른 비용: 역사상 가장 이른 데이터 가운데 하나는 밤에 한 시간 빛을 얻는 데 당시 임금 기준 평균 5시간의 노동이 필요했다는 기록이다.
   2. 전기 생산 확대: 전기가 등장하고 생산량이 늘면서 공급과 수요의 변화로 가격이 떨어졌다.
   3. 효율 혁신: 백열등에서 LED로 넘어가는 등 전구의 효율이 크게 좋아지며 비용이 더 내려갔다.

2. 풍요가 만드는 평등

   1. 현재의 조명: 이제 5와트 전구를 한 시간 켜는 비용은 매우 싸서 대부분의 사람은 그 가격을 의식하지 않는다.
   2. 풍요가 없었다면: 조명이 여전히 비쌌다면 부유한 사람만 밤에 공부하며 지식을 축적하고, 가난한 사람은 그 복리 효과에서 배제됐을 것이다.

3. AI에 적용할 공식

   1. 공급과 효율의 결합: AI도 데이터센터와 계산 자원을 충분히 늘리고, 칩과 알고리즘의 효율을 혁신해야 한다.
   2. 누구나 쓰는 서비스: 부자와 가난한 사람 모두 필요한 서비스를 얻고, 아이디어를 표현하고, 사업을 시작할 수 있어야 한다.
   3. 교육의 리셋: AI를 매우 싸고 똑똑하게 만들면 교육 접근성이 전 세계적으로 재설정되고 민주화될 수 있다.

8. 낙관주의는 걱정을 없애는 태도가 아니라 위험을 다루는 태도다

8.1. 불과 전기가 남긴 안전의 교훈

1. 불의 양면성

   1. 문명의 도구: 불은 인간 진화에 결정적이었고, 음식을 익히고 밤에 집을 데우게 했다.
   2. 대형 사고: 불은 여러 차례 도시 전체를 태웠고, 인류는 도시가 불타는 일을 원하지 않았기에 문제를 심각하게 고민했다.

2. 걱정이 만든 안전 체계

   1. 정책과 발명: 인간은 화재 안전 기술과 좋은 정책을 만들고, 심각한 사고에서 배우며 불을 더 안전하게 사용하게 됐다.
   2. 무관심의 대가: 도시가 불타도 다른 문제가 더 중요하다며 넘겼다면 안전 체계를 만들지 못했을 것이다.

3. AI에 필요한 태도

   1. 걱정의 가치: 걱정은 정당하다. 위험을 미리 예상하고 정책과 기술로 해결책을 찾게 만들기 때문이다.
   2. 낙관의 조건: 위험과 단점을 성공적으로 완화할 수 있다는 점에서는 낙관적이지만, 사고가 없을 것이라고 약속하지는 않는다.

8.2. 사이버보안·바이오보안·권력 집중

1. 가까운 시기의 사이버보안 위기

   1. 긴급성: 향후 5년의 사이버보안 문제는 많은 정부가 가장 먼저 해결해야 할 사안이며, 긴급하게 행동하지 않으면 여러 일이 크게 잘못될 수 있다.
   2. 협력 범위: OpenAI는 각국 정부, 노스캐롤라이나 주 정부, 규모가 큰 기업과 작은 기업 모두와 협력하고 있으며 이 문제를 피하지 않겠다고 했다.

2. 바이오보안과 더 큰 위험

   1. 다음의 도전: 바이오보안과 관련해 사회가 마주할 문제가 있으며, 그보다 더 큰 문제도 앞으로 나타날 수 있다.
   2. 도입 속도의 위험: 위험을 잘 다루지 못하면 사회가 마땅히 누려야 할 속도와 수준으로 AI를 채택하지 못하고 기술 발전 자체가 크게 후퇴할 수 있다.

3. 권력과 컴퓨팅의 집중

   1. 평등화 가능성: AI는 모두에게 교육 능력을 새로 제공하는 평등화의 힘이 될 수 있다.
   2. 집중의 반대 시나리오: 일부가 먼저 거대한 투자를 하고 다른 사람들이 계산 자원을 확보하지 못하면 AI가 권력과 불평등을 집중시킬 수 있다.
   3. 풍요의 정책 목표: AI가 비싸고 치열하게 경쟁하는 희소 자원이 되면 안 된다. 충분히 풍부하고 저렴하게 만들어 모두를 끌어올려야 한다.

8.3. 실제 생명을 구하는 AI와 안전한 접근

1. 5년 전의 회의적 전망과 현재

   1. 예상보다 나아진 안전성: 5년 전 둠어리즘이 우려했던 수준의 인간에 가까운, 때로는 인간을 뛰어넘는 능력을 가진 AI가 광범위하게 안전하고 신뢰성 있게 작동할 것이라고 믿은 사람은 많지 않았을 것이다.
   2. 완벽하지 않음: 지금까지의 결과는 예상보다 잘 진행됐지만 완벽하지 않으며 사고가 있었고 앞으로도 사고가 일어날 수 있다.

2. ChatGPT가 진단의 공백을 메운 사례

   1. 당사자의 증언: 샘 올트먼은 당일 아침 만난 사람이 ChatGPT가 없었다면 살아 있지 못했을 것이라고 말했다고 전했다.
   2. 의료적 맥락: 그 사람은 매우 어려운 질환을 앓았고, 의사들이 내리지 못한 진단을 ChatGPT를 통해 얻었다.
   3. 안전의 균형: 이런 도움을 없애서는 안 되지만, 더 많은 사람이 같은 혜택을 누리도록 기술을 안전하게 만드는 방법을 찾아야 한다.

주요 발언 모음

“이건 세계 역사상 가장 큰 창업과 소기업의 붐이 될 수 있다.”

“각국이 AI를 사용해야 한다는 점은 비협상적이다. 경제 성장과 시민에게 돌아갈 혜택이 너무 커서 무시할 수 없다.”

“우리는 세계에 지능을 병에 담아, 교육을 병에 담아 가져오고 싶다.”

“AI가 없는 나라가 되겠다는 것은 100여 년 전 전기가 없는 나라가 되겠다는 말만큼 나쁜 생각이다.”

“사람들이 미래를 운영해야 한다. AI가 미래를 운영해서는 안 된다.”

“걱정은 정당하다. 걱정은 문제를 예상하고 정책과 기술로 해결하게 만든다.”

“사람들이 ChatGPT로 더 많은 도움을 받을 수 있도록 기술을 안전하게 만드는 방법을 찾아야 한다.”

핵심 데이터 & 수치

• 2012년: 딥러닝이 계산량을 늘릴수록 좋아지는 방식으로 작동하기 시작한 전환점이다.
• 2015년 말~2016년 1월: OpenAI 발표와 첫 업무가 이어졌다.
• 2018년: 지도학습에서 진전이 시작됐다.
• 2020년: GPT-3가 실용성의 문턱을 넘은 첫 모델로 평가됐다.
• 약 2023년 3월: GPT-4가 내부 회의론을 크게 누그러뜨린 시점으로 제시됐다. 출시 전 내부 검증 기간은 약 8개월이었다.
• 2025년: 코딩 에이전트와 화이트칼라 업무 에이전트가 활용을 가속했다.
• 약 17분: Codex로 과거 액셀러레이터가 3개월 동안 기대하던 코딩 업무를 수행할 수 있다고 제시한 시간이다.
• 100여 년 전과 현재: AI 도입을 전기 도입에 비유했다.
• 2020년 초: 최고 토큰 사용자는 월 10만 토큰을 사용했다.
• 2026년 중반: 알려진 최고 사용자는 월 수천억 토큰을 사용했고, 최고 사용량은 6년 반 동안 수백만 배 늘었다.
• 지구 평균: 사실상 0에서 월 10만 토큰으로 증가했다.
• 향후 6년 반의 단순 투사: 평균 월 1000억 토큰, 최고 사용자 월 100 quadrillion(10경) 토큰이 제시됐다.
• 조명의 역사: 초기에는 밤의 한 시간 조명에 평균 5시간 노동이 필요했지만, 전기 생산 확대와 백열등에서 LED로의 효율 개선 뒤 5와트 전구 한 시간의 비용은 거의 의식하지 않을 만큼 낮아졌다.
• 위험 시계열: 향후 5년 사이 사이버보안·바이오보안·권력 집중 문제가 AI 도입 속도를 결정할 수 있다.

결론 및 시사점

1. AI는 계산량을 늘리면 능력이 커지는 성질에서 출발해 지식을 발견하고 과학과 소프트웨어를 수행하는 범용 지능 엔진으로 발전했다.
2. GPT-4 전후의 내부 경험은 AI가 단순히 문장을 생성하는 도구를 넘어 실질적 지식과 경제적 가치를 담을 수 있다는 인식을 만들었다.
3. AI는 자본과 전문가가 부족한 창업자도 사업을 실행하게 하며, Codex는 스타트업 실험 주기를 3개월에서 약 17분으로 압축할 수 있다.
4. 각국은 규제와 데이터센터 보유 방식은 다르게 선택하더라도 AI 도입 자체를 미룰 수 없다.
5. OpenAI는 범용 엔진을 제공하고, 기업·정부·시민은 각자의 사회적 맥락과 질문으로 그 엔진의 가치를 결정해야 한다.
6. AI 다음에도 기술과 사회의 지수 성장은 계속되므로, 현재의 AI 활용 능력은 다음 발판을 발명하기 위한 기반이 된다.
7. AI를 전기처럼 풍부하고 저렴하게 만들려면 데이터센터 투자, 더 나은 칩, 알고리즘 효율화가 동시에 필요하다.
8. 풍요가 없으면 AI는 부유층의 교육·생산성 도구로 굳어져 불평등을 키울 수 있으므로, 계산 자원의 광범위한 접근성을 정책 목표로 삼아야 한다.
9. 사이버보안과 바이오보안 사고, 컴퓨팅과 권력의 집중을 방치하면 사회의 AI 채택이 지연되고 기술 전체가 후퇴할 수 있다.
10. 낙관주의는 위험을 부정하는 태도가 아니라 불·전기처럼 사고에서 배우고 안전장치를 만들며 더 많은 사람이 혜택을 누리게 하는 태도다.
11. ChatGPT가 의사의 진단 공백을 메워 생명을 구했다는 사례는 AI의 잠재적 개인 가치를 보여 주며, 필요한 과제는 사용을 없애는 것이 아니라 안전성을 높이는 것이다.
12. 최종적인 운영 주체는 AI가 아니라 인간이어야 하며, AI의 미래는 사람의 경제·사회·의사결정 참여를 넓히는 방향으로 설계해야 한다.

핵심 요약 (20줄)

1. 샘 올트먼은 어린 시절부터 AI와 SF에 매료됐지만 초기 연구가 작동하지 않아 기업가정신으로 우회했다.

2. 2012년 딥러닝이 계산량에 따라 개선되기 시작하며 AI의 전환점이 열렸다.

3. 올트먼은 2015년 AI가 실제로 일어날 일이라고 확신하고 OpenAI를 세웠다.

4. OpenAI는 2015년 말 발표됐고 2016년 1월 첫 업무를 시작했다.

5. 초기 연구는 언어 모델보다 루빅스 큐브를 맞추는 로봇 손과 비디오게임에 가까웠다.

6. GPT-3는 2020년 처음으로 실용성의 문턱을 넘었지만 당시에는 문장 생성 이상의 의미가 잘 보이지 않았다.

7. GPT-4 전후로 내부 회의론자들도 AI가 매우 멀리 갈 것이라고 판단했다.

8. AI는 이제 새로운 지식을 발견하고 과학을 수행하며 복잡한 소프트웨어를 만들 수 있다.

9. AI는 자본과 전문가가 부족한 사람도 사업과 아이디어를 실행하게 한다.

10. 한 세탁소 운영자는 ChatGPT로 마케팅, 계약, 공급업체 관계를 관리하며 사업을 살리려 했다.

11. 2025년 코딩 에이전트와 업무 에이전트가 AI 활용을 가속했고 지속형 가상 동료가 다음 단계로 제시됐다.

12. 올트먼은 AI 도입을 국가별 규제와 무관하게 비협상적 과제로 본다.

13. OpenAI는 지능과 교육을 병에 담아 제공하고 현장은 자기 맥락에 맞는 질문을 만들어야 한다.

14. 기술의 역사는 단절된 혁명들의 목록이 아니라 발판 위에 발판을 쌓는 연속적인 지수 성장이다.

15. OpenAI는 낙관론과 둠어리즘 사이에서 실용적 중도를 표방한다.

16. OpenAI는 한 회사의 독점보다 세계 경제 전체의 성공과 인간 중심의 의사결정을 원한다고 말한다.

17. Codex는 과거 3개월 동안 진행하던 스타트업 코딩 업무를 약 17분으로 압축할 수 있다.

18. AI를 전기처럼 풍부하게 만들려면 생산 인프라와 칩·알고리즘 효율에 동시에 투자해야 한다.

19. 사이버보안·바이오보안·권력 집중을 해결하지 못하면 AI 도입은 지연되고 불평등은 커질 수 있다.

20. 걱정과 안전장치를 통해 AI의 혜택을 넓히되 미래의 운영 주체는 인간으로 남겨야 한다.