앤드류 응이 말하는 AI의 진짜 기회와 우리가 잘못 생각한 이유

URL: https://www.youtube.com/watch?v=5bELrUqxX4U 날짜: 2026-08-31 채널: Tech Bridge 원본 게시일: 2026-08-30 영상 길이: 36:15

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI를 둘러싼 공포와 과장은 실제 능력·위험보다 앞서 있으며, 지금의 진짜 기회는 AI가 사람을 통째로 대체한다는 데 있지 않고 사람이 AI로 더 넓은 범위를 직접 만들고 판단하는 데 있다.==

• 일부 대형 AI 기업은 수십억 달러를 들여 만든 모델의 경제적 가치를 지키고 오픈소스 경쟁을 늦추기 위해 공포와 규제를 활용할 유인이 있다.
• AI가 많은 직무의 일부 작업을 자동화해도 인간이 맡는 나머지 60~70%의 맥락·판단·취향이 더 중요해질 수 있다.
• AI는 일을 끝내는 데는 탁월하지만, 학습자가 스스로 사고하는 과정을 외주화하면 장기 기억과 실력이 약해진다.
• 비용이 급락한 빌딩(building)의 병목은 코드를 쓰는 일이 아니라 고객을 이해하고 무엇을 만들지 결정하는 제품 관리(product management)다.

앤드류 응(Andrew Ng)은 Google Brain과 Coursera를 공동 창립했고, 머신러닝 강의를 수백만 명에게 가르친 AI 연구자·교육자다. 그가 제시하는 현실적인 태도는 공포에 휩쓸리거나 AGI를 기다리는 것이 아니라, AI를 배우고 직접 만들며 고객과 대화하면서 인간의 맥락과 판단을 AI의 속도에 결합하는 것이다.

1. AI 공포가 커진 이유와 규제 포획

AI에 대한 사회적 인식은 기술의 실제 문제보다 일부 기업의 이해관계가 만든 공포 메시지에 크게 영향받았다.

1.1. 거대 모델의 경제적 이해관계

1. 모델 투자와 무료 경쟁의 충돌

   1. 막대한 선행 투자: 거대 언어 모델(large language model)을 훈련하려면 수십억 달러가 들 수 있고, 이 모델은 현재 AI 산업에서 가장 가치 있는 자산 중 하나다.
   2. 오픈 모델의 위협: 누군가 이미 모델을 훈련해 전 세계에 무료로 공개하면, 막대한 비용을 지불한 기업은 사용료를 받기 어려워진다.
   3. 통행료 구조: 선도 기업은 규제가 기존 사업자에게 유리한 운동장을 만들고, 모두가 AI를 사용할 때 높은 통행료를 내도록 만들 유인을 가진다.

2. 규제 포획(regulatory capture)의 경로

   1. 공포를 규제 요구로 연결: AI를 통제하지 않으면 큰 재앙이 온다는 메시지를 반복해 규제를 통과시키려 한다.
   2. 경쟁자 억제: 규제 준수 비용이 커지면 연구자, 작은 회사, 오픈소스 모델을 배포하려는 팀이 불리해진다.
   3. 표현의 전환: AI의 실제 위험을 관리하는 규제와, 기존 기업의 지위를 보호하는 규제는 다르다. 전자는 필요하지만 후자는 경쟁을 막을 수 있다.

1.2. 공포 메시지가 현실을 왜곡하는 방식

1. 과장된 비유와 선택적 사례

   1. 핵무기 비유: AI를 핵무기와 같다고 말하는 것은 두 기술의 작동 방식과 위험 구조가 다르기 때문에 사실에 근거가 약하다.
   2. 체리피킹(cherry-picking): AI가 실수한 사례 하나를 골라 실제 빈도와 영향보다 크게 부풀리면 기술 전체가 무용하거나 위험한 것처럼 보인다.
   3. 데이터센터 물 사용량: AI 데이터센터가 사용하는 물의 양도 실제보다 훨씬 많다고 퍼뜨리는 경우가 있으며, 이런 메시지는 불안을 키운다.

2. 사회와 개인에 미치는 손실

   1. 도입 지연: 공포 중심의 담론은 미국의 AI 도입을 늦추고 국가 경쟁력을 떨어뜨린다.
   2. 학습 포기: 고등학생·대학생·사회 초년생이 몇 년 뒤 모든 기술이 쓸모없어진다고 믿으면 AI 역량을 배우지 않게 된다.
   3. 균형의 필요: AI는 큰 이익과 문제를 동시에 가진다. 문제를 인정하되 실제보다 몇 배로 부풀리지 않는 것이 개인과 사회에 이롭다.

2. 일자리 대재앙론과 인간의 경제적 보완성

AI는 직업 전체를 한 번에 없애기보다 직업을 구성하는 작업(task)을 재편한다. 인간이 담당하는 부분의 가치가 자동화된 부분과 함께 올라갈 수 있다.

2.1. 30~40% 자동화와 나머지 60~70%

1. 직업이 아니라 작업 단위의 변화

   1. 50% 일자리 소멸론의 반박: AI가 일자리의 절반을 가져가 사람들이 거리로 쏟아져 나오는 ‘일자리 대재앙’은 일어나지 않을 가능성이 높다.
   2. 기술 파동의 공통 패턴: 새로운 기술이 등장할 때마다 좋은 일을 하기 위해 필요한 기술이 바뀌었고, AI도 직업의 내용을 변화시키는 파동에 해당한다.
   3. 현재 AI의 한계: 일부 기업이 초지능이나 인간 수준의 범용 인공지능을 홍보하지만, AI는 아직 인간이 하는 모든 일을 충분히 잘 수행하지 못한다.

2. 경제적 보완물(economic complement)

   1. 30~40%의 자동화: 경제학자들이 직무를 개별 작업으로 나눠 분석하면 AI가 많은 직무의 30~40%를 수행할 가능성은 있다.
   2. 인간이 맡는 60~70%의 희소성: 자동화된 부분이 저렴해질수록 인간이 담당하는 나머지 부분은 더 귀중한 경제적 보완물이 된다.
   3. 대체의 실제 양상: 가까운 시기에는 AI가 사람을 대량으로 직접 대체하기보다, AI를 사용하는 사람이 AI를 사용하지 않는 사람을 대체하는 일이 더 현실적이다.

2.2. 소프트웨어 엔지니어링에서 먼저 드러난 변화

1. 코드 생성의 강점과 고용의 반전

   1. 가장 큰 영향을 받은 직무: 여러 직업 중 현재 AI의 영향을 가장 크게 받은 분야는 소프트웨어 엔지니어링이다. AI가 코드를 작성하는 데 특히 뛰어나기 때문이다.
   2. 고용 수요: 일자리 종말론과 달리 소프트웨어 엔지니어링 채용 공고 수는 오히려 증가하고 있으며, 알고 지내는 유능한 엔지니어들은 전보다 더 바쁘다.
   3. 능력의 확장: 프론트엔드와 백엔드를 따로 맡던 개발자가 AI의 도움으로 풀스택(full-stack) 범위를 담당하게 됐다.

2. 사라지는 작업과 필요한 재학습

   1. 2022년식 코딩의 위험: ChatGPT가 등장하기 전인 2022년처럼 반복적인 코드 작성만 계속한다면 위험하다.
   2. AI에게 넘길 부분: AI가 자동화할 수 있는 30~40%의 반복 작업은 AI가 수행하도록 해야 한다.
   3. 인간이 키울 부분: AI가 처리하지 못하는 60~70%의 시스템 이해, 문제 정의, 맥락 판단, 통합 능력을 새로 배워야 한다.

3. 사회 초년생과 모든 직무의 AI 빌딩

대학 교육이 AI의 변화 속도를 따라가지 못하는 동안, 학생과 실무자는 수업 밖에서 최신 역량을 보완하고 AI로 직접 결과물을 만들어야 한다.

3.1. 대학 교육의 지연과 신입 인력의 기회

1. 커리큘럼이 늦게 움직이는 구조

   1. 적응에 걸리는 시간: 교수진이 새 기술을 익히고, 과목을 만들고, 커리큘럼 위원회 승인을 받고, 교수회 투표를 거치는 데 1~2년 또는 그 이상이 걸린다.
   2. 시점의 불일치: 많은 대학이 여전히 2022년 일자리를 준비시키고 있으며, 2026년 일자리조차 충분히 다루지 못한다.
   3. 교육 목표의 재설정: 지금 학생에게 필요한 목표는 2026년의 기술이 아니라 2028년 이후의 일자리에 대비하는 것이다.

2. 학생이 취할 행동

   1. 기본 교육 유지: 수업에 성실히 참여하고 좋은 성적을 받으며 교수에게 배우는 일은 여전히 중요하다.
   2. 온라인 보완: 대학이 아직 가르치지 않는 최신 AI 기술은 Coursera, DeepLearning.AI, Udemy 같은 온라인 경로로 익혀야 한다.
   3. AI 네이티브 경험: 앤드류 응의 사무실에는 대학생, 갓 졸업한 사람, 고등학생 인턴이 함께 일하며, AI로 자동화할 일을 처리하고 인간이 할 일을 오래 집중해 높은 생산성을 낸다.

3.2. 비개발자도 AI로 만드는 사람 되기

1. 빌딩 비용의 하락

   1. 참여자의 확대: AI로 만드는 일이 쉬워졌다면 전문 소프트웨어 엔지니어뿐 아니라 더 많은 사람이 소프트웨어를 만들어야 한다.
   2. 생산성과 즐거움: AI로 직접 만드는 사람은 더 생산적이고 더 많은 일을 성취하며, 그렇지 않은 사람보다 일을 더 재미있게 느낄 가능성이 높다.
   3. 대상 직무: 마케터, 리크루터, HR 전문가, 운영(operations) 담당자도 자기 업무에 필요한 도구를 직접 만들 수 있다.

2. AI로 넓어지는 직무 범위

   1. 마케팅: 마케팅 캠페인 조정 담당자가 AI를 활용하면 기획부터 실행과 결과 분석까지 맡는 풀사이클(full-cycle) 마케터가 될 수 있다.
   2. 채용: 채용 코디네이션 역할도 AI를 익히면 엔드투엔드(end-to-end) 채용을 수행하는 범위로 확장된다.
   3. 공통 조건: AI 기술만 배우는 것이 아니라, 마케팅·채용·소프트웨어 엔지니어링 등 각 분야의 나머지 전문 기술도 함께 익혀야 한다.

4. AI 생산성 측정과 실제 업무 활용

AI의 성과는 ‘AI를 썼는가’가 아니라 사업이 무엇을 개선했는가로 측정해야 한다.

4.1. KPI는 모델이 아니라 사업 결과에 연결

1. 직무별로 달라지는 결과

   1. 고객 지표: 고객 성장과 유지율(customer growth and retention)이 개선될 수 있다.
   2. 서비스 속도: 고객에게 더 빠르게 대응하는 시간이 핵심 KPI가 될 수 있다.
   3. 정확도: 특정 업무의 오류율을 낮추거나 정확도를 올리는 것이 직접적인 성과가 될 수 있다.

2. 미디어 사업의 예시

   1. 출력과 조회수: 미디어 회사는 콘텐츠 산출량과 조회수로 AI 활용 효과를 측정할 수 있다.
   2. 수익성: 더 효과적으로 돈을 버는지, 같은 인력으로 더 많은 결과를 내는지 역시 KPI가 된다.
   3. 일률적 지표의 한계: 모든 회사에 적용되는 단일 ‘AI 생산성 점수’는 없으며, 사업의 목표에 맞는 지표를 정해야 한다.

4.2. 콘텐츠 조직의 AI 운영 방식

1. 프로젝트와 평가 자동화

   1. Claude 프로젝트: 팀 전체가 Claude를 사용하고, 소셜미디어 채널마다 별도의 프로젝트를 운영한다.
   2. 팟캐스트 게스트 평가: ‘게스트’ 프로젝트가 과거 게스트의 분석 데이터를 바탕으로 AI 인용 여부, AI에 대한 관점, 회사에서 AI를 적극적으로 활용하는지, 최근 AI 창업자인지 등을 평가한다.
   3. 점수 체계: 기준별 가중치를 적용해 40점 만점으로 등급을 산출하며, 40점은 1티어, 30점은 3티어와 같은 방식으로 우선순위를 정한다.

2. 질문·소셜미디어·피드백 루프

   1. 질문 개선: 각 팟캐스트를 분석해 다음 인터뷰에서 어떤 질문을 하면 좋을지 조언을 받는다.
   2. 개인화된 게시물: Instagram과 LinkedIn에는 말투, 개인 도시에(personal dossier), 사업 전략을 반영해 사실과 목소리를 맞추는 프로젝트가 있다.
   3. 인간의 전략적 결정: 각 소셜미디어는 사람이 운영하며, 어떤 주제를 다룰지와 전략적 방향은 사람이 결정한다.
   4. 지속 학습의 과제: Telegram 대화에서 “이 부분은 이렇게 바꾸자”라고 주고받는 피드백을 봇이 스캔하고 있지만, 그 피드백을 계속 학습해 취향을 더 정확히 아는 시스템으로 발전시키려 한다.

4.3. 재무·마케팅·채용팀이 직접 만든 도구

1. 마케팅팀의 연구 도구

   1. 자동 탐색: 한 마케터는 글을 쓰기 전 웹을 크롤링해 관련 연구와 기사를 찾는 도구를 만들었다.
   2. 데스크톱 앱: Mac에서 실행되는 맞춤형 데스크톱 앱이 관련 글을 강조 표시하고, 작성 중인 글과 참고 자료 전체를 채팅으로 탐색하게 한다.
   3. 트렌드 대시보드: 인터넷에서 새롭게 떠오르는 흥미로운 주제를 찾아 보여주는 대시보드도 함께 사용한다.

2. 재무팀의 문서 처리 자동화

   1. 기존 병목: 재무팀은 매주 문서를 열고, 내용을 확인하고, 숫자를 복사해 붙여 넣는 일을 여러 시간 반복했다.
   2. 자동화 스크립트: CFO 중 한 명이 정기적으로 파일을 열어 내용을 확인하고, 서로 맞는지 검증하고, 주의가 필요한 항목을 표시하는 스크립트를 만들었다.
   3. 알림과 데이터 관리: 새 문서가 나타났는지 알려주고, 이상이 있으면 팀에 경고하는 데이터 관리 인프라를 구축했다.

3. 도메인 팀과 엔지니어의 결합

   1. 기본 도구부터 시작: 팀이 먼저 간단한 도구를 직접 만들고, 한계에 부딪히면 엔지니어가 합류해 더 발전시킨다.
   2. 임베디드 엔지니어: 채용팀에는 전문 소프트웨어 엔지니어인 ‘채용 엔지니어’가 들어가 정교한 채용 도구를 만든다.
   3. 새 엔지니어링 직무: 소프트웨어 엔지니어뿐 아니라 채용 엔지니어, 마케팅 엔지니어, HR 엔지니어가 생기며, 엔지니어링 일자리가 고갈될 조짐은 보이지 않는다.

5. 인간의 맥락·판단·취향이 만드는 장기 우위

AI가 내놓는 답의 품질은 인간이 이미 알고 있는 맥락을 얼마나 제공하고 검증하느냐에 크게 좌우된다.

5.1. AI의 아이디어 분포와 인간의 맥락 우위

1. 아이디어 품질의 편차

   1. 혼합된 결과: AI는 한두 개의 좋은 아이디어, 두세 개의 그저 그런 아이디어, 네 개쯤의 끔찍한 아이디어를 함께 내놓을 수 있다.
   2. 판별의 전제: 무엇이 말도 안 되는 제안인지 알아보려면 도메인 지식과 경험이 필요하다.
   3. 인지적 착시: AI가 그럴듯한 문장으로 말하면 사용자는 형식의 매끄러움을 내용의 타당성으로 착각할 수 있다.

2. 맥락(context advantage)의 구성 요소

   1. 고객 반응: 고객과 대화하며 본 미묘한 표정에서 “이 제안을 싫어한다”는 신호를 읽는다.
   2. 조직의 우선순위: 상사나 파트너가 반복해서 강조한 관심사를 알고 있어 어떤 결과가 실제로 중요한지 판단한다.
   3. 장기 경험: 여러 해 동안 쌓은 현장 지식은 현재 AI가 접근할 수 없는 비공식 정보와 배경으로 구성된다.

5.2. 판단과 취향의 기술적 기반

1. 모호한 취향을 구조화하기

   1. 취향의 실체: 인간의 판단력과 취향이 신비한 감각처럼 보이지만, 그 밑바탕에는 AI보다 훨씬 많은 맥락을 보유한 상태가 있다.
   2. 단기 해결의 어려움: 이 맥락을 몇 년 안에 완전히 AI에 연결할 배관(plumbing)은 아직 없고, 가까운 미래에도 쉽게 해결되기 어렵다.
   3. 인간의 지속 가치: 따라서 AI의 결과를 선택하고 고객과 조직에 맞게 조정할 판단력과 취향을 지닌 사람이 계속 필요하다.

2. 업무 설계의 원칙

   1. AI의 초안과 인간의 판정: AI가 가능한 선택지를 넓게 만들되, 인간이 맥락에 맞지 않는 선택지를 제거한다.
   2. 대화의 축적: 고객 인터뷰, 팀 피드백, 실제 결과를 쌓아 인간의 맥락을 더 명확한 지식으로 만든다.
   3. 장기 경쟁력: 도메인 경험을 가진 사람이 AI를 쓰면 일반적인 AI 사용자보다 훨씬 나은 결과를 반복적으로 낼 수 있다.

6. AI는 일을 잘 끝내지만 학습에는 위험하다

인지 부하 외주화(cognitive offloading)는 사회가 더 많은 일을 해내게 하지만, 학습자가 직접 사고하고 기억할 기회를 빼앗을 수 있다.

6.1. 숙제 점수와 장기 기억의 역전

1. 연구에서 보이는 패턴

   1. 당장의 성적 상승: 대학생이 AI를 사용하면 숙제 점수는 더 높아진다.
   2. 장기 성과 하락: AI가 과제를 대신 수행하면 내용을 기억하고 나중에 활용하는 능력은 더 나빠진다.
   3. 명확한 데이터: 여러 연구가 이 패턴을 뒷받침하고 있으며, 단기 수행 점수만 보고 AI를 학습 도구라고 결론 내리면 안 된다.

2. 검색 도구와 생성 도구의 차이

   1. 사실 접근 도구: Wikipedia와 웹 검색은 많은 사실을 제공하지만, 사용자가 정보를 찾아 읽고 판단하는 과정은 남아 있다.
   2. 인지 과정의 대체: AI에게 작업 전체를 시키면 답을 얻는 동시에 문제를 풀고 기억하는 인지 과정을 외주화한다.
   3. 현재 사용 방식의 문제: AI를 학습에 좋게 쓰는 방법이 전혀 없다는 뜻은 아니지만, 오늘날 대부분의 사람이 대부분의 방식으로 사용하는 AI 모델은 학습에 매우 나쁘다.

6.2. 개인 경험과 일대일 학습의 필요

1. 개발 지식의 휘발

   1. 즉시 해결: 프론트엔드와 백엔드 컴포넌트의 작동 방식을 모를 때 AI에게 답을 받아 프로젝트를 완성하는 경험은 매우 효율적이다.
   2. 6개월 뒤의 공백: 같은 컴포넌트를 다시 만들 때 6개월 전에 얻은 답을 기억하지 못해 다시 AI에게 물어보게 된다.
   3. 효율과 학습의 분리: 업무 완료에는 탁월하지만 지식이 내 것이 되는 학습에는 실패한 것이다.

2. LearnVector의 방향

   1. 조직 출범: 앤드류 응은 Coursera로부터 1억 달러 투자를 받아 LearnVector라는 새 조직을 이끌고 있다.
   2. 일대일 학습 경험: 목표는 한 명의 강사가 다수에게 같은 내용을 전달하는 방식(one-to-many)을 넘어, 학습자마다 맞춤화된 일대일(one-to-one) 학습 경험을 만드는 것이다.
   3. 온라인 강좌의 계승: 약 15년 전 온라인 강좌 운동은 많은 사람이 같은 영상을 보는 방식으로 학습의 문턱을 낮췄고 여전히 효과적이지만, 이제는 기술적으로 훨씬 개인화된 경험을 만들 수 있다.
   4. 공개 시점: 팀은 이 새로운 학습 경험을 2027년 초부터 더 많이 보여줄 계획이다.

7. 전공 선택, 주도성, 자율적인 직장

AI 시대의 전공은 하나의 정답으로 수렴하지 않는다. 좋아하는 분야의 전문성을 유지하면서 AI로 행동하는 능력을 더해야 한다.

7.1. 전공보다 중요한 학습 태도

1. 한 가지 ‘최고 전공’은 없다

   1. 다양한 기회: AI는 여러 직무에 기회를 만들고 있으며, 특정 전공 하나만이 안전한 선택은 아니다.
   2. 흥미의 역할: 세계 최고의 직업을 하나 고를 수 없듯, 세계 최고의 전공도 없다. 좋아하는 일을 선택하는 편이 지속적인 학습에 유리하다.
   3. 우주비행사 이야기: 앤드류 응의 딸은 우주비행사를 꿈꾸며, 우주비행사라는 전공은 없지만 성장하면서 생각이 바뀔 수도 있다. 중요한 것은 관심을 따라가며 필요한 역량을 배우는 일이다.

2. AI를 만들고 행동하는 능력

   1. 필수 역량: 어떤 전공이든 AI를 배우고 AI로 만드는 법을 익혀야 한다.
   2. AI 엔지니어링 스킬 맵: 팀은 AI 엔지니어링에 필요한 핵심 기술을 정리한 스킬 맵을 만들고 있다.
   3. 주도성(agency): 채용 공고에 높은 주도성을 보여주는 사람을 원한다는 표현이 예상보다 자주 등장했다. AI 덕분에 개인이 문제를 발견하고 직접 해결책을 만들 기회가 늘었기 때문이다.

7.2. ‘자기 영역’에서 사내 기업가로

1. 명령 대기의 시대에서 문제 발견의 시대로

   1. 조직의 변화: 상사가 다음 일을 지시할 때까지 기다리는 방식에서 벗어나, 각자가 문제를 찾아 실행하는 방향으로 이동한다.
   2. 니치 안의 기업가: LinkedIn 운영 담당자라면 자기 영역의 기업가처럼 행동하며, 필요하면 계약자를 고용하고 도구를 배치하고 주제의 가치를 전략적으로 판단해야 한다.
   3. 독립적인 업무: 직장 안의 모든 사람이 더 자율적으로 일하고, 자기 판단에 따라 범위를 넓히는 노동시장이 형성될 수 있다.

2. 수영 레인 밖의 탐색과 조직 문화

   1. 기존 제약: 대기업에서는 엔지니어가 창의적인 아이디어를 내도 관리자가 정해진 ‘수영 레인’에만 집중하라고 막는 경우가 많다. 관리자의 경력 목표가 특정 지표에 묶여 있기 때문이다.
   2. 책임 있는 확장: AI는 본래 역할 밖의 문제를 발견하고, 책임 있게 해결 가능성을 탐색할 수 있게 한다.
   3. 성공할 조직: AI를 배우고 빠르게 만들고, 책임 있게 배포하고, 고객과 대화하도록 장려하는 문화가 위계적 사일로(silo) 조직보다 더 많은 가치를 낼 가능성이 높다.

8. 개인정보, 금융 데이터와 로컬 모델

AI에 금융·기업 정보를 맡길 수 있는지는 모델의 능력보다 데이터를 받는 기업의 약관, 문화, 장기 사업모델에 달려 있다.

8.1. 클라우드 서비스를 신뢰하는 기준

1. 대형 하이퍼스케일러(hyperscaler)

   1. 약관 준수에 대한 신뢰: 앤드류 응은 대형 하이퍼스케일러가 약관과 개인정보 고지를 지킬 것이라고 개인적으로 신뢰한다.
   2. 평판의 비용: 가장 큰 기업이 약관을 위반하면 장기 사업모델과 조직 문화에 치명적인 손상이 생기므로, 그런 일이 일어나면 놀랄 것이라고 말한다.
   3. 법률 자문과 구분: 이는 개인적 판단이지 법률·사업 자문은 아니다.

2. 약관 변경을 경계해야 하는 AI 기업

   1. 변경 팝업: 어떤 AI 기업은 약관을 가끔 바꾸며, 웹사이트에 데이터 보관 또는 모델 훈련 사용 권한을 바꾸었다는 알림을 띄운다.
   2. 부주의한 동의: 사용자가 내용을 읽지 않고 잘못된 버튼을 누르면 이전에는 허용하지 않았던 데이터 접근을 기업에 허용할 수 있다.
   3. 신뢰의 DNA: 민감한 정보를 다루는 사람은 사용자 프라이버시 보호가 기업 문화와 장기 사업모델에 깊이 연결돼 있는지 살펴야 한다.

8.2. 개인·은행의 안전한 선택지

1. 민감 정보의 처리 원칙

   1. Fidelity 사례: Perplexity에 Fidelity 계좌를 스캔할 권한을 주면 포트폴리오를 추적하고 리밸런싱 시점을 알려줄 수 있지만, 대신 거래를 수행하게 하지는 않는다.
   2. NPI의 경계: 은행과 협력하는 AI Aspire 같은 조직은 비공개 중요 정보(material nonpublic information, NPI)를 프런티어 모델 기업에 무심코 보내지 않는다.
   3. 수동 처리: 클라우드에 보낼 수 없는 정보라면 AI 없이 수동으로 처리하는 선택이 안전할 수 있다.

2. 로컬·온프레미스 모델

   1. 개인용 대안: 오픈소스 모델을 컴퓨터에 내려받아 실행하면 데이터가 컴퓨터 밖으로 나가지 않는다.
   2. 기업용 대안: 은행은 가상 사설 클라우드(virtual private cloud)나 온프레미스 환경에서 모델을 운영해 통제권을 유지할 수 있다.
   3. 능력의 향상: 최신 오픈 모델은 프런티어 모델에 가까운 능력을 내면서도 직접 실행할 수 있을 정도로 작아지고 있다.
   4. 모델을 순환 테스트: Meta의 최신 모델과 Qwen 최신 버전처럼 모델은 2주마다 달라질 수 있으므로 하나에 고정하지 말고 새 모델을 계속 시험해야 한다.

9. AI 통제, 딥페이크와 아동의 사용

AI를 완벽히 통제할 수는 없지만 공학적 검증과 단계적 배포로 충분히 안전한 수준까지 통제할 수 있다. 다만 명백히 해로운 사용은 법으로 금지해야 한다.

9.1. 비행기에서 배우는 통제의 방식

1. 완벽한 통제의 불가능성

   1. 항공기의 불확실성: 어떤 비행기도 바람의 흔들림까지 완전히 제거한 채 날 수 없다.
   2. 초기 사고: 항공기 개발 초기에 비행기가 추락해 사람이 죽는 비극이 있었지만, 사고에서 배워 통제 방식을 개선했다.
   3. AI의 무작위성: AI는 토큰과 출력을 어느 정도 무작위로 생성하기 때문에 모든 결과를 사전에 정확히 알 수 없다.

2. 단계적 안전 공학

   1. 능력의 단계적 배포: 항공기, 전기 회로, AI 모두 기능을 조심스럽게 단계적으로 굴려 무엇이 잘못되는지 측정한다.
   2. 반복적 조정: 작은 사고와 실패를 분석한 뒤 시스템의 작동 범위를 조정하고 책임 있고 안전하게 행동하도록 만든다.
   3. 현실적 결론: AI를 완벽하게 통제할 수는 없지만, 현재의 통제 문제를 곧바로 공상과학적인 인간 지배 상실로 볼 필요는 없다.

9.2. 딥페이크와 금지해야 할 사용

1. 비동의 성적 딥페이크
   1. 가장 심각한 피해: 비동의 친밀 이미지(non-consensual intimate deepfake imagery)는 AI의 매우 혐오스럽고 파괴적인 사용 사례다.
   2. 법적 대응: 미국 의회가 이런 행위를 없애고 처벌하는 법을 통과시키는 방향은 바람직하다.
   3. 규제의 목표: 모든 AI를 막기보다 명백히 문제가 되는 사용을 불법화하고 강하게 처벌해야 한다.

9.3. 아동의 학습과 디지털 도구

1. 밝은 기회와 학습 위험

   1. 도구의 풍부함: 아이들은 이전 세대에 없던 도구를 사용하며 자랄 수 있어 미래가 밝다.
   2. 소셜미디어의 교훈: 소셜미디어는 비난을 조금 과하게 받기도 하지만 아이들에게 좋지 않은 영향을 준 부분은 분명히 있다.
   3. AI 학습 손상: 소셜미디어보다 AI가 학습을 망가뜨리는 문제를 더 크게 걱정해야 한다. 성인이 되기 전 인지적 외주화가 장기 기억을 약화시킬 수 있다.

2. 연령에 맞는 사용과 감독

   1. 기초 연산: 다섯 살과 일곱 살 자녀에게 수학을 가르칠 때는 계산기를 주지 않고 직접 곱셈을 연습하게 한다.
   2. 직접 만든 타자 앱: 기존 무료 온라인 타자 학습 도구가 마음에 들지 않아 일곱 살 딸을 위해 직접 앱을 만들었고, 딸은 소문자 전체를 입력할 수 있게 됐지만 Shift를 이용한 대문자는 아직 덜 익숙하다.
   3. 성인 감독: 성인이 감독하는 디지털 도구 사용은 훌륭할 수 있지만, 많은 성인은 아이의 사용을 지켜볼 시간이 없다.
   4. 인센티브 설계: 소셜미디어처럼 웃기거나 자극적인 행동을 계속 유도하는 인센티브가 아니라, AI가 학습과 창의성을 강화하도록 올바른 인센티브를 설계해야 한다.

10. 2026~2027년 개인 빌더의 기회

AI로 무언가를 만드는 비용이 급락하면서 희소한 능력은 코딩 자체에서 문제 선택과 고객 이해로 이동했다.

10.1. 빠르게 만들고 고객과 대화하기

1. 개인 빌딩의 기본 루프

   1. AI 학습: 먼저 AI를 배우고, 도구가 처리할 수 있는 일을 이해한다.
   2. 빠른 구현: 문제를 발견하면 주말이나 며칠 단위로 작은 AI 애플리케이션을 만든다.
   3. 고객 대화: 실제 사용자가 무엇을 원하는지, 어디서 불편해하는지 대화와 반응을 통해 확인한다.
   4. 반복: 고객의 반응을 바탕으로 만들고 다시 확인하는 루프를 빠르게 반복한다.

2. 실제 활용 사례

   1. 사업 지표 분석: 앤드류 응은 지난 주말 데이터 사이언티스트를 기다릴 시간이 없어 프런티어 모델로 핵심 사업 지표를 분석했다.
   2. 프라이버시 점검: 데이터 보관 정책이 마음에 들지 않는 모델은 사용하지 않고, 데이터가 남지 않는 조건을 확인한 뒤 분석했다.
   3. 주간 빌딩 습관: 팀이나 본인이 문제를 발견할 때마다 매주 또는 주말마다 자동화용 AI 도구를 만들 수 있다.

10.2. 제품 관리 병목과 창업의 현실

1. 무엇을 만들지가 새 병목

   1. 비용 곡선의 변화: AI가 코딩 비용을 크게 낮춰서 간단한 애플리케이션과 래퍼(wrapper)를 몇 시간 안에 만들 수 있다.
   2. 제품 관리 병목(product management bottleneck): 이제 더 어려운 질문은 ‘어떻게 구현할까’보다 ‘무엇을 만들어야 할까’가 됐다.
   3. 필요한 조합: 고객과 대화해 취향과 판단을 얻고, AI로 빠르게 만들고, 반복적으로 검증하는 사람이 큰 기회를 얻는다.

2. 간단한 앱과 의미 있는 회사의 차이

   1. 창업의 난이도: 주말에 작은 래퍼나 애플리케이션을 만드는 것과 큰 회사를 만드는 것은 전혀 다르다.
   2. 싱글 스레드 리더십: 회사를 실제로 키우려면 한 가지에 전적으로 집중하는 리더십이 여전히 중요하다.
   3. 기술적 깊이: 의미 있는 제품은 수개월 또는 수년이 걸리는 복잡한 소프트웨어와 진짜 기술 깊이를 요구할 수 있다.
   4. 고객 통찰: 기술이 단순해도 반복적인 인터뷰, 표정 읽기, 설문, 실제 통합을 통해 무엇을 만들지 알아내는 데 오랜 시간이 걸린다.

3. 탐색과 집중의 균형

   1. 넓은 샘플링: AI로 여러 아이디어를 빠르게 시험해 어느 문제가 반응을 얻는지 확인한다.
   2. 깊은 전문성: 이후에는 한두 개의 분야에 깊이 들어가 기술·고객·업무 흐름을 이해한다.
   3. 끝까지 파고들기: 빠른 프로토타입은 시작점일 뿐이며, 복잡한 구현과 고객 통합까지 책임져야 사업이 된다.

11. AGI의 기준과 도달 시점

AGI(Artificial General Intelligence)의 시점 논쟁은 기술이 달라서가 아니라 정의의 문턱이 서로 다르기 때문에 생긴다.

11.1. 인간의 모든 지적 과제를 수행하는 기준

1. 가장 익숙한 정의

   1. 범용 지능: 인간이 할 수 있는 어떤 지적 과제든 AI가 수행할 수 있어야 AGI라고 보는 정의다.
   2. 장기 전문성 과제: 인간이 5년 동안 공부해 박사 논문을 쓰는 수준의 과제를 AI가 수행할 수 있어야 한다.
   3. 신속한 환경 적응: 인간이 수십 분 연습한 뒤 울창한 열대우림에서 트럭을 운전할 수 있듯, AI도 새로운 환경에 수십 분의 연습만으로 적응해야 한다.

2. 현재의 격차

   1. 긴 미해결 목록: 새로운 환경에 적응하고 장기 과제를 독립적으로 수행하는 등 AI가 아직 못하는 일이 많다.
   2. 수십 년 전망: 이 정의에 따르면 AGI는 수십 년 동안 도달하지 못할 가능성이 높고, 더 오래 걸릴 수도 있다.
   3. 낮은 기준의 문제: AGI의 기준을 계속 낮추면 이미 도달했다고 말할 수도 있고, 어떤 정의를 쓰느냐에 따라 30년 전에도 도달했다고 할 수 있다.

11.2. 선언의 경제적 유인

1. 기업의 이해관계
   1. 계약과 보상: OpenAI와 Microsoft 사이의 계약은 재협상됐고 과거의 합의 구조는 사라졌지만, OpenAI에는 AGI 도달을 일찍 선언할 경제적 유인이 있었다.
   2. 정의의 선택: 기업이 낮은 문턱의 정의를 택하면 실제 능력의 변화보다 AGI 선언이 앞설 수 있다.
   3. 검증 기준: 선언보다 모든 지적 과제, 장기 학습, 새로운 환경 적응을 얼마나 안정적으로 수행하는지로 판단해야 한다.

주요 발언 모음

“AI가 많은 일의 30~40%를 할 수 있다면, 인간이 하는 나머지 60%는 더 가치 있어진다.”

“AI를 사용하지 않는 사람이 AI를 사용하는 사람으로 대체될 수는 있지만, AI가 대부분의 직무에서 사람을 대체할 위치에 있는 것은 아니다.”

“AI가 일을 대신하게 하면 인지 부하를 외주화할 수 있지만, 인간의 기억과 장기 보존은 훨씬 나빠진다.”

“AI로 만드는 비용이 급락했기 때문에 도전 과제는 무엇을 만들지 결정하는 제품 관리 병목으로 이동했다.”

“인간이 AI보다 더 나은 판단과 취향을 갖는 기술적 기반은 인간의 맥락 우위다.”

“AI를 완벽하게 통제할 수는 없지만, 책임 있고 안전하게 행동할 만큼은 통제할 수 있다.”

“AI를 배우고, 빠르게 만들고, 고객과 대화하라.”

핵심 데이터 & 수치

• 30~40%: AI가 많은 직무에서 수행할 수 있을 것으로 제시된 작업 비중이다.
• 60~70%: 인간이 계속 수행하며 더 가치 있어질 수 있는 작업 비중이다.
• 1~2년 이상: 대학이 교수 역량 확보부터 과목 승인까지 새 AI 커리큘럼을 도입하는 데 걸리는 지연의 예시다.
• 1억 달러: Coursera가 LearnVector에 투자한 금액이다.
• 15년 전: 앤드류 응이 온라인 강좌 운동에 참여해 one-to-many 학습을 확산시킨 시점의 대략적인 기준이다.
• 5년: 인간이 공부해 박사 논문을 작성하는 장기 지적 과제의 예시다.
• 수십 분: 인간이 새로운 환경에서 트럭 운전을 익히는 AGI 기준의 예시다.
• 36분 15초: 전체 대화 길이다.
• 2026-08-30: 원본 영상 게시일이다.

결론 및 시사점

1. AI의 위험을 다룰 때 핵무기 비유, 체리피킹, 부풀린 데이터센터 수치 대신 실제 빈도·피해·통제 가능성을 따져야 한다.
2. 직업명이 사라지는지보다 내 업무를 작업 단위로 쪼개 AI가 맡을 부분과 인간이 더 잘해야 할 부분을 구분해야 한다.
3. AI가 자동화하는 30~40%를 붙들고 있기보다 맥락, 고객 이해, 문제 정의, 판단, 취향을 포함한 60~70%를 강화해야 한다.
4. 학생은 전공 하나의 안전성을 찾기보다 좋아하는 분야의 전문성에 AI 빌딩과 주도성을 결합해야 한다.
5. 대학 수업을 충실히 듣되, Coursera·DeepLearning.AI·Udemy 등에서 최신 AI 역량을 보완해야 한다.
6. 마케터·리크루터·HR·운영 담당자는 엔지니어를 기다리기 전에 반복 업무를 자동화하는 작은 도구부터 직접 만들어야 한다.
7. 생산성 KPI는 AI 사용 횟수가 아니라 고객 성장·유지율, 서비스 속도, 정확도, 산출량, 조회수, 수익 같은 사업 결과로 정해야 한다.
8. AI가 낸 아이디어를 그대로 믿지 말고, 현장 경험에서 나온 맥락으로 나쁜 제안을 걸러내야 한다.
9. 학습할 때는 AI가 답을 대신 내게 하지 말고, 먼저 직접 풀고 설명하고 회상한 뒤 AI를 피드백·튜터로 활용해야 한다.
10. 개인정보는 약관 변경 이력과 기업의 프라이버시 문화를 확인하고, 비공개 중요 정보는 수동 처리·온프레미스·로컬 모델을 고려해야 한다.
11. 모델은 빠르게 바뀌므로 한 서비스에 고정하지 말고 능력·데이터 보관 정책·비용을 계속 비교해야 한다.
12. 딥페이크처럼 명백한 피해를 만드는 사용은 금지하고 처벌하되, 모든 AI 연구와 활용을 공포 하나로 묶어 막아서는 안 된다.
13. 아이에게는 연령에 맞는 기초 연습과 성인 감독을 제공하고, 즉각적인 자극보다 장기 학습을 보상하는 인센티브를 설계해야 한다.
14. 개인 빌더의 실행 순서는 문제 발견 → 빠른 프로토타입 → 고객 대화 → 반복이며, 코드보다 무엇을 만들지 결정하는 판단이 핵심이다.
15. 주말 앱과 지속 가능한 회사는 다르므로, 빠른 탐색 뒤에는 기술적 깊이와 특정 분야의 고객 통찰에 집중해야 한다.
16. AGI를 선언하는 말보다 인간의 모든 지적 과제, 장기 학습, 새로운 환경 적응을 안정적으로 수행하는지로 기준을 세워야 한다.