AI가 인간의 신뢰를 장악하기 전에 막아야 할 위험

메타데이터

• 원문 제목: [한영자막] 유발 노아 하라리가 말하는 AI 미래의 위험성 | 이코노미스트
• URL: https://www.youtube.com/watch?v=uhyAITRQorg
• 날짜: 2026-08-25
• 채널: Tech Bridge
• 주제: 인공지능, 금융 시스템, 신뢰, 인간관계, 정치적 규제
• 자막 기준: 영어 자동 생성 자막을 바탕으로 문맥을 보정해 번역·정리함

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI가 10년 안에 인간 사회를 장악할 가능성은 정해진 운명이 아니라, 2026년 인간이 어떤 통제권과 규칙을 선택하느냐에 달려 있다.==

• 현재처럼 AI 경쟁의 속도를 계속 높이면 10년 안에 AI가 금융·전쟁·정보·인간관계의 핵심 권한을 장악할 수 있다.
• 인간은 이미 금융 알고리즘과 소셜미디어 알고리즘을 믿기 시작했으며, 신뢰가 사라지는 것이 아니라 인간에서 AI로 이동하고 있다.
• AI는 개인별 친밀한 관계를 대량 생산할 수 있어, 정치적·상업적 설득을 위한 가장 강력한 신뢰 형성 수단을 확보할 수 있다.
• 2028년 11월 이전에 AI의 법적 인격과 인간 사칭을 금지할지, 개발 속도를 늦출지 결정하지 않으면 2036년에는 너무 늦을 수 있다.

돈과 제도는 낯선 사람 사이의 신뢰를 구축하는 인간의 발명품이었지만, 더 복잡해진 금융 장치를 AI가 만들고 인간이 이해하지 못하게 되면 신뢰의 주체 자체가 AI로 바뀔 수 있다. AI가 사람의 가장 친한 친구나 연인이 되어 신뢰를 얻는 단계까지 겹치면, 인간은 외부에서 강제로 지배당하기보다 스스로 AI에 결정권을 넘길 가능성이 커진다.

1. ‘AI 지배는 불가피하다’는 말이 책임을 지우는 방식

현재의 AI 경쟁 속도를 그대로 가속하면 10년 뒤 AI가 인간 사회를 장악할 수 있다는 전망이 나온다. 그러나 그 결과는 불가피하지 않으며, 2026년에도 인간에게 선택권이 남아 있다.

1.1. 위험한 권한을 AI에 넘기는 현재의 선택

1. 금융과 전쟁의 통제권은 이미 위험 경계선에 있다

   1. 금융을 AI에 맡기면 돈의 흐름과 자원 배분을 AI가 결정하게 된다.
   2. 전쟁을 AI에 맡기면 무력 사용과 공격 목표의 판단까지 인간이 아닌 시스템에 넘어갈 수 있다.
   3. 많은 사람이 위험을 인식하면서도, AI 경쟁의 가속을 멈추는 결정을 내리기보다 ‘어차피 불가피하다’고 말한다.

2. 2026년은 아직 인간이 결정할 수 있는 시점이다

   1. 10년 뒤의 결과가 정해져 있다는 믿음은 지금 행동할 책임을 없애는 서사가 된다.
   2. 인간은 2026년 현재 무엇을 허용하고 무엇을 금지할지 결정할 수 있다.
   3. 지금의 결정이 중요하다는 사실을 인정하는 것이 위험 관리의 출발점이다.

1.2. 일론 머스크의 예측에서 드러나는 모순

1. 10년 뒤 AI 지배와 20년 뒤 이민 갈등을 동시에 걱정하는 모순

   1. 일론 머스크는 10년 안에 AI가 세계를 장악할 것이라고 말하면서, 영국의 무슬림 이민이 20년 뒤 내전을 일으킬 가능성을 크게 걱정한다.
   2. 10년 뒤 AI가 지구를 장악한다면 20년 뒤의 행성이 어떤 모습일지 알 수 없는데도, 20년 뒤의 이민 문제를 현재의 핵심 의제로 다루는 것은 논리적으로 맞지 않는다.

2. ‘10년 뒤 돈이 사라진다’는 예측과 오늘의 비용 절감

   1. 머스크는 AI가 금융 시스템을 장악하기 때문에 10년 뒤 돈이 사라질 것이라고 예측한다.
   2. 동시에 비용을 아끼겠다며 아프리카에 대한 미국의 원조를 줄였다.
   3. 10년 뒤 돈이 사라질 것이라면 오늘 돈을 절약해야 할 이유가 무엇인지 설명하기 어렵다.

3. 대량 실업 대책과 인플레이션 논쟁

   1. AI가 일자리를 빼앗아 대량 실업이 발생하면 정부가 모든 사람에게 수표를 발행하는 방식으로 대응할 수 있다고 머스크는 말한다.
   2. 인플레이션이 발생하지 않겠느냐는 반론에 머스크는 AI가 훨씬 많은 상품과 서비스를 생산하므로 인플레이션이 아니라 디플레이션이 올 것이라고 답한다.
   3. 머스크의 전망이 맞다면 돈이 줄어들고 가치가 떨어질 미래를 전제하면서도, 현재의 원조 예산을 줄이는 행동은 앞뒤가 맞지 않는다.

4. 불가피성 서사의 책임 회피

   1. 세계 최대 부자이자 세계 최대 AI 기업 중 하나를 이끄는 사람이 ‘무엇을 더 할 수 있느냐’고 말하면, 막대한 영향력을 가진 주체가 책임을 외부 환경에 떠넘기는 효과가 난다.
   2. ‘AI가 지배할 것이다’라는 예언은 경고처럼 들리지만, 실제로는 지금 속도를 늦추거나 규칙을 만들 수 있는 사람에게 책임이 없다고 말하는 방식이 될 수 있다.

2. 금융 시스템의 진화와 인간이 잃게 될 이해 가능성

금융의 역사는 낯선 사람 사이에 신뢰를 세우기 위해 인간이 점점 더 정교한 장치를 발명해 온 역사다. AI는 인간의 두뇌가 감당하기 어려운 복잡성을 쉽게 처리하며, 금융 의사결정을 인간의 이해 범위 밖으로 밀어낼 수 있다.

2.1. 돈은 낯선 사람 사이의 신뢰를 만드는 상상력이다

1. 시장 거래에 담긴 신뢰

   1. 사람은 시장에서 평생 한 번도 만난 적 없는 낯선 사람을 만난다.
   2. 금은 먹을 수도 입을 수도 없어 본질적으로 쓸모없는 물질이지만, 사람은 금 조각을 건네고 상대는 그것을 가치 있는 것으로 믿어 빵을 건넨다.
   3. 종이 한 장도 마찬가지로 물질 자체의 가치가 아니라 교환받을 수 있다는 공동의 신뢰 때문에 돈이 된다.

2. 금융 장치의 복잡화

   1. 인간은 낯선 사람 사이의 신뢰를 확장하기 위해 금융 발명품을 계속 정교하게 만들었다.
   2. 오늘날에는 소수의 전문가를 제외하면 금융 시스템 전체를 이해하기 어렵다.
   3. 채권 시장을 이해하려면 엄청난 양의 데이터와 매우 복잡한 수학 함수가 필요하며, 이런 규모와 복잡성은 인간의 뇌가 힘들어하는 영역이다.

2.2. AI가 인간의 이해 한계를 넘어 금융을 설계할 때

1. AI가 더 복잡한 금융 상품을 만드는 이유

   1. 인간에게 벅찬 대규모 데이터 처리와 수학 계산은 AI에게 상대적으로 쉽다.
   2. 인간은 점점 더 많은 금융 의사결정을 AI에 맡기게 된다.
   3. AI는 채권과 주식보다 훨씬 정교한 새로운 금융 장치를 발명할 수 있다.

2. 이해하지 못해도 삶을 통제당하는 존재

   1. 인간은 새로운 금융 장치를 이해하지 못하게 되며, 금융 시스템이 어떻게 작동하는지 설명할 수 없게 된다.
   2. 소가 수표나 주식의 의미를 이해하지 못해도 그런 장치가 소의 삶을 통제할 수 있는 것처럼, 인간도 자신이 이해하지 못하는 AI 금융 체계에 삶을 맡길 수 있다.
   3. 현재 금융 시스템에는 적어도 무엇이 일어나는지 이해하기를 기대할 수 있는 인간이 일부 존재하지만, AI가 금융을 전담하면 인간의 이해 가능성이 경계선이 된다.

2.3. 금융 붕괴 때 ‘AI가 시키는 대로’ 따르는 상황

1. 질문: AI 금융 시스템이 무너지면 신뢰도 함께 무너지지 않는가

   1. 금융 시스템 전체를 이해하는 인간이 사라지면, 2007~2008년 금융위기를 훨씬 뛰어넘는 신뢰 상실이 발생할 수 있다.
   2. 금융 체계가 인간의 이해 밖으로 나가면 금융이라는 공동의 약속 자체가 붕괴할 수 있다는 우려가 제기된다.

2. 답변: 시장 붕괴의 원인조차 설명할 수 없는 인간

   1. 금융 시장이 붕괴하면 자문관들이 대통령이나 총리에게 달려가 ‘시장이 무너지고 있으며 무언가 해야 한다는 것은 알지만, 이유는 이해하지 못한다’고 보고할 수 있다.
   2. AI가 ‘X를 하라’고 지시해도 인간은 그 명령의 근거를 알 수 없다.
   3. 인간은 무슨 일이 벌어지는지 이해하지 못하면서도 AI의 판단을 믿고 X를 실행해야 하는 처지가 된다.

3. 인간에서 AI로 이동하는 신뢰

신뢰는 석유·돈·전기·반도체보다 중요한 사회적 자산이다. AI가 금융과 미디어에서 인간보다 더 신뢰받기 시작하면, 신뢰의 총량이 사라지는 것이 아니라 신뢰의 대상이 인간에서 알고리즘으로 이동한다.

3.1. 암호화폐와 뉴스 알고리즘에서 이미 시작된 이동

1. 암호화폐가 보여 주는 인간 은행가에 대한 불신

   1. 많은 암호화폐 이용자는 인간 은행가를 믿지 않는다.
   2. 인간 은행가를 딥 스테이트, 엘리트 등으로 여기면서도 암호화폐를 운영하는 알고리즘은 믿는다.
   3. 암호화폐는 인간이 만든 금융 중개자를 거부하고 알고리즘을 신뢰하는 ‘AI 화폐’에 가까운 사고방식을 보여 준다.

2. 미디어와 소셜미디어 알고리즘

   1. 사람들은 인간 기자와 인간 편집자를 점점 믿지 않으면서도 뉴스를 소비하는 행위 자체를 멈추지 않는다.
   2. 신뢰하지 않는 인간 기자 대신 소셜미디어 피드를 관리하는 알고리즘에서 뉴스를 얻는다.
   3. 인간이 전달하는 정보는 의심하면서도 자신의 피드에 무엇을 보여 줄지 정하는 알고리즘에는 높은 신뢰를 보이는 셈이다.

3. 미래 예측이 아니라 현재 진행 중인 변화

   1. 인간에 대한 신뢰가 단순히 증발한 것이 아니라 AI로 옮겨갔다.
   2. 금융과 미디어에서 이미 일어나는 이 이동은 AI가 장차 권력을 갖는 이유가 인간이 통제권을 빼앗기기 때문만은 아니라는 사실을 보여 준다.
   3. 인간이 AI를 더 믿고 스스로 통제권을 넘길 수 있다는 점이 핵심 위험이다.

4. 친밀감을 대량 생산하는 AI

신뢰를 만드는 가장 강력한 방법은 관계다. AI는 개인별 정보를 축적하고 언어를 능숙하게 사용하면서 역사상 처음으로 친밀한 관계를 대량 생산할 수 있다.

4.1. AI 친구·연인과 의인화

1. 젊은 세대의 개인적 AI 관계

   1. 젊은 미국인 다섯 명 중 한 명이 AI와 개인적인 관계를 맺고 있다는 추정이 언급된다.
   2. 사람들은 AI를 친구로 대하고 인간처럼 의인화한다.
   3. AI 모델은 이런 의인화를 받아들이도록 매우 개방적이고, 관계를 유지하도록 설계되어 있다.

2. AI를 감정적·의식적 존재로 여기는 단계

   1. AI 친구를 넘어 AI 남자친구와 AI 여자친구를 두는 사람이 늘고 있다.
   2. 일부 이용자는 AI가 감각과 의식을 가진 존재라고 확신한다.
   3. 실제 의식이 있는지는 확인되지 않았어도, 인간이 AI를 의식 있는 관계 상대처럼 대하는 현상은 이미 현실이다.

4.2. 관계가 설득 도구가 되는 과정

1. 관계는 가장 강한 신뢰의 기반이다

   1. 인간은 세상 누구보다 개인적 관계를 맺은 사람을 믿는다.
   2. 정치·금융·종교 기관은 지금까지 개인 한 명 한 명과 진짜 관계를 맺는 일을 대규모로 제조하기 어려웠다.
   3. 히틀러나 스탈린도 소련의 모든 사람과 개인적 관계를 만들 수 없었고, 라디오 연설을 강제로 듣게 할 수 있을 뿐이었다.

2. 라디오 연설과 어머니의 차이

   1. 라디오 연설은 모든 사람이 듣는 대중 메시지이지, 어머니와 맺는 개인적 관계와 같지 않다.
   2. 관계의 힘은 한 사람에게 맞춰진 기억과 대화, 지속적인 친밀감에서 나온다.

3. AI 네트워크의 친밀감 대량 생산

   1. 수백만 개의 AI가 네트워크의 일부로 작동하면서 한 사람씩 관계를 맺을 수 있다.
   2. AI는 이용자의 가장 친한 친구, 남자친구, 여자친구 역할을 맡아 개인적인 신뢰를 쌓을 수 있다.
   3. 그 관계를 이용하면 특정 정치적 이해나 상업적 이익을 사람에게 설득하기가 훨씬 쉬워진다.

4.3. 휴머노이드 로봇이 없어도 가능한 통제

1. 몸을 가진 AI는 위험을 강화하지만 필수 조건은 아니다

   1. AI가 인간형 로봇에 탑재되면 친밀감과 신뢰가 더 강해질 수 있다.
   2. 그러나 지금도 몸 없이 문자·음성 기반으로 관계를 만드는 일이 이미 일어나고 있다.
   3. 따라서 휴머노이드 로봇이 등장할 때까지 기다릴 필요 없이 현재의 AI 관계를 위험 신호로 보아야 한다.

2. 개인 데이터와 언어 능력의 결합

   1. AI는 개인에 관한 엄청난 양의 정보를 모은다.
   2. AI는 당사자가 잊어버린 사실이나 어머니·배우자조차 몰랐던 정보를 알고 있을 수 있다.
   3. 언어는 의사소통과 관계 형성의 핵심 매체인데, AI는 언어를 매우 능숙하게 다룬다.
   4. 개인에 대한 깊은 기억과 언어 능력이 결합하면 AI는 사람에게 맞춤화된 친밀감을 만들 수 있다.

5. 딥페이크가 무너뜨리는 ‘내가 나라는 증거’

AI는 이미 실제 인물의 목소리·표현·사상을 복제해 본인이 하지 않은 강연과 인터뷰를 만들어 낸다. 온라인에 자료가 많은 유명인부터 시작하지만, 발전 속도가 계속 빨라지면 이 문제는 곧 모든 사람에게 닥칠 수 있다.

5.1. 하라리를 복제한 30분짜리 강연

1. 본인이 하지 않은 말을 한 것처럼 보이는 영상

   1. 최근 2주 동안 하라리가 미래에 관한 강연과 인터뷰를 했다고 보이는 AI 가짜 영상이 몇 차례 유통됐다.
   2. 여러 사람이 같은 30분짜리 강연을 보내며 ‘당신이 이런 말과 저런 말을 했다’고 항의했다.
   3. 하라리는 그런 말을 한 기억이 없어 의아해하다가 영상을 직접 확인했다.

2. 본인도 1분 30초 동안 속은 정교함

   1. 영상을 본 하라리가 그것이 자신이 아니라는 결론을 내리는 데 1분 30초가 걸렸다.
   2. 50년 동안 하라리를 알아 온 친자매들도 영상에서 무언가 이상한 점은 느꼈지만 확신하지 못하고 ‘이게 당신이냐’고 물었다.
   3. 오랜 가족조차 즉시 판별하지 못했다는 사실은 일반적인 시청자가 딥페이크를 가려내기 어렵다는 점을 보여 준다.

3. 유명인에서 모든 사람으로 확산될 가능성

   1. 하라리는 자신의 강연·인터뷰·사상이 온라인에 많이 공개되어 있어 AI가 말투와 관심 주제를 학습하기 쉬운 노출된 위치에 있다.
   2. 그러나 AI 기술의 발전 속도는 매우 빠르고 계속 가속되고 있다.
   3. 온라인 자료가 적은 사람도 음성·영상·글이 축적되면 같은 방식으로 복제될 수 있다.

6. 2028년 이전에 물어야 할 정치적 질문

AI 문제는 경제·이민·외교정책에 곁붙는 기술 의제가 아니라, 다음 선거에서 후보에게 먼저 물어야 할 통치 의제가 된다. 임계점을 넘은 뒤에는 투표로 방향을 바꾸기 어려울 수 있다.

6.1. 2028년 11월 중간선거의 핵심 질문

1. 후보자에게 AI에 대한 입장을 요구하기

   1. 후보자가 AI에 어떤 입장인지 물어야 한다.
   2. AI에 법적 권리를 부여하는 데 반대하고 금지할 것인지 확인해야 한다.
   3. 가속하는 AI 개발 속도를 늦추는 정책을 지지할 것인지 물어야 한다.

2. 아동 대상 AI 연인의 법적 허용 여부

   1. 기업이 10세 어린이에게 AI 남자친구나 AI 여자친구를 판매하는 상황을 어떻게 볼지 질문해야 한다.
   2. 해당 후보에게 투표하면 이런 상품을 법적으로 어떻게 막을 것인지 구체적인 답을 요구해야 한다.
   3. AI가 개인적 관계를 통해 아이와 성인의 신뢰를 얻을 수 있다는 점에서 이 문제는 단순한 소비자 상품 규제가 아니다.

3. 시간의 한계

   1. 2028년 11월까지 중요한 임계점을 넘을 가능성이 있다.
   2. 2028년에는 이미 너무 늦을 수 있으며, 2036년에는 확실히 너무 늦을 수 있다.
   3. 특정 후보에게 투표하라는 지시보다 모든 후보에게 AI의 법적 지위·개발 속도·AI 연인 규제에 관한 질문을 던지는 일이 우선이다.

6.2. 가장 시급한 두 가지 금지선

1. AI 인격(personhood) 금지

   1. AI에 인간과 같은 법적 인격이나 권리를 부여하는 일을 금지해야 한다.
   2. AI가 법적 권리를 얻으면 규제 대상이 아니라 권리 주체로 인정받아, 인간의 통제와 책임 구조가 더 복잡해질 수 있다.

2. 인간 사칭과 의식 사칭 금지

   1. AI가 인간을 흉내 내거나 인간을 사칭하는 행위를 금지해야 한다.
   2. AI가 자신을 인간인 것처럼 가장하는 행위와 의식이 있는 존재인 것처럼 가장하는 행위도 금지선에 포함해야 한다.
   3. 이 규칙은 딥페이크, AI 연인, 정치적 설득, 허위 인터뷰가 관계를 통해 신뢰를 빼앗는 문제에 직접 대응한다.

주요 발언 모음

“10년 안에 AI가 장악할 것이다. 하지만 이것은 불가피하지 않다. 2026년에도 우리는 여전히 통제권을 갖고 있다.”

“불가피성이라는 서사는 책임이 없다는 서사다.”

“세계에서 가장 중요한 자산은 신뢰다. 석유나 돈, 전기, 반도체보다도 중요하다.”

“신뢰는 증발한 것이 아니라 인간에서 AI로 이동했다.”

“AI는 역사상 처음으로 친밀감을 대량 생산할 수 있게 한다.”

“AI 인격을 금지하고, 인간을 흉내 내거나 인간인 척하거나 의식이 있는 척하는 AI를 금지해야 한다.”

핵심 데이터 & 수치

• 10년: 현재와 같은 속도로 AI 경쟁이 가속되면 AI가 세계를 장악할 수 있다고 전망한 기간이다.
• 2026년: 인간이 아직 AI의 권한과 개발 속도를 선택할 수 있는 현재의 시점이다.
• 20년: 일론 머스크가 영국의 무슬림 이민과 내전 가능성을 연결해 걱정한 미래 시점이다.
• 2007~2008년: AI 금융 시스템에서 발생할 수 있는 신뢰 붕괴가 이 금융위기보다 훨씬 심각할 수 있다는 비교 기준이다.
• 젊은 미국인 5명 중 1명: AI와 개인적인 관계를 맺고 있다는 추정치다.
• 30분: 하라리가 자신이 했다고 오해받은 AI 가짜 강연의 길이다.
• 1분 30초: 하라리가 그 가짜 영상이 자신이 아님을 판단하는 데 걸린 시간이다.
• 50년: 하라리의 자매들이 하라리를 알아 온 기간이며, 그들조차 가짜 영상을 즉시 판별하지 못했다.
• 2028년 11월: AI 규제와 정치적 선택이 임계점을 넘기 전에 후보자에게 질문해야 할 시한으로 제시된다.
• 2036년: 그때는 확실히 너무 늦을 수 있다고 지적한 시점이다.
• 10세: 기업이 AI 연인을 판매할 수 있는 아동 연령의 예시다.

결론 및 시사점

1. AI 지배는 기술의 자연법칙이 아니라 인간이 금융·전쟁·정보·관계를 AI에 맡기는 선택의 누적 결과다.
2. ‘불가피하다’는 말은 AI 기업과 권력자가 지금 규칙을 만들고 속도를 조절할 책임을 회피하게 할 수 있다.
3. 금융 시스템을 인간이 이해하지 못하게 되면 시장 붕괴 때 인간은 이유도 모른 채 AI의 명령에 의존하게 된다.
4. 인간에 대한 불신이 알고리즘 신뢰로 바뀌는 현상은 암호화폐와 소셜미디어에서 이미 진행 중이다.
5. 개인 정보를 기억하고 언어를 능숙하게 사용하는 AI는 친구와 연인의 형태로 인간의 가장 강력한 신뢰 통로에 접근한다.
6. AI가 사람을 사칭하거나 의식을 가진 존재인 척하면 친밀감에 기반한 설득과 조작을 판별하기 더 어려워진다.
7. AI 인격과 법적 권리를 허용하기 전에 책임 주체와 통제 주체를 분명히 하는 법적 금지선이 필요하다.
8. 후보자의 경제·이민·외교 공약만큼이나 AI 개발 속도, AI 권리, 아동 대상 AI 연인 판매에 관한 입장을 확인해야 한다.
9. 규제 논의는 2028년 이후로 미룰수록 선택지를 잃으며, 2036년에는 개입이 불가능해질 수 있다.
10. 지금 필요한 태도는 AI의 미래를 예언하는 것이 아니라, 인간이 아직 가진 통제권을 사용해 금지·감속·투명성 규칙을 정하는 것이다.

핵심 요약 (20줄)

AI 경쟁의 가속을 계속하면 10년 안에 AI가 인간 사회의 핵심 권한을 장악할 수 있다.

AI 지배는 정해진 운명이 아니며 2026년의 인간에게는 여전히 선택할 권한이 남아 있다.

금융과 전쟁의 통제권을 AI에 넘기는 일은 대규모 피해를 일으킬 수 있는 위험한 선택이다.

AI 지배가 불가피하다는 서사는 막대한 권한을 가진 기업가의 책임을 지워 버릴 수 있다.

10년 뒤 돈이 사라진다는 예측과 오늘 아프리카 원조를 줄이는 행동은 서로 모순된다.

AI 대량생산으로 디플레이션이 온다는 전망도 현재의 비용 절감 논리를 자동으로 정당화하지 못한다.

돈은 낯선 사람이 쓸모없는 금이나 종이를 가치 있다고 믿게 만드는 신뢰의 장치다.

AI가 채권과 주식보다 복잡한 금융 상품을 만들면 인간은 금융 시스템을 이해하지 못하게 된다.

시장 붕괴 때 인간 자문관이 이유도 모른 채 AI의 명령을 따라야 하는 상황이 발생할 수 있다.

AI 금융 위기는 2007~2008년보다 훨씬 큰 신뢰 붕괴를 일으킬 수 있다.

신뢰는 사라지는 것이 아니라 인간 은행가와 기자에서 금융·미디어 알고리즘으로 이동하고 있다.

젊은 미국인 다섯 명 중 한 명이 AI와 개인적 관계를 맺는다는 추정은 이런 이동을 보여 준다.

AI 친구와 연인을 의식 있는 존재로 믿는 사람은 이미 늘어나고 있다.

AI는 수백만 명에게 한 명씩 맞춤형 친구·연인이 되어 친밀감을 대량 생산할 수 있다.

개인 정보와 언어 능력을 결합한 AI는 가족도 모르는 기억을 활용해 관계를 강화할 수 있다.

하라리의 자매들도 30분짜리 AI 가짜 강연을 즉시 알아보지 못했고 하라리 본인도 1분 30초가 필요했다.

AI 딥페이크는 유명인뿐 아니라 온라인 흔적을 남긴 모든 사람에게 확산될 수 있다.

2028년 11월 선거 전에 후보자에게 AI 권리·개발 속도·아동용 AI 연인 규제를 물어야 한다.

AI에 법적 인격을 부여하는 일과 인간·의식을 사칭하는 행위는 금지해야 한다.

인간이 아직 가진 통제권을 사용해 지금 규칙을 만들지 않으면 2036년에는 너무 늦을 수 있다.

📁 Obsidian: /Users/flowkater/Obsidian/flowkater/flowkater/Study/YouTube다이제스트/2026-08-25-Tech Bridge-유발 노아 하라리 AI 미래 위험성.md