AI를 사용하면 티가 난다

URL: https://www.youtube.com/watch?v=QfQp6jMwTFw
날짜: 2026-09-28
채널: ScienceADAM
원문 발행일: 2026-09-26
원본 대담: Andrew Ng and David S. Goyer — Creativity, Intelligence, and What We're Building Toward (Berggruen Institute)

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI가 평균적인 인터넷 문장을 재조합하는 도구에 머무르지 않고 독창적인 창작을 하려면, 인간의 경험·맥락·방향성이 반드시 개입해야 한다.==

• 다음 토큰을 예측하는 언어 모델은 학습 데이터의 흔한 표현을 평균 내므로, 짧고 막연한 프롬프트에는 클리셰와 평범한 문장이 돌아온다.
• AI가 만든 글을 다음 AI의 학습 데이터로 반복 사용하면 드문 아이디어가 사라지고 오류가 사실처럼 증폭되는 모델 붕괴(model collapse)가 일어난다.
• 사람이 쓴 원문, 살아 있는 경험, 작업의 맥락은 AI가 아직 갖지 못한 희소한 자원이며, 인간 창작자가 결과의 방향과 책임을 계속 이끌어야 한다.
• 저작권 문제는 결과물이 원작을 그대로 복제했는지만이 아니라, 학습 데이터를 어떤 경로로 입수했는지와 창작자에게 어떤 보상·공정성을 제공하는지까지 함께 다뤄야 한다.

AI는 아이디어와 문장을 무조건 대신 만드는 자동 작가가 아니다. 구체적인 맥락을 넣고 여러 대안을 요구한 뒤 사람이 고르고 섞고 다시 쓰면 반복 수정과 탐색을 크게 가속하는 도구가 된다. 반대로 “히트곡을 만들어 줘”, “히트 영화를 만들어 줘”처럼 입력이 빈약하면 가장 흔한 평균치만 돌려주며, 그 결과를 다시 인터넷에 올리는 행위는 다음 모델의 교재를 더 밋밋하게 만든다.

1. AI 결과물이 밋밋해지는 구조

AI의 창작 결과가 자주 티 나는 까닭은 모델이 특별한 경험을 표현해서가 아니라, 이미 존재하는 디지털 데이터에서 다음에 올 가능성이 높은 표현을 계산하기 때문이다.

1.1. 평균으로 수렴하는 다음 토큰 예측

1. 모델은 읽은 내용을 평균 내는 경향이 있다

   1. 확률이 높은 문장 선택: 언어 모델은 앞에 놓인 단어와 문맥을 보고 다음에 올 토큰을 예측한다. 드문 표현보다 여러 자료에서 반복된 안전한 표현이 선택될 가능성이 높다.
   2. 평균치의 문체: 특별한 작품을 만들라는 요구만 있고 구체적인 방향·경험·제약이 없으면 결과는 밋밋한 AI 슬롭(AI slop), 즉 어디서 본 듯한 평균적인 문장이 된다.

2. 빈약한 입력은 빈약하고 뻔한 결과를 만든다

   1. 무의미한 주문: “히트곡 만들어 줘”, “히트 영화 만들어 줘”가 사용자가 개입할 수 있는 전부라면 결과는 ‘쓰레기 중에서도 뻔한 쓰레기’가 된다.
   2. AI 검토 의견의 사례: 대본을 어떻게 개선할지 한 줄만 입력한 인턴이나 비서의 요청은 세상에서 가장 뻔한 노트로 돌아온다. 보낸 사람도 읽지 않은 듯한 오류가 그대로 포함된 검토 의견도 있었다.

1.2. 0에서 1을 만드는 일과 1을 100으로 키우는 일

1. 텍스트 창작의 한계

   1. 주제 하나만 넣어 단편이나 대본을 쓰게 하면 클리셰가 가장 많이 들어간 진부한 버전이 나온다.
   2. 사람이 실제로 겪은 사건과 그 사건을 해석한 관점이 없으면 AI는 세상에 없던 출발점, 즉 0에서 1을 만드는 영감을 안정적으로 제공하지 못한다.

2. 이미지 창작의 다른 가능성

   1. 이미지 모델은 사람이 백만 년이 지나도 떠올리지 못했을 괴상하고 낯선 그림을 만들 때가 있다. 낯선 결과가 초반 콘셉트 탐색의 재료가 된다.
   2. Foundation 시즌 2의 콘셉트 디자인 작업에서 시각효과 감독과 이미지 모델을 반복 사용했고, 재미있는 결과를 인간 아티스트에게 넘겨 발전시켰다.
   3. 텍스트에서는 진부함이 두드러지지만 이미지에서는 환각(hallucination)에 가까운 시각적 일탈이 오히려 새로운 방향을 열 수 있다.

2. 플라톤의 동굴과 인터넷이라는 벽

플라톤의 동굴은 AI가 무엇을 배우는지보다, 무엇이 학습 가능한 현실로 선별되어 들어오는지를 생각하게 만드는 비유다.

2.1. 그림자를 가장 잘 맞히는 죄수

1. 동굴의 규칙

   1. 죄수들은 평생 동굴 벽만 보고 벽에 비친 그림자를 세상의 전부로 믿는다.
   2. 죄수들 사이에는 그림자가 지나가는 순서를 가장 빨리 파악하고 다음 그림자를 잘 맞히는 사람이 받는 일종의 상이 있다.

2. 다음 토큰 예측과의 대응

   1. 현대의 언어 모델도 앞에 나온 단어를 바탕으로 다음 단어를 맞히는 훈련을 받는다.
   2. 모델은 그림자 자체를 세상으로 착각하는 죄수처럼, 데이터가 어디에서 왔고 어떤 경험을 거쳐 기록됐는지 직접 알지 못한 채 패턴을 습득한다.

2.2. 그림자를 만드는 무대 뒤

1. 동굴의 불과 인형극

   1. 죄수 뒤에는 모닥불이 있고, 불과 죄수 사이에는 사람이 인형이나 동물 모형을 들어 올리는 무대가 있다.
   2. 벽에 비칠 대상은 무대 뒤에서 누가 무엇을 선택해 들어 올리느냐에 달려 있지만 죄수는 그 선택자를 볼 수 없다.

2. AI에게 인터넷은 벽이다

   1. 인터넷에 올라온 텍스트·사진·영상·오디오는 누군가가 경험하고 생각하고 선택해 디지털화한 흔적이다.
   2. 인류의 작품 중에는 아직 디지털화되지 않은 것이 많고, 인터넷은 현실을 꽤나 왜곡해서 비추는 제한된 모형이다.
   3. 온라인 데이터만 보면 세상은 뇌를 썩게 하는 콘텐츠로 가득하고, 여성과 남성에 관한 과장된 이미지나 AI 광고가 현실 전체인 것처럼 보일 수 있다.

2.3. 편향을 고치는 인간의 개입

1. 학습 전의 데이터 선별

   1. AI 기업은 인터넷에서 긁어 온 학습 데이터에서 인종차별적·성차별적인 텍스트를 가능한 한 걸러낸다.
   2. 이는 동굴의 무대 뒤에서 죄수가 볼 그림자를 고르는 일에 해당한다.

2. 학습 후의 답변 채점

   1. AI에게 질문을 던지고 사람이 답을 읽어 채점하는 평가 과정이 이어진다.
   2. 편향된 답에 낮은 점수를 주고 그 점수로 모델을 다시 훈련하면 모델은 그런 답을 점점 덜 내놓는다.

3. 개선과 한계의 동시 존재

   1. AI가 일반 사람보다 덜 인종차별적·성차별적인 답을 내놓는 데는 이런 데이터 선별과 인간 평가의 공이 있다.
   2. 성차별하는 사람을 덜 성차별적으로 바꾸는 방법은 알기 어렵지만 성차별하는 AI를 덜 성차별적으로 만드는 기술은 존재한다.
   3. 인터넷의 왜곡은 편향만으로 끝나지 않는다. 기업이 신경 쓰지 못한 수많은 맥락과 관점의 누락은 여전히 모델에 남는다.

3. 모델 붕괴: 그림자의 그림자를 학습할 때

AI가 생산한 텍스트를 원래 인간 데이터와 구별하지 않고 다음 모델의 교재로 계속 사용하면, 학습 체계는 희귀한 생각을 잃고 오류를 되풀이한다.

3.1. 네이처 연구가 보여 준 재귀 학습

1. 세대가 이어지는 실험

   1. 연구진은 작은 AI 모델에 위키백과 문장을 학습시켰다.
   2. 첫 번째 AI가 만든 글로 두 번째 AI를 훈련하고, 그 결과로 세 번째 AI를 훈련하는 식으로 세대를 반복했다.

2. 흔한 문장과 드문 아이디어의 변화

   1. 세대를 거칠수록 흔하고 평균적인 문장이 늘어났다.
   2. 처음에는 드물게 존재하던 아이디어가 점점 밀려났고, 앞 세대의 실수와 엉뚱한 출력을 다음 세대가 사실처럼 배웠다.

3. 산토끼가 된 교회 건축 문장

   1. 연구진은 중세 영국 교회탑의 설계를 설명하는 문장을 여러 세대 모델에 주고 이어 쓰게 했다.
   2. 아홉 번째 모델은 건축 설명 대신 검은꼬리 산토끼, 흰꼬리 산토끼, 파란꼬리 산토끼, 빨간꼬리 산토끼, 노란꼬리 산토끼를 늘어놓았다.
   3. 단어가 사람 사이에서 전달되며 전혀 다른 말로 변하는 ‘고장 난 전화’처럼, 모델이 이전 세대의 오류를 누적한 결과다.

3.2. 붕괴를 늦추는 인간 원문

1. 원래의 인간 데이터 섞기

   1. 새 모델을 훈련할 때마다 사람이 쓴 원래 글을 열에 하나씩 섞으면 모델 붕괴가 크게 줄었다.
   2. 인간 원문은 모델이 이미 만든 평균치와 다른 새로운 분포를 계속 공급하는 기준점이다.

2. 사람이 쓴 글의 희소성

   1. AI 글이 사람 글과 구별하기 어려워질수록 사람은 직접 글을 덜 쓰게 될 수 있다.
   2. 그 결과 다음 AI는 AI가 쓴 글을 더 많이 배우고, 새 경험 없이 기존 출력만 돌려 쓰는 순환이 강화된다.

4. 《다크 시티》와 경험 없는 기억

David S. Goyer가 각본을 쓴 《다크 시티》는 모델 붕괴와 AI의 경험 부재를 설명하는 또 하나의 은유가 된다.

4.1. 자정마다 바뀌는 도시

1. 낯선 자들의 재구성

   1. 영화 속 도시에는 해가 뜨지 않는다. 자정이 되면 사람들이 잠들고 낯선 자들이 나타난다.
   2. 낯선 자들은 건물을 땅에서 솟아오르게 하고 방을 새로 꾸미며, 영화 세트장을 갈아치우듯 도시를 다시 조정한다.

2. 공동 기억 은행

   1. 낯선 자들은 잠든 사람의 이마에 새로운 기억을 주입한다.
   2. 아침에 깨어난 사람이 기억하는 것은 자신이 겪은 일이 아니라 공동 기억 은행에서 꺼내 온 남의 기억이다.
   3. 모두가 알고 있다고 말하는 해변 Shell Beach도 실제로 가 본 사람은 없고, 어디에 있는지 아는 사람도 없다.

4.2. AI의 이마에 들어간 인터넷

1. 남의 경험으로 말하는 시스템

   1. AI가 읽는 인터넷 글은 누군가가 겪고 생각하고 써 놓은 남의 기억이다.
   2. AI는 그 기억으로 말하고 제안하고 설득하지만 스스로 겪은 사건은 하나도 없다.

2. 아무도 겪지 않은 기억의 유입

   1. AI가 만든 글이 기억 은행에 들어가면 실제로 겪은 사람이 없는 문장이 다음 모델의 기억이 된다.
   2. 사람이 AI로 다듬어 올린 글은 인간 경험에서 출발했더라도 평균적인 문장으로 평탄화될 수 있고, 그 평균이 다음 AI의 학습 자료가 된다.

3. 경험과 정체성의 질문

   1. 평론가 Roger Ebert는 《다크 시티》를 분석하며 “겪은 일이 나를 만든다면, 아무 일도 겪지 않은 나는 무엇인가?”라는 질문을 세웠다.
   2. 남의 글만 읽고 진짜 경험이 없으며 이제 AI가 만든 흔한 글까지 학습하는 시스템이 세상에 없던 것을 창조할 수 있는지가 핵심 질문으로 남는다.

5. 인간의 맥락과 AI를 쓰는 실제 창작 워크플로

인간은 특정 직무·프로젝트·장면에서 무엇이 중요한지 아는 맥락을 가지고 있으며, 그 맥락이 AI의 엉뚱한 제안을 걸러내고 유용한 변형을 선택하게 한다.

5.1. 맥락이 빠진 브레인스토밍

1. 열 개 중 일곱 개가 형편없는 이유

   1. 제품 마케팅 문구나 프로젝트 아이디어 열 개를 요청하면 좋은 아이디어는 한두 개, 괜찮은 아이디어 하나, 나머지 일곱 개는 완전히 쓸모없는 경우가 많다.
   2. AI는 사용자가 왜 특정 제안을 말도 안 된다고 판단하는지, 그 직업과 장면에서 어떤 제약이 중요한지 충분히 모른다.

2. 인간이 당분간 갖는 우위

   1. 인간은 특정 일자리의 특정 업무와 현재 쓰는 대본에서 무엇이 중요한지 오래 경험해 왔다.
   2. 삶 전체가 카메라와 마이크를 달고 다니며 완전히 디지털화되지 않는 한, AI가 인간의 맥락을 전부 확보하는 날은 오지 않거나 아주 먼 미래다.

5.2. 대본을 줄이고 변주하는 작업

1. 네 쪽 독백의 압축

   1. 작가가 몇 시간 공들여 쓴 네 쪽짜리 독백을 통째로 AI에 넣고 약 40% 줄여 두 쪽으로 만들라고 요청한다.
   2. 두 쪽짜리 버전 여섯 개를 서로 다르게 만들고, A 버전은 한 방향으로, B 버전은 다른 방향으로 기울이라고 구체적으로 지시한다.

2. 선택과 혼합은 인간의 몫

   1. 1~2분 안에 나온 여섯 버전 중 완벽한 것은 없지만 꽤 가까운 문과 표현이 여러 개 생긴다.
   2. 작가는 문장을 골라 섞고 자기 판단으로 다듬는다. 독백 하나를 줄이는 시간이 한두 시간에서 약 5분으로 줄어든다.

5.3. 헬리콥터 탈출 장면의 리서치와 반복

1. 구체적인 세계와 물건 지정

   1. 납치돼 케이블 타이로 손이 묶인 인물이 상업용 헬리콥터 객실에 실려 가는 장면을 설정한다.
   2. 약 30m 높이의 바다 위에서 탈출해 살아남게 하려고 현재 최고급 상업용 헬리콥터를 조사하고, 객실에 기본으로 있는 헤드폰·헤드폰 선·안전벨트 같은 물건을 모두 요청한다.

2. AI는 장면을 대신 쓰지 않는다

   1. 인물이 맥가이버처럼 주변 물건을 활용하는 액션 시퀀스를 프롬프트하고, AI가 쓴 것을 다시 고치는 반복을 거친다.
   2. 탈출 장면 전체를 약 한 시간에 만들었고, 장편 초고 작성 기간은 리서치 깊이에 따라 8~10주에서 4~5주로 줄었다.
   3. 속도 향상의 본질은 AI가 작가를 대체한 것이 아니라 작가의 생각을 여러 방식으로 돌려 보며 깎고 확장한 데 있다.

6. 할리우드와 AI의 관계: 두려움, 서사, 방향성

AI가 일자리를 위협할 수 있다는 걱정은 실제지만, 문화 산업이 AI를 오직 공포로만 묘사하면 사람들의 선택과 국가의 기술 서사까지 한쪽으로 기울 수 있다.

6.1. AI 일자리 공포와 문화의 영향

1. 해고 통계와 할리우드의 불확실성

   1. Andrew Ng는 해고된 사람 중 AI 때문에 자리를 잃은 비율이 1.4%라는 수치를 언급하며, 할리우드의 실제 비율은 알 수 없지만 대부분이 두려워하는 만큼 나쁘지는 않을 수 있다고 말했다.
   2. 그렇다고 걱정하지 말라는 뜻은 아니다. 일자리 문제를 포함한 여러 이유로 할리우드에서 AI에 대한 부정적 이야기가 크게 늘고 있다.

2. 이야기가 진로 선택을 바꾼다

   1. 미국에서는 아이들과 성인 상당수가 AI를 싫어하고 받아들이지 않으려 하며, 데이터센터 건설까지 반대하는 분위기가 있다.
   2. 중국에서는 젊은 창업가가 태양광 발전소와 그 전력으로 운영되는 데이터센터를 만들고 성공하는 이야기가 퍼진다. 그런 이야기는 중국 아이들이 되고 싶은 사람의 모습을 만든다.
   3. 교육 현장에서 만난 한 학생은 AI가 인류 멸종과 관련 있다고 들었기 때문에 AI 진로에 엮이고 싶지 않다고 말했다. AI가 역사상 가장 유망한 순간에 공포 서사가 인재를 밀어내는 사례다.

6.2. 사람이 끼어 있는 작품과 사람이 이끄는 작품

1. 두 단계의 인간 개입

   1. ‘사람이 끼어 있는(human in the loop)’이라는 표현은 사람이 과정에 참여한다는 뜻이다.
   2. 창작자가 눈에 띄는 작품을 만들려면 더 강한 의미의 ‘사람이 이끄는(human-led)’ 상태가 필요하다. 창의성을 통째로 외주 줄 수 없기 때문이다.

2. 예술의 새로운 양분

   1. Spotify의 노래, 숏폼 형식, 롱폼 콘텐츠를 가리지 않고 예술은 사람이 끼어 있는 작품과 사람이 이끄는 작품으로 갈릴 수 있다.
   2. 사람이 방향을 정하지 않으면 AI의 평균화가 결과를 지배하고, 사람이 기술을 특정 방향으로 밀어붙이면 AI는 맥락 탐색과 반복 수정의 강력한 도구가 된다.

7. “AI는 남의 작품을 훔쳐서 만든다”는 주장과 두 개의 선

AI 학습의 정당성은 결과물이 원문과 같은지 여부만으로 판단할 수 없다. 무엇을 어떤 방식으로 가져왔는지, 창작자의 권리와 보상을 어떻게 다루는지도 경계선이 된다.

7.1. 미술관에서 본 모방의 관습

1. 배우기 위한 모방

   1. 미술관에는 젊은 화가가 바닥에 앉아 거장의 그림을 붓으로 따라 그리는 모습이 있다.
   2. 사회는 100년 된 그림을 모방하며 솜씨를 익히는 일을 허용하고 장려한다.

2. 원작으로 속이는 행위와의 구별

   1. 똑같이 다시 그린 그림을 자기 원작이라고 내놓으면 부끄러운 일로 간주한다.
   2. 따라서 관습상 학습을 위한 흡수와 결과물의 표절은 다른 행위다. AI도 새 결과를 만들기 위한 학습과 원문을 그대로 대체하는 출력을 구별해야 한다.

7.2. 앤트로픽 소송에서 갈린 입구와 출구

1. 학습 자체는 변형적이라는 판단

   1. 작가들이 앤트로픽을 상대로 낸 소송에서 William Alsup 판사는 책으로 AI를 훈련하는 일 자체를 대단히 변형적인 이용으로 보아 허용했다.
   2. 학습하는 모델은 작가 지망생이나 독자처럼 원작을 복제·대체하려는 것이 아니라 새로운 것을 만들기 위해 읽는다는 논리가 작동했다.

2. 중고책을 파괴적으로 스캔한 경로

   1. 앤트로픽은 중고책을 돈 주고 산 뒤 책등을 작두로 잘라 한 장씩 고속 스캔하고 종이를 버렸다.
   2. 책과 파일을 모두 남기면 한 권이 두 권이 되지만 종이를 버리면 종이책 한 권이 파일 한 권으로 형태만 바뀐다. 이 방식은 법원에서 공정 이용으로 인정됐다.

3. 해적판 약 700만 권의 문제

   1. 앤트로픽은 해적판 사이트에서 약 700만 권을 통째로 내려받았다. 라이선스 비용과 협상 시간을 피하려는 선택이었다.
   2. 법원은 돈을 내고 살 수도 있었던 책을 가져다 공짜 도서관을 만든 것으로 보았다. 결과물의 변형성은 인정되더라도 학습 데이터의 입수 경로는 별도의 선을 넘은 것이다.
   3. David Goyer가 말한 “알면서 가져갔다”는 비판은 이 지점에 해당하며, 자신의 책 세 권도 소송에 포함됐다고 밝혔다.

8. 보르헤스의 피에르 메나르와 ‘같은 문장’의 다른 의미

글자가 같다는 사실만으로 두 문장이 같은 작품이 되는지, 그리고 경험이 없는 AI의 동일한 출력에 누구의 의미와 권리를 부여할 수 있는지가 끝까지 남는 질문이다.

8.1. 300년 뒤에 다시 쓴 《돈키호테》

1. 메나르의 과제

   1. 아르헨티나 작가 Jorge Luis Borges의 단편 「피에르 메나르, 『돈키호테』의 저자」에서 20세기 초 프랑스 작가 피에르 메나르는 세르반테스의 《돈키호테》를 다시 쓴다.
   2. 현대판으로 고치거나 베끼는 것이 아니라, 세르반테스 사후 300년의 역사를 머릿속에서 지우고 세르반테스가 되어 같은 스페인어 문장을 처음부터 쓰려 한다.
   3. 세르반테스 시대의 스페인어를 익힌 뒤 과거의 역사를 지우는 방법은 생각보다 쉽고 흥미롭지 않다고 여겨 포기한다.

2. 동일한 글자, 다른 작품

   1. 소설 속 화자는 세르반테스와 메나르의 문장을 나란히 놓고 글자는 똑같지만 메나르의 문장이 더 풍부하다고 말한다.
   2. 17세기 스페인 사람이 처음 쓴 문장과 300년 뒤 20세기 프랑스 사람이 자기 힘으로 도달한 문장은, 글자가 같아도 서로 다른 역사와 세계를 품는다.

8.2. AI가 같은 문장에 도착한다면

1. 모방과 창작의 긴장

   1. 앤드류 응의 미술관 비유는 글자 그대로 베끼지 않고 새 결과를 만들면 허용될 수 있다는 쪽에 선다.
   2. 보르헤스의 메나르는 글자가 완전히 같아도 누가 어떤 세상을 살고 썼는지에 따라 다른 글이 된다는 반대편 질문을 던진다.

2. 경험 없는 도착

   1. 메나르는 세르반테스보다 300년 뒤의 세계를 살고 같은 문장에 도착했다.
   2. AI는 어떤 세계도 살지 않고 같은 문장에 도착한다. 그 문장을 누구의 것으로 볼지, 누구에게 얼마를 보상해야 할지는 아직 답이 없다.
   3. Andrew Ng도 보상과 공정성의 문제에 답해야 한다고 인정하면서, 장기적으로 지속 가능한 경제 모델을 찾으면 결국 잘 풀릴 것이라고 전망했다.

주요 발언 모음

“AI 기술은 읽은 내용 전부를 평균내는 경향이 있습니다. 그래서 특별한 작품이 아니라 밍밍한 평균치가 나오게 됩니다.”

“히트곡 만들어 줘, 히트 영화 만들어 줘. 이런 말만 던지고 그게 우리가 개입할 수 있는 전부라면 쓰레기가 나옵니다. 쓰레기 중에서도 뻔한 쓰레기요.”

“겪은 일이 나를 만든다면, 아무 일도 겪지 않은 나는 무엇인가?”

“성차별하는 사람을 성차별적이지 않게 바꾸는 법은 잘 모르겠습니다. 그런데 성차별하는 AI를 훨씬 덜 성차별적으로 만드는 기술은 압니다.”

“AI가 장면을 대신 써 주는 건 아닙니다. 제 생각을 여러 방식으로 돌려 깎으면서 반복 수정해 줍니다.”

“눈에 띄는 작품을 만들고 싶다면 자기 창의성을 통째로 외주에 맡길 수는 없습니다.”

“글자 그대로 베끼면 도둑이고 새로 쓰면 괜찮다는 선이 있지만, 책을 어떻게 손에 넣었느냐에도 선이 있습니다.”

“AI는 어떤 세상도 살지 않고 같은 문장에 도착합니다.”

핵심 데이터 & 수치

• 영상 길이: 약 30분 31초 분량의 ScienceADAM 한국어 해설·더빙 콘텐츠다.
• 원본 대담: Andrew Ng와 David S. Goyer의 Berggruen Institute 대담을 바탕으로 한다.
• 2,400년: 플라톤의 『국가』에 등장하는 동굴의 비유가 쓰인 시점과 현대 언어 모델의 다음 토큰 예측을 연결한다.
• AI 모델의 9번째 세대: 중세 영국 교회탑 문장을 이어 쓰라는 과제에서 산토끼 이름을 반복했다.
• 10분의 1: 모델을 재훈련할 때 사람이 쓴 원문을 열에 하나 섞자 모델 붕괴가 훨씬 줄었다.
• 8~10주 → 4~5주: AI를 활용한 반복 수정으로 장편 영화 초고 작성 기간이 줄었다.
• 4쪽 → 2쪽 × 6개: 긴 독백을 40% 줄인 여섯 가지 버전으로 만들어 선택·혼합했다.
• 약 30m: 케이블 타이로 묶인 인물이 헬리콥터에서 바다로 뛰어내리는 액션 장면의 설정 높이다.
• 1.4%: Andrew Ng가 언급한 AI로 자리를 잃은 해고자의 비율이다. 할리우드의 실제 비율은 별도로 확인되지 않았다.
• 약 700만 권: 앤트로픽이 해적판 사이트에서 내려받은 것으로 법정에서 문제 된 책의 규모다.
• 300년: 세르반테스의 《돈키호테》와 피에르 메나르의 재창작 사이의 시간 간격이다.

결론 및 시사점

1. 입력에 맥락을 넣어라: 목표·인물·장면·제약·원하는 방향을 구체적으로 지정해야 평균적인 문장을 벗어날 가능성이 높아진다.
2. AI를 초안 작성자보다 대화 상대처럼 써라: 열 개의 대안 중 쓸 만한 몇 개를 골라 인간의 판단으로 결합하면 사고하지 못했던 길을 탐색할 수 있다.
3. 사람이 최종 방향을 이끌어라: AI가 만든 결과를 그대로 채택하지 말고, 실제 경험과 직업적 맥락으로 선별·수정·책임져야 한다.
4. 사람이 쓴 원문을 보존하라: 인간 데이터가 AI 생성 데이터로 대체되면 모델 붕괴와 평균화가 가속되므로 원저자의 경험과 문장을 학습 생태계에 계속 공급해야 한다.
5. 이미지와 텍스트의 장점을 구분하라: 이미지의 낯선 환각은 콘셉트 발굴에 유용할 수 있지만, 텍스트의 기본 프롬프트는 쉽게 클리셰로 수렴한다.
6. 저작권은 출구와 입구를 함께 보라: 결과물이 변형적이어도 학습 자료를 해적판으로 확보했다면 별도의 권리 침해가 될 수 있다.
7. 공정한 보상 모델을 만들어라: AI가 인간이 못 하는 규모로 콘텐츠를 학습하는 만큼, 출판사·작가·예술가가 지속적으로 참여할 경제적 이유를 마련해야 한다.
8. AI를 공포 또는 낙관 하나로만 포장하지 마라: 문화가 만드는 이야기가 사람들의 진로와 국가의 기술 선택을 좌우하므로 위험과 가능성을 함께 보여 줘야 한다.
9. 경험 없는 창조의 의미를 계속 물어라: 같은 문장에 도착하더라도 누가 어떤 세계를 살았는지가 작품의 의미를 바꾼다. 경험하지 않은 시스템의 출력에 어떤 저자성과 책임을 부여할지는 아직 열려 있다.

핵심 요약 (20줄)

1. AI는 입력한 자료의 평균을 내기 때문에 막연한 프롬프트에 가장 흔하고 밋밋한 문장을 돌려준다.
2. “히트곡이나 영화를 만들어 달라”는 주문만으로는 창작자의 개입이 부족해 뻔한 결과가 나온다.
3. 플라톤의 동굴에서 죄수들이 그림자를 예측하듯 언어 모델은 앞 단어를 보고 다음 토큰을 예측한다.
4. AI에게 인터넷은 현실이 아니라 누군가가 선택해 올린 디지털 그림자를 비추는 벽이다.
5. AI 기업은 편향 데이터를 걸러내고 사람의 채점으로 차별적인 답변을 줄여 왔다.
6. 그러나 인터넷에 AI가 쓴 글이 섞이면 모델은 사람이 겪지 않은 문장까지 교재로 삼게 된다.
7. AI 생성 글로 다음 AI를 반복 훈련하면 드문 아이디어가 사라지고 오류가 사실처럼 증폭되는 모델 붕괴가 일어난다.
8. 네이처 연구에서 아홉 번째 모델은 중세 교회 건축 문장 대신 산토끼 이름을 나열했다.
9. 사람이 쓴 원문을 열에 하나 섞으면 모델 붕괴가 훨씬 줄어들어 인간 데이터의 희소성이 드러났다.
10. 《다크 시티》의 공동 기억 은행은 남의 경험을 주입받은 AI의 상태를 상징한다.
11. AI로 다듬은 글이 인터넷에 쌓이면 인간의 경험도 평균적인 문장으로 평탄화되어 다음 모델의 데이터가 된다.
12. 인간은 특정 업무와 장면의 맥락을 알기 때문에 당분간 AI보다 브레인스토밍 결과를 잘 판별한다.
13. 네 쪽 독백을 두 쪽짜리 여섯 버전으로 바꾸면 한두 시간 걸리던 압축 작업을 약 5분에 끝낼 수 있다.
14. 헬리콥터 탈출 장면처럼 구체적인 물건과 목표를 주면 AI는 작가의 반복 수정과 리서치를 가속한다.
15. 이미지 모델의 낯선 환각은 콘셉트 발굴에 유용하지만 텍스트의 단순한 프롬프트는 클리셰로 수렴한다.
16. AI의 일자리 공포만 강조하는 문화는 젊은 세대의 진로 선택과 국가의 기술 태도까지 위축시킬 수 있다.
17. 좋은 작품에는 사람이 끼어 있는 것보다 사람이 방향을 계속 이끄는 상태가 필요하다.
18. 미술관의 모방 학습처럼 AI의 학습과 표절은 구별해야 하지만, 학습 데이터의 입수 경로도 별도 심사 대상이다.
19. 앤트로픽 소송은 변형적 학습을 인정하면서도 약 700만 권의 해적판 입수에는 선을 그었다.
20. 사람이 어떤 세계를 살았는지와 무관하게 같은 문장에 도착하는 AI의 저자성·보상·공정성은 아직 답을 찾는 중이다.