메타데이터
- 발신자: TLDR
- 원문 URL: https://borretti.me/article/mathematics-without-mathematicians?utm_source=tldrnewsletter
- 발행일: 2026-08-03
- 카테고리: ai-llm
직역 전문
어제 OpenAI는 아직 공개되지 않은 모델이 발견한 열 가지 미해결 수학 문제의 해법을 발표했다. 그중 필자가 그 중요성을 판단할 만큼 잘 아는 분야는 부호 이론(coding theory) 문제 하나뿐이지만, 필자가 신뢰하는 수학자들에 따르면 이번 성과는 중요하다고 한다.
필연적으로 사람들은 이런저런 궤변을 늘어놓으며 아무것도 바뀌지 않을 것이라고 스스로를 납득시키려 할 것이다. 그리고 그것도 괜찮다. 사람들은 대처(cope)가 필요하니까. 하지만 세상이 우리 주변에서 완전히 뒤바뀌는 동안 영원히 모래에 머리를 파묻고 있을 수는 없다. 그래서 여기, AI가 수학을 접수하는 것에 대해 사람들이 내놓을 법한 여러 대처법들의 목록과, 각각의 대처법이 현실에 의해 어떻게 반박될지를 정리해 본다.
필자의 의도는 모두를 심하게 우울하게 만드는 것이 아니라, 이 기술이 가져올 함의를 소화하도록 돕는 데 있다. 여기서 다루는 논증들은 어느 정도 이식 가능하다. "수학"이라는 단어를 필요에 따라 "식물학" 등으로 바꿔도 논리는 성립한다.
목표를 슬쩍 옮기기. 이건 너무 뻔해서 굳이 다룰 가치도 없다.
"우리가 AI를 지휘하며, 풀어야 할 문제와 연구 영역을 지정해 줄 것이다." AI는 안목과 직관에서 인간을 능가하게 될 것이다. 어느 시점이 되면 길을 지시하는 인간은, "여기 증명 검증기가 있으니 마음껏 해봐"라고 말하고 토큰 비용만 지불하는 인간보다 더 나쁜 결과를 얻게 될 것이다.
"우리가 AI가 발견한 수학을 가르칠 것이다." AI는 인간보다 더 나은 교사가 될 것이다. 어차피 최전선 수학의 해설을 들을 인간 청중 자체가 존재하지 않게 될 것이다.
"우리가 AI가 발견한 결과를 어떻게 정전(canon)으로 삼을지 선택할 것이다." 이건 꽤 그럴듯한 대처법이다. AI들은 최전선을 탐험하는 탐험가이고, 인간들은 그들이 만든 린(Lean) 증명을 감사히 받아들여 논의하고, 어떤 결과가 중요한지 선별하여 대수학이라는 거대한 대성당(mathlib)의 작은 벽돌 하나로 다듬는다는 그림이다. 하지만 위와 마찬가지다. AI는 그 대성당을 스스로 지을 것이다. 그들이 우리보다 더 뛰어난 건축가가 될 것이다.
"우리는 AI 수학의 학생이 될 것이다." 이는 AI가 매스립(mathlib)의 연역적 폐포(deductive closure) 속으로 너무 깊이 파고들어, 초등 수학에서 최전선까지의 거리가 인간이 아무리 좁은 분야에 평생을 바쳐도 배울 수 없는 수준에 이르기 전까지만 유효하다.
"AI가 발견한 결과를 인간이 이해할 필요가 있다." 그럴 필요 없다! 이는 미래의 청중이 누구일지를 오해한 것이다. AI가 최전선 수학을 하고, 그 하위 단계에서 AI가 그 새로운 수학을 이용해 최전선 과학을 하며, 마지막으로 AI가 그 새로운 과학을 이용해 최전선 공학을 하게 될 것이다. 그 어느 것도 인간이 이해할 필요가 없다. 결과를 이해시키기 위해 인간을 루프에 넣는 기업들은, 그렇게 하지 않는 기업들에게 경쟁에서 밀려날 것이다.
그 결과 우리는, 그 작동 원리도, 그 바탕이 되는 공학 원리도, 그것을 발견하는 데 쓰인 형식 체계도 이해하지 못한 채, 경이로운 장치들로 가득한 귀신 들린 세상(demon-haunted world)에서 살게 될 것이다.
"컴퓨터는 이미 체스에서 초인적인 수준이지만, 우리는 여전히 체스를 둔다." 대부분의 대처법과 달리, 필자는 이것이 흥미롭다고 생각한다. 컴퓨터는 초인적인 체스 기사이지만 우리는 개의치 않고 평소처럼 체스를 계속 둔다. 그렇다면 수학은 왜 달라야 하는가?
필자가 생각하는 주된 이유는, 체스가 자기완결적(self-contained)이라는 데 있다. 체스에서 나온 결과는 행성의 궤도나 약물이 단백질 표면에 결합하는 방식을 이해하는 데 아무런 도움이 되지 않는다. 하지만 수학은, 유명한 말처럼, 과학의 거대한 발전기이자 세상을 이해하기 위한 최고의 언어이자 방법이다. 인간 수학자를 대체하되 더 낫고 더 빠르고 더 저렴한 기계는 실질적으로 유용하다. 반면 더 나은 체스 엔진은 그렇지 않다.
초인적인 체스 실력을 가진 두 컴퓨터가 서로 대국을 둔다면, 누가 신경 쓰겠는가? 이에 대한 수요가 거의 없으니 밀어낼 경쟁자도 없다. 하지만 초인적인 수학자는 다르다.
"수학은 변하겠지만, 수학자들과 수학에 소질 있는 이들은 여전히 스스로 수학을 할 것이다." 이 주장은 수학이 사회적 맥락 속에 내재되어 있다는 사실을 간과하고 있다고 생각한다. 한 예로, AI가 소프트웨어를 잠식할 것이 분명해졌을 때 필자의 대처법은 이러했다. "직업적으로는 에이전트들을 관리하는 엔지니어링 매니저가 되어도 좋다. 여가 시간에는 순전히 즐거움을 위해 여전히 코드를 짤 수 있으니까."
그리고 실제로 그렇게 하고 있다. 하지만 이 대처법은 AI가 코드 작성을 둘러싼 사회적 맥락에 끼친 영향을 간과한다. 담론의 수준은 나빠졌고 훨씬 더 반지성적으로 변했다. 예전에는 타입 시스템이나 컴파일러 이야기를 하던 사람들이 이제는 "루프"니 "하니스"니 하는 이야기를 한다. 정성껏 만든 프로젝트를 깃허브에 올리면 슬롭(slop) PR이 쏟아지고, 흥미로워 보이는 프로젝트 링크를 열어 보면 README가 읽을 수 없는 AI 슬롭이다. 그리고 장기적으로 곱씹어 보면 낙담스러운 지점이 있다. 앞으로 누가 새로운 프로그래밍 언어를 설계할 것인가? 반대로, 내가 새 언어를 설계한다면 누가 신경이나 쓸 것인가? 특정 문제를 풀기 위한 우아한 새로운 형식 체계를 도입한 라이브러리를 만든다면, 누가 그것을 쓸 것인가?
즉, 어떤 인간도 섬처럼 홀로 존재하지 않는다. 혼자서도 수학을 할 수는 있지만, 순전히 내적 동기만으로 어떤 활동을 장기간 지속할 수 있는 사람은 극히 드물다는 것을 알게 될 것이다. 우리는 사회적 동물이다. 우리는 쓸모 있는 존재가 되는 것, 지위, 그리고 세상에 미치는 결과에 신경 쓴다.
결론. 밝은 어조로 끝맺어야 할 것 같다. 그렇게 해 보겠다. 개인적으로 필자는 기술이 필연적이라고 믿지 않는다. "필연적"이라는 단어는 행성의 궤도를 위해 남겨두어야 할 말이다. 인간 행위의 산물 중 필연적인 것은 없다. 우리는 스스로를 무용지물로 만드는 선택을 할 수도, 하지 않을 수도 있다. 우리는 AGI가 악마의 거래라는 것을 깨달을 수 있다. 우리는 기술 진보를 가속하고, 수명 연장 같은 온갖 경이로운 기술 트리의 노드를 예상보다 일찍 해금할 수도 있다. 하지만 그 결과, 장기적으로 인간은 잘해야 훨씬 더 강력한 존재들의 보살핌을 받는 반려동물 같은 처지가 될 수 있다.
예측에 관한 소고. 미래는 확실하지 않지만, 필자는 단순함을 위해 위의 모든 내용을 단정적으로 서술했다. AGI와 ASI의 가능성을 진지하게 받아들이고, AI가 지난 약 6년간 그래왔듯 계속 발전한다면, 이는 상황이 흘러갈 합리적인 그림이라고 생각한다.
AI 진보에 반대하는 가장 좋은 논거는 아마 이것일 것이다. "강화학습은 잘 일반화되지 않는다. 우리는 형식화된 수학이나 코딩처럼 검증 가능한 영역에서는 엄청난 진보를 봤지만, 직관적이거나 형식화하기 어려운 영역에서는 진보가 덜할 것이다." 맞는 말일 수도 있다. 하지만 수십억 달러와 수천 명의 매우 똑똑한 사람들, 그리고 점점 더 똑똑해지는 모델들이 이 문제에 투입되고 있다. 이 대처법은 과연 얼마나 오래 버틸 수 있을까?
4계층 심층 요약
1. 핵심 주장
필자(Fernando Borretti)는 OpenAI가 미공개 모델을 이용해 열 개의 미해결 수학 문제를 해결했다는 발표를 계기로, AI가 수학이라는 영역 전체를 인간으로부터 넘겨받는 것이 이미 정해진 흐름이라고 주장한다. 사람들이 이 흐름을 부정하기 위해 내놓을 법한 여러 가지 "대처법(cope)"을 하나씩 나열하고, 그것들이 왜 현실 앞에서 무너질 수밖에 없는지를 조목조목 반박한다. 핵심은 인간이 AI의 감독자, 교사, 정전화 담당자, 학생, 이해자, 혹은 취미로서의 수학자로 남을 것이라는 기대가 모두 일시적인 방어기제에 불과하다는 것이다.
2. 근거
필자는 각 대처법을 "AI가 결국 인간보다 그 역할을 더 잘 수행하게 된다"는 하나의 패턴으로 환원해 반박한다. AI를 지휘하려는 인간은 결국 AI의 안목과 직관을 따라가지 못하고, AI를 가르치려는 인간은 AI가 더 나은 교사가 되면서 청중을 잃으며, 결과를 정전화하려는 인간의 역할도 AI가 자체적으로 수행하게 된다는 것이다. 특히 체스 비유를 정면으로 다루면서, 체스는 결과가 자기완결적이라 외부 세계에 파급 효과가 없는 반면 수학은 과학과 공학의 근간이라는 점에서 근본적으로 다르다고 논증한다. 또한 소프트웨어 개발 분야에서 이미 벌어지고 있는 담론의 질적 저하(슬롭 PR, 읽을 수 없는 AI 생성 README)를 실제 사례로 제시하며, 수학도 같은 사회적 붕괴를 겪을 것이라고 추론한다.
3. 사례
가장 구체적인 사례는 필자 자신의 소프트웨어 엔지니어링 경험이다. AI가 소프트웨어를 잠식하기 시작했을 때 그는 "에이전트를 관리하는 매니저가 되고 여가에는 취미로 코딩하면 된다"고 스스로를 다독였지만, 실제로는 깃허브에 슬롭 PR이 쏟아지고, 읽을 수 없는 AI 생성 README가 넘쳐나며, 기술 담론 자체가 반지성적으로 변질되는 것을 목격했다. 또 다른 사례는 매스립(mathlib)이라는 린(Lean) 기반의 형식화된 수학 라이브러리로, AI가 이 "대성당"을 인간의 개입 없이 스스로 지어나갈 수 있다는 전망을 든다. OpenAI의 열 개 문제 해결 발표 자체도 핵심 사례로, 그중 부호 이론 문제 하나만 필자가 그 중요성을 직접 판단할 수 있었다는 고백은 이미 인간이 최전선 수학을 따라가지 못하고 있음을 보여주는 방증이다.
4. 시사점
이 글이 전하는 시사점은 두 갈래다. 하나는 비관적 전망으로, 인간이 결국 AI가 발견하고 AI가 이해하며 AI끼리 활용하는 지식 생산 사슬(수학→과학→공학)에서 완전히 배제되어, 원리를 이해하지 못한 채 결과물만 누리는 "귀신 들린 세상"에 살게 될 수 있다는 것이다. 다른 하나는 필자가 마지막에 강조하는 선택의 여지로, 기술 발전은 자연법칙처럼 필연적인 것이 아니라 인간의 선택이 누적된 결과이므로, 스스로를 무용지물로 만들 것인지 말 것인지는 여전히 인간의 결정에 달려 있다는 것이다. 다만 강화학습이 검증 가능한 영역(수학, 코딩)에서는 강하지만 직관적 영역에서는 약할 수 있다는 반론도 함께 제시하며, 이 논쟁이 아직 완전히 끝난 것은 아니라는 여지를 남긴다.
핵심 요약 (20줄)
- OpenAI는 아직 공개되지 않은 모델이 발견한 열 가지 미해결 수학 문제의 해법을 발표했다.
- 필자는 그중 부호 이론 문제 하나만 그 중요성을 판단할 수 있었지만, 신뢰하는 수학자들은 이번 성과 전체가 중요하다고 평가한다.
- 이 글은 AI가 수학을 접수하는 것을 부정하기 위해 사람들이 내놓을 법한 여러 대처법을 나열하고 각각을 반박한다.
- 필자의 의도는 사람들을 우울하게 만드는 것이 아니라 이 기술의 함의를 소화하도록 돕는 것이다.
- 이 논증은 "수학" 대신 "식물학" 등 다른 분야를 넣어도 성립할 만큼 이식 가능하다.
- 첫 번째 대처법인 "목표를 슬쩍 옮기기"는 너무 뻔해서 다룰 가치도 없다고 일축된다.
- "우리가 AI를 지휘할 것"이라는 대처법은, AI가 안목과 직관에서 인간을 능가하게 되면서 무너진다.
- "우리가 AI의 발견을 가르칠 것"이라는 대처법은, AI가 더 나은 교사가 되고 청중 자체가 사라지면서 무너진다.
- "우리가 결과를 정전으로 삼을 것"이라는 대처법은, AI가 매스립 같은 형식 수학의 대성당을 스스로 지을 수 있다는 점에서 무너진다.
- "우리가 AI 수학의 학생이 될 것"이라는 대처법은, AI가 초등 수학과 최전선 사이의 거리를 인간이 평생 배울 수 없는 수준까지 벌려 놓으면 무너진다.
- "인간이 결과를 이해할 필요가 있다"는 대처법은, 미래의 지식 생산 사슬(수학→과학→공학)이 전부 AI 대 AI로 이루어질 것이라는 점에서 부정된다.
- 그 결과 인간은 작동 원리를 이해하지 못한 채 경이로운 장치로 가득한 세상에서 살게 될 것이라고 필자는 전망한다.
- "체스에서도 컴퓨터가 초인적이지만 우리는 여전히 체스를 둔다"는 대처법은 흥미롭지만, 체스가 자기완결적이라는 점에서 수학과 다르다고 반박된다.
- 수학은 과학과 세상을 이해하는 근본 도구이므로, 인간을 대체하는 수학 AI는 체스 엔진과 달리 실질적 유용성을 갖는다.
- "수학자들은 여전히 스스로 수학을 할 것"이라는 대처법은 수학이 사회적 맥락에 내재되어 있다는 사실을 간과한다고 지적된다.
- 필자는 소프트웨어 개발에서 이미 담론이 반지성적으로 변하고 슬롭 PR과 읽을 수 없는 AI 생성 README가 넘쳐나는 것을 실제 사례로 든다.
- 인간은 사회적 동물이라 순전히 내적 동기만으로 장기간 활동을 지속하기 어렵기 때문에, 취미로서의 수학도 같은 붕괴를 겪을 수 있다.
- 필자는 기술 발전이 행성의 궤도처럼 필연적인 것이 아니라 인간의 선택이 누적된 결과라고 강조하며 글을 마무리한다.
- 다만 AGI는 악마의 거래로, 기술 진보를 가속할 수 있지만 인간이 결국 반려동물 같은 처지가 될 위험도 안고 있다.
- 강화학습이 검증 가능한 영역에서만 강할 수 있다는 반론도 있지만, 막대한 자본과 인재가 투입되고 있어 이 반론이 얼마나 버틸지는 미지수다.