원문: https://simonwillison.net/2026/Aug/2/open-letters/
이 글은 원래 제 후원자 전용 뉴스레터(sponsors-only newsletter)의 한 섹션으로 쓴, 지난 몇 주간의 공개서한(open letters)들에 대한 요약인데, 여기에도 함께 공유하기로 했다.
Open Weights and American AI Leadership(오픈 웨이트와 미국의 AI 리더십)는 마이크로소프트(Microsoft)가 주도했으며, 7월 24일자로 NVIDIA, Amazon, Y Combinator, The Linux Foundation, 그리고 (나중에 서명에 합류한) OpenAI를 포함해 AI 관련 기업 235곳이 서명했다.
이는 현재 미국 정부가 '안전(safety)'을 이유로 오픈 웨이트(open weight) 모델을 금지하거나 제한하려는 움직임에 맞서기 위해 만들어진 주장임이 분명하다 — Claude Fable 5에게 일어난 일을 생각하면 충분히 납득할 만한 우려다!
폐쇄형 모델(closed model)에만 의존하는 것이 본질적으로 안전한 것은 아니다. 이런 모델들도 침해당하거나 오용되거나, 외부인이 감지할 수 없는 방식으로 실패할 수 있다. 그리고 소수의 폐쇄형 모델에 첨단 AI 역량이 집중되면 이러한 위험은 더욱 커진다. 이는 소수의 단일 장애점(single point of failure)을 만들고, 경쟁을 약화시키며, 핵심 기술을 소수의 공급자 손에 맡기는 결과를 낳는다. 반면 오픈 웨이트 모델은 폭넓은 연구자·개발자 커뮤니티가 그 동작을 검토하고, 취약점을 찾아내고, 안전장치를 개발하며, 시간이 지남에 따라 개선해 나갈 수 있게 해준다.
이 서한에서 한 가지 놀라운 대목은, 다른 모델의 출력을 학습에 활용하는 증류(distillation)를 지지하고 나섰다는 점이다:
이 생태계를 만들어가는 과정에서 정책 입안자들은 정당한 모델 개발 기법과 부당한 도용(misappropriation)을 혼동하지 않도록 주의해야 한다. 한 모델의 출력을 다른 모델의 학습이나 개선에 활용하는 증류는 모델 개선·평가·검증을 위해 널리 쓰이는 기법이다. 이는 기존 기술로부터 배우고, 그 위에 쌓아 올리고, 개선해 나가는 오랜 전통을 반영하는 것으로, 오픈소스 소프트웨어 운동이 부상한 이래 혁신을 이끌어온 전통이기도 하다.
눈에 띄게 서명 목록에서 빠진 곳이 있는데, 바로 Anthropic이다. Anthropic은 사흘 뒤 자체 대응 문서인 Our position on open-weights models(오픈 웨이트 모델에 대한 우리의 입장)를 발표했다. CEO 다리오 아모데이(Dario Amodei)는 권위주의 정부가 "미국이 만든 것보다 더 강력한 AI 모델"을 구축할 위험과, 모델이 "사이버 공격이나 생물학적 공격을 수행하는 데 오용될" 위험을 재차 강조하며 "산업 규모의 증류 작업"에 대한 단속을 촉구했다. 동시에 "Anthropic은 오픈 웨이트 모델 금지를 주장한 적이 없다"고도 밝혔다.
이어 7월 28일에는 Pacing the Frontier(프런티어의 속도 조절)가 발표됐는데, "프런티어 AI 기업 직원 1,324명"이 서명에 참여했다 — Jakub Pachocki(OpenAI 수석 과학자), Ilya Sutskever(Safe Superintelligence Inc, 전 OpenAI), Dario Amodei(Anthropic), Jack Clark(Anthropic) 등의 이름이 포함됐다. 이들의 핵심 메시지는 다음과 같다:
우리는 미국 정부가 자동화된 AI 개발의 프런티어 속도를 의도적으로 조절하는 데 필요한 기술적·거버넌스 도구를 개발하기 위한 국제적 노력을 지원해 줄 것을 요청한다.
이들이 우려하는 것은 격렬한 경쟁 압박과, 자동화된 AI 연구로 인해 가속화되는 AI 발전이 결합된 상황이다 — Anthropic이 코드의 80%를 Claude Code로 작성하고, OpenAI가 Sol을 활용해 엔드투엔드 서빙 비용을 20% 절감했으며, Kimi K3가 자사 아키텍처로 만든 나노 모델을 서빙하기 위한 전용 칩까지 설계했다는 점을 생각하면, 왜 사람들이 지금 이 위험을 더 진지하게 받아들이고 있는지 이해할 수 있다.
핵심 요약 (20줄)
- Simon Willison이 후원자 전용 뉴스레터에 썼던 AI 관련 공개서한 요약을 블로그에도 공개했다.
- 마이크로소프트가 주도한 "Open Weights and American AI Leadership" 서한이 7월 24일 발표됐다.
- 이 서한에는 NVIDIA, Amazon, Y Combinator, Linux Foundation, OpenAI(나중에 합류) 등 235개 AI 관련 기업이 서명했다.
- 서한의 목적은 미국 정부가 안전을 이유로 오픈 웨이트 모델을 금지·제한하려는 움직임에 맞서는 것이다.
- Simon은 이 우려가 Claude Fable 5에 일어난 일을 감안하면 합리적이라고 평가했다.
- 서한은 폐쇄형 모델도 침해·오용·오작동 위험이 있으며, 소수 폐쇄형 모델에 역량이 집중되면 위험이 커진다고 주장한다.
- 서한은 단일 장애점 발생, 경쟁 약화, 핵심 기술의 소수 독점을 폐쇄형 모델의 문제로 지적한다.
- 반면 오픈 웨이트 모델은 커뮤니티가 검토·취약점 발견·안전장치 개발·개선을 할 수 있게 한다고 주장한다.
- 서한에서 특이한 점은 한 모델의 출력으로 다른 모델을 학습시키는 "증류(distillation)"를 명시적으로 지지한 것이다.
- 서한은 증류를 모델 개선·평가·검증에 널리 쓰이는 정당한 기법으로 규정하며 오픈소스 전통에 비유했다.
- 서명 목록에서 Anthropic이 눈에 띄게 빠졌다.
- Anthropic은 사흘 뒤 "오픈 웨이트 모델에 대한 우리의 입장"이라는 자체 대응문을 발표했다.
- CEO 다리오 아모데이는 권위주의 정부가 미국보다 강력한 AI를 만들 위험과 사이버·생물학 공격 오용 위험을 강조했다.
- 아모데이는 산업 규모의 증류 작업 단속을 촉구하면서도, Anthropic이 오픈 웨이트 모델 금지를 주장한 적은 없다고 밝혔다.
- 7월 28일에는 "Pacing the Frontier"라는 별도의 서한이 발표됐다.
- 이 서한에는 프런티어 AI 기업 직원 1,324명이 서명했으며, OpenAI 수석 과학자 Jakub Pachocki, 전 OpenAI의 Ilya Sutskever, Anthropic의 Dario Amodei와 Jack Clark 등이 포함됐다.
- 이 서한의 핵심 요구는 미국 정부가 자동화된 AI 개발 속도를 의도적으로 조절할 국제적 기술·거버넌스 체계 마련을 지원해달라는 것이다.
- 배경에는 자동화된 AI 연구로 가속화된 경쟁 압박이 있다.
- 실제로 Anthropic은 코드의 80%를 Claude Code로 작성하고, OpenAI는 Sol로 서빙 비용을 20% 절감했으며, Kimi K3는 자체 나노 모델용 전용 칩까지 설계했다.
- 이런 사례들이 AI 발전 속도에 대한 업계의 우려를 더 진지하게 만들고 있다고 Simon은 결론짓는다.